O CEO da Microsoft, Satya Nadella (à direita), fala enquanto o CEO da OpenAI, Sam Altman (à esquerda), observa durante o evento OpenAI DevDay em São Francisco em 6 de novembro de 2023.
Justin Sullivan | Getty Images
Microsoft desistiu de seu assento de observador no conselho da OpenAI. Maçãque supostamente deveria assumir uma posição de observador semelhante, não irá mais perseguir tal posição, de acordo com o Financial Times. Mas qualquer que seja a clareza que as mudanças desta semana pretendiam proporcionar, muitas das mesmas preocupações persistem.
Os reguladores não estão se afastando, e para aqueles focados em ética em inteligência artificial, os mesmos medos — sobre lucros tendo precedência sobre a segurança — permanecem. Amba Kak, codiretor executivo do AI Now Institute, uma organização sem fins lucrativos, descreveu o anúncio como “subterfúgio” projetado para obscurecer os relacionamentos entre grandes empresas de tecnologia e novos participantes em IA.
“O momento dessa mudança importa”, escreveu Kak em uma mensagem à CNBC. “Deve ser visto como uma resposta direta ao escrutínio regulatório global a esses relacionamentos não convencionais.”
O forte vínculo entre a Microsoft e a OpenAI e o controle descomunal que as duas empresas têm sobre o setor de IA continuarão sendo examinados pela Comissão Federal de Comércio, de acordo com uma pessoa com conhecimento do assunto, que pediu para não ser identificada devido à confidencialidade.
Enquanto isso, as grandes faixas de desenvolvedores e pesquisadores de IA que estão preocupados com a segurança e a ética na indústria de IA cada vez mais lucrativa não se comovem. Funcionários atuais e antigos da OpenAI publicaram uma carta aberta em 4 de junho, descrevendo preocupações sobre os rápidos avanços que estão ocorrendo na IA, apesar da falta de supervisão e proteção aos denunciantes.
“As empresas de IA têm fortes incentivos financeiros para evitar supervisão efetiva, e não acreditamos que estruturas personalizadas de governança corporativa sejam suficientes para mudar isso”, escreveram os funcionários na carta. Eles acrescentaram que as empresas de IA “atualmente têm apenas obrigações fracas de compartilhar algumas dessas informações com governos, e nenhuma com a sociedade civil”, e não se pode “confiar que elas as compartilhem voluntariamente”.
Dias após a publicação da carta, uma fonte familiar confirmou à CNBC que a FTC e o Departamento de Justiça estavam prestes a abrir investigações antitruste sobre a OpenAI, a Microsoft e Nvidiacom foco na conduta das empresas.
A presidente da FTC, Lina Khan, descreveu a ação de sua agência como uma “investigação de mercado sobre os investimentos e parcerias que estão sendo formadas entre desenvolvedores de IA e grandes provedores de serviços de nuvem”. Kak disse à CNBC que as buscas dos reguladores estão ajudando a obter respostas e fornecer transparência.
A Microsoft não mencionou reguladores em sua explicação para abrir mão de seu assento de observador do conselho. A gigante do software disse que agora pode se afastar porque está satisfeita com a construção do conselho da startup, que foi completamente reformulado nos oito meses desde uma revolta que levou à breve saída do CEO Sam Altman e ameaçou o investimento massivo da Microsoft na OpenAI.
A Microsoft inicialmente assumiu uma cadeira sem direito a voto no conselho da OpenAI em novembro, após a saga Altman. O novo conselho inclui Paul Nakasone, ex-diretor da Agência de Segurança Nacional, juntamente com o CEO da Quora, Adam D’Angelo, o ex-secretário do Tesouro Larry Summers, o ex-co-CEO da Salesforce, Bret Taylor, e Altman. Também há novas adições de março: Dra. Sue Desmond-Hellmann, ex-CEO da Fundação Bill e Melinda Gates; Nicole Seligman, ex-vice-presidente executiva da Sony; e Fidji Simo, CEO da Instacart.
Após o anúncio da Microsoft na quarta-feira, a OpenAI disse Axios que a empresa está mudando sua abordagem sobre como se envolve com “parceiros estratégicos”. A Apple não fez uma declaração. Nenhuma das três empresas forneceu comentários à CNBC para esta história.
João Sedoc, professor assistente de tecnologia na Stern School of Business da Universidade de Nova York, disse que a última mudança da Microsoft é positiva para a indústria de IA por causa da influência percebida da empresa na OpenAI. Ele disse que era “crítico” para a Microsoft “intervir e ajudar a estabilizar” a OpenAI após a demissão repentina seguida pela rápida reintegração de Altman.
“A presença da Microsoft apresenta uma mistura de conflito de interesses e vantagem competitiva”, disse Sedoc, acrescentando: “A Microsoft e a OpenAI têm uma relação estranha, pois ambas têm sinergias e concorrência ao mesmo tempo”.
‘Grande quantidade de informação’
Além do investimento de aproximadamente US$ 13 bilhões da Microsoft na OpenAI, as duas empresas trabalham juntas para fornecer produtos e serviços de IA generativa. O popular chatbot ChatGPT da OpenAI é alimentado por seus grandes modelos de linguagem, que rodam na tecnologia de nuvem Azure da Microsoft.
Mas as duas empresas não estão completamente alinhadas. No início deste ano, a Microsoft pagou uma indenização de US$ 650 milhões licenciar a tecnologia da Inflection AI e contratar talentos importantes da empresa, principalmente o CEO Mustafa Suleyman, que anteriormente foi cofundador da DeepMind, a startup de IA adquirida pelo Google em 2014.
Ben Miller, CEO da plataforma de investimentos Fundrise, disse que, após o acordo com a Inflection, a Microsoft está “agora no caminho para se tornar uma concorrente real da OpenAI”, o que significa que ela não deveria estar na sala de reuniões da startup.
“Ter uma voz na mesa é extremamente influente para a empresa e dá à Microsoft uma enorme quantidade de informações sobre as atividades do negócio”, disse Miller.
Mustafa Suleyman, cofundador da Inflection.ai e DeepMind, falando no Squawk Box da CNBC na Reunião Anual do Fórum Econômico Mundial em Davos, Suíça, em 17 de janeiro de 2024.
Adam Galici | CNBC
Sedoc disse à CNBC que a separação representa o precedente certo, já que as grandes empresas de tecnologia estão se tornando cada vez mais grandes investidores em IA. Ele citou startups de IA como a Anthropic, apoiada pela Amazon, e a Hugging Face, cujos investidores incluem Google, Amazon, Nvidia e outros.
Eles “provavelmente estão pensando nos efeitos posteriores do que isso significaria para o movimento geral da indústria”, disse Sedoc.
No entanto, uma área onde Sedoc disse que poderia ser problemática é a segurança da IA.
“Acho que a Microsoft tem muita expertise e uma história mais longa em pensar sobre isso em muitos domínios diferentes que a OpenAI não tem”, disse Sedoc. “Dessa perspectiva, acho que haverá alguma desvantagem em eles não estarem na mesa.”
As práticas de segurança da IA estavam no centro do desentendimento entre Altman e o conselho anterior da OpenAI e continuam a causar fissuras na empresa.
Em maio, a OpenAI dissolveu sua equipe focada nos riscos de longo prazo da IA apenas um ano após a empresa anunciar o grupo. A notícia foi divulgada dias após os dois líderes de equipe, o cofundador da OpenAI Ilya Sutskever e Jan Leike, anunciarem suas saídas da empresa. Em uma publicação no X, Leike escreveu que a “cultura e os processos de segurança da OpenAI ficaram em segundo plano em relação a produtos brilhantes” e que ele está “preocupado” com o fato de a empresa não estar na trajetória certa.
“Construir máquinas mais inteligentes que os humanos é um empreendimento inerentemente perigoso”, escreveu Leike. “A OpenAI está assumindo uma enorme responsabilidade em nome de toda a humanidade.”
Ao anunciar a nomeação de Nakasone para o conselho no mês passado, a OpenAI disse que ele se juntaria ao recém-criado Safety and Security Committee. A OpenAI disse na época que o grupo está gastando 90 dias avaliando os processos e salvaguardas da empresa antes de fazer recomendações ao conselho e, eventualmente, atualizar o público.
—Ryan Browne, Matt Clinch e Steve Kovach, da CNBC, contribuíram com a reportagem.
ASSISTIR: OpenAI hackeado em abril de 2023 não divulgado ao público
