O CEO da OpenAI, Sam Altman, fala durante a conferência Microsoft Build na sede da Microsoft em Redmond, Washington, em 21 de maio de 2024.
Jason Redmond | AFP | Imagens Getty
A OpenAI disse na terça-feira que criou um Comitê de Segurança e Proteção liderado por executivos seniores, após dissolver seu conselho de supervisão anterior em meados de maio.
O novo comitê será responsável por fazer recomendações ao conselho da OpenAI “sobre decisões críticas de segurança e proteção para projetos e operações da OpenAI”, disse a empresa.
Acontece no momento em que o desenvolvedor do assistente virtual ChatGPT anuncia que começou a treinar seu “modelo de próxima fronteira”.
A empresa disse em uma postagem no blog que antecipa os “sistemas resultantes para nos levar ao próximo nível de capacidades no nosso caminho para a AGI”, ou inteligência artificial geral – que se relaciona com a IA que é tão ou mais inteligente que os humanos.
A formação de uma nova equipe de supervisão ocorre depois que a OpenAI dissolveu uma equipe anterior que estava focada nos riscos de longo prazo da IA. Antes disso, os dois líderes de equipe, o cofundador da OpenAI, Ilya Sutskever e Jan Leike, anunciaram suas saídas da startup apoiada pela Microsoft.
A segurança da IA tem estado na vanguarda de um debate mais amplo, à medida que os enormes modelos que sustentam aplicações como o ChatGPT se tornam mais avançados. Os desenvolvedores de produtos de IA também estão se perguntando quando a AGI chegará e quais riscos virão com ela.
Bret Taylor, Adam D’Angelo e Nicole Seligman, todos membros do conselho de administração da OpenAI, agora fazem parte do novo comitê de segurança ao lado de Altman.
Leike escreveu este mês que “a cultura e os processos de segurança da OpenAI ficaram em segundo plano em relação aos produtos brilhantes”. Em resposta à sua saída, Altman disse na plataforma de mídia social X que estava triste com a saída de Leike, acrescentando que a OpenAI tem “muito mais a fazer”.
Nos próximos 90 dias, o grupo de segurança avaliará os processos e salvaguardas da OpenAI e compartilhará suas recomendações com o conselho da empresa. A OpenAI fornecerá uma atualização sobre as recomendações que adotou posteriormente.
– Hayden Field da CNBC contribuiu para este relatório.