Nova Iorque
CNN
–
Um executivo que está saindo da OpenAI e focado em segurança está levantando preocupações sobre a empresa em sua saída.
Jan Leikeque renunciou ao cargo de líder da equipe de “superalinhamento” da empresa esta semana, disse em um tópico no X Sexta-feira que ele discordou das “prioridades centrais” da liderança da OpenAI e “chegou a um ponto de ruptura”.
“Alinhamento” ou “superalinhamento” são termos usados no espaço da inteligência artificial para se referir ao trabalho de formação de sistemas de IA para operar dentro das necessidades e prioridades humanas. Leike ingressou na OpenAI em 2021 e, no verão passado, a empresa anunciou que co-lideraria a equipe de superalinhamento focada em “avanços científicos e técnicos para dirigir e controlar sistemas de IA muito mais inteligentes do que nós”.
No entanto, Leike disse na sexta-feira que nos últimos meses a equipe teve poucos recursos e “navegou contra o vento”.
“Às vezes estávamos lutando por computação e estava ficando cada vez mais difícil realizar essa pesquisa crucial”, disse ele no X, acrescentando que quinta-feira foi seu último dia na startup. “Construir máquinas mais inteligentes que as humanas é um empreendimento inerentemente perigoso… Mas nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação aos produtos brilhantes.”
O CEO da OpenAI, Sam Altman, respondeu à postagem de Leike dizendo que a empresa está comprometida com a segurança da IA.
“(Estou) muito grato pelas contribuições de @janleike para a pesquisa de alinhamento e cultura de segurança da openai, e muito triste em vê-lo partir”, disse Altman no X. “(Ele) está certo, temos muito mais a fazer; estamos empenhados em fazê-lo. (Eu) terei uma postagem mais longa nos próximos dias.”
A saída de Leike, anunciada na quarta-feira, ocorre em meio a uma mudança mais ampla de liderança na OpenAI. Sua renúncia seguiu-se ao anúncio na terça-feira do cofundador e cientista-chefe da OpenAI, Ilya Sutskever, que também ajudou a liderar a equipe de superalinhamento, de que ele deixaria a empresa.
Sutskever disse ele estava saindo para trabalhar em um “projeto que é muito significativo para mim pessoalmente”. Mas a sua saída foi notável dado o papel central que desempenhou na dramática demissão – e regresso – de Altman no ano passado, quando votou pela destituição de Altman do cargo de executivo-chefe e presidente do conselho.
A colaboradora da CNN, Kara Swisher, relatou anteriormente que Sutskever estava preocupado com o fato de Altman estar levando a tecnologia de IA “longe demais, rápido demais”. Mas dias depois da demissão de Altman, Sutskever mudou de idéia: ele assinou uma carta aos funcionários pedindo a renúncia de todo o conselho e o retorno de Altman.
Ainda assim, questões sobre como — e com que rapidez — desenvolver e lançar publicamente a tecnologia de IA podem ter continuado a causar tensão dentro da empresa nos meses após Altman ter recuperado o controlo da empresa. As saídas dos executivos ocorrem depois que a OpenAI anunciou esta semana que disponibilizaria seu modelo de IA mais poderoso, o GPT-4o, gratuitamente ao público por meio do ChatGPT. A tecnologia tornará o ChatGPT mais parecido com um assistente pessoal digital, capaz de conversas faladas em tempo real.
“Acredito que muito mais da nossa largura de banda deveria ser gasta na preparação para as próximas gerações de modelos, em segurança, monitoramento, preparação, proteção, robustez adversária, (super)alinhamento, confidencialidade, impacto social e tópicos relacionados”, escreveu Leike em seu tópico X na sexta-feira. “Esses problemas são muito difíceis de resolver e estou preocupado por não estarmos no caminho certo para chegar lá.”
Na sequência das saídas de Sutskever e Leike, a OpenAI confirmou à CNN que nas últimas semanas tinha começado a dissolver a sua equipa de superalinhamento e, em vez disso, estava a integrar membros da equipa nos seus vários grupos de investigação. Um porta-voz da empresa disse que a estrutura ajudaria a OpenAI a atingir melhor seus objetivos de superalinhamento.
Samantha Delouya, da CNN, contribuiu para este relatório.