Anadolú | Anadolú | Imagens Getty
Jan Leike, um dos principais pesquisadores de segurança da OpenAI que se demitiu da empresa de inteligência artificial no início deste mês, disse na terça-feira que se juntou à startup rival de IA Anthropic.
Leike anunciou sua demissão da OpenAI em 15 de maio, dias antes de a empresa dissolver o grupo de superalinhamento que ele co-liderava. Essa equipe, formada em 2023, concentrou-se nos riscos de IA de longo prazo. O cofundador da OpenAI, Ilya Sutskever, anunciou sua saída em uma postagem no X em 14 de maio.
“Estou animado para me juntar à @AnthropicAI para continuar a missão de superalinhamento”, Leike escreveu no X. “Minha nova equipe trabalhará em supervisão escalonável, generalização de fraco para forte e pesquisa de alinhamento automatizada.”
Antrópico é apoiado por Amazonasque comprometeu até US$ 4 bilhões em financiamento para uma participação minoritária na empresa.
Em uma postagem após sua saída da OpenAI, Leike escreveu que: “Afastar-se deste trabalho foi uma das coisas mais difíceis que já fiz, porque precisamos urgentemente descobrir como dirigir e controlar sistemas de IA muito mais inteligentes do que nós. “
A segurança da IA ganhou rápida importância em todo o setor de tecnologia desde que a OpenAI introduziu o ChatGPT no final de 2022, dando início a um boom em produtos e investimentos generativos de IA. Alguns membros da indústria expressaram preocupação pelo facto de as empresas estarem a avançar demasiado rapidamente no lançamento de produtos poderosos de IA ao público, sem considerarem adequadamente os potenciais danos sociais.
OpenAI, que é apoiado por Microsoft, disse na terça-feira que criou um novo comitê de segurança liderado por executivos seniores, incluindo o CEO Sam Altman. O comitê recomendará “decisões de segurança e proteção para projetos e operações OpenAI” ao conselho da empresa.
A Anthropic, fundada em 2021 pelos irmãos Dario Amodei e Daniela Amodei e outros ex-executivos da OpenAI, lançou seu rival ChatGPT Claude 3 em março. Além da Amazon, a empresa recebeu financiamento da Google, Força de vendas e Ampliação.
ASSISTIR: Cofundador da Anthropic na adoção de IA
