A tela de bate-papo do ChatGPT em um smartphone organizado no bairro do Brooklyn, em Nova York, EUA, na quinta-feira, 9 de março de 2023. O ChatGPT tornou mais fácil escrever códigos de computador e colar na lição de casa. Em breve, ele pode tornar os golpes por e-mail uma moleza. Esse é o aviso da Darktrace Plc, a empresa britânica de segurança cibernética.
Gabby Jones | Bloomberg | Getty Images
O cofundador da OpenAI, John Schulman, disse em uma postagem no Monday X que deixaria a Microsoftempresa apoiada e junte-se à Anthropic, uma startup de inteligência artificial com financiamento de Amazonas.
A mudança ocorre menos de três meses após a OpenAI dissolver uma equipe de superalinhamento que se concentrava em tentar garantir que as pessoas pudessem controlar sistemas de IA que excedessem a capacidade humana em muitas tarefas.
Schulman foi co-líder da equipe de pós-treinamento da OpenAI que refinou modelos de IA para o chatbot ChatGPT e uma interface de programação para desenvolvedores terceirizados, de acordo com uma biografia em seu local na rede Internet. Em junho, a OpenAI disse Schulman, como chefe de ciência de alinhamento, se juntaria a um comitê de segurança que forneceria aconselhamento ao conselho. Schulman só trabalhou na OpenAI desde que recebeu um Ph.D. em ciência da computação em 2016 pela University of California, Berkeley.
“Essa escolha decorre do meu desejo de aprofundar meu foco no alinhamento de IA e de começar um novo capítulo da minha carreira, onde posso retornar ao trabalho técnico prático”, escreveu Schulman no postagem em mídia social.
Ele disse que não estava saindo por falta de apoio para novos trabalhos sobre o tema na OpenAI.
“Pelo contrário, os líderes da empresa estão muito comprometidos em investir nessa área”, disse ele.
Os líderes da equipe de superalinhamento, Jan Leike e o cofundador da empresa Ilya Sutskever, ambos saíram este ano. Leike se juntou à Anthropic, enquanto Sutskever disse que estava ajudando a iniciar uma nova empresa, a Safe Superintelligence Inc.
Desde que os membros da equipe da OpenAI estabeleceram a Anthropic em 2021, as duas jovens empresas sediadas em São Francisco têm batalhado para ter os modelos de IA generativa de melhor desempenho que podem gerar texto semelhante ao humano. Amazon, Google e Meta também desenvolveram grandes modelos de linguagem.
“Muito animado por trabalharmos juntos novamente!” Leike escreveu em resposta à mensagem de Schulman.
Sam Altman, cofundador e CEO da OpenAI, disse em um publicar por conta própria que a perspectiva de Schulman informou a estratégia inicial da startup.
Schulman e outros escolheram sair depois que o conselho afastou Altman do cargo de chefe em novembro passado. Os funcionários protestaram contra a decisão, levando Sutskever e dois outros membros do conselho, Tasha McCauley e Helen Toner, a renunciar. Altman foi reintegrado e a OpenAI assumiu membros adicionais do conselho.
Toner disse em um podcast que Altman havia fornecido ao conselho informações incorretas sobre o “pequeno número de processos formais de segurança que a empresa tinha em vigor”.
O escritório de advocacia WilmerHale encontrou em um processo independente análise que o conselho não estava preocupado com a segurança do produto quando expulsou Altman.
Na semana passada, Altman disse em X que a OpenAI “tem trabalhado com o US AI Safety Institute em um acordo onde forneceríamos acesso antecipado ao nosso próximo modelo de fundação para que possamos trabalhar juntos para impulsionar a ciência das avaliações de IA.” Altman disse que a OpenAI ainda está comprometida em manter 20% de seus recursos de computação para iniciativas de segurança.
Também na segunda-feira, Greg Brockman, outro cofundador da OpenAI e seu presidente, anunciou que estava fazendo uma sabático pelo resto do ano.
ASSISTIR: OpenAI anuncia um mecanismo de busca chamado SearchGPT
