Seul, Coreia do Sul — As principais empresas de inteligência artificial assumiram um novo compromisso numa mini-cimeira na terça-feira para desenvolver a IA com segurança, enquanto os líderes mundiais concordaram em construir uma rede de institutos de segurança apoiados publicamente para promover a investigação e os testes da tecnologia.
Google, Meta e OpenAI estiveram entre as empresas que assumiram compromissos voluntários de segurança na AI Seoul Summit, incluindo desligar os seus sistemas de ponta se não conseguirem controlar os riscos mais extremos.
A reunião de dois dias é uma continuação da Cúpula de Segurança de IA de novembro em Bletchley Park, no Reino Unido, e ocorre em meio a uma enxurrada de esforços de governos e órgãos globais para projetar proteções para a tecnologia em meio a temores sobre o risco potencial que ela representa. para a vida cotidiana e para a humanidade.
Líderes de 10 países e da União Europeia irão “forjar um entendimento comum sobre a segurança da IA e alinhar o seu trabalho na investigação da IA”, disse o governo britânico, que co-organizou o evento, num comunicado. já criado pelo Reino Unido, EUA, Japão e Singapura desde a reunião de Bletchley, afirmou.
O secretário-geral da ONU, António Guterres, disse na sessão de abertura que, sete meses após a reunião de Bletchley, “estamos a assistir a avanços tecnológicos que mudam vidas e a novos riscos que ameaçam a vida – desde a desinformação à vigilância em massa e à perspectiva de armas autónomas letais”.
O chefe da ONU disse num discurso em vídeo que é necessário haver barreiras de proteção universais e um diálogo regular sobre IA. “Não podemos caminhar sonâmbulos para um futuro distópico onde o poder da IA é controlado por algumas pessoas – ou pior, por algoritmos além da compreensão humana”, disse ele.
As 16 empresas de IA que assinaram os compromissos de segurança também incluem Amazon, Microsoft, Samsung, IBM, xAI, Mistral AI da França, Zhipu.ai da China e G42 dos Emirados Árabes Unidos. Eles prometeram garantir a segurança dos seus modelos de IA mais avançados com promessas de governação responsável e transparência pública.
Não é a primeira vez que as empresas de IA assumem compromissos de segurança que parecem elevados, mas não vinculativos. Amazon, Google, Meta e Microsoft estavam entre um grupo que se inscreveu no ano passado em salvaguardas voluntárias intermediadas pela Casa Branca para garantir que os seus produtos são seguros antes de serem lançados.
A reunião de Seul ocorre no momento em que algumas dessas empresas lançam as versões mais recentes de seus modelos de IA.
O compromisso de segurança inclui a publicação de quadros que definam a forma como as empresas irão medir os riscos dos seus modelos. Em casos extremos em que os riscos são graves e “intoleráveis”, as empresas de IA terão de apertar o interruptor e parar de desenvolver ou implementar os seus modelos e sistemas se não conseguirem mitigar os riscos.
Desde a reunião do Reino Unido no ano passado, a indústria da IA “concentrou-se cada vez mais nas preocupações mais prementes, incluindo a informação errada e a desinformação, a segurança dos dados, o preconceito e a manutenção dos seres humanos informados”, disse Aiden Gomez, CEO da Cohere, uma das empresas Empresas de IA que assinaram o pacto. “É essencial que continuemos a considerar todos os riscos possíveis, ao mesmo tempo que priorizamos os nossos esforços naqueles com maior probabilidade de criar problemas se não forem devidamente tratados.”
Os governos de todo o mundo têm lutado para formular regulamentos para a IA, mesmo quando a tecnologia faz rápidos avanços e está preparada para transformar muitos aspectos da vida quotidiana, desde a educação e o local de trabalho até aos direitos de autor e à privacidade. Há preocupações de que os avanços na IA possam eliminar empregos, espalhar desinformação ou ser utilizados para criar novas armas biológicas.
A reunião desta semana é apenas um de uma série de esforços sobre governação da IA. A Assembleia Geral da ONU aprovou a sua primeira resolução sobre a utilização segura de sistemas de IA, enquanto os EUA e a China realizaram recentemente as suas primeiras conversações de alto nível sobre IA e a primeira lei mundial sobre IA da União Europeia deverá entrar em vigor ainda este ano.
__
Chan contribuiu para este relatório de Londres. A redatora da Associated Press, Edith M. Lederer, contribuiu das Nações Unidas.