Seul, Coreia do Sul — A Coreia do Sul deverá acolher esta semana uma mini-cimeira sobre riscos e regulamentação da inteligência artificial, na sequência de uma reunião inaugural sobre segurança da IA na Grã-Bretanha no ano passado, que atraiu uma multidão diversificada de luminares da tecnologia, investigadores e funcionários.
A reunião em Seul visa dar continuidade ao trabalho iniciado na reunião do Reino Unido sobre como controlar as ameaças representadas por sistemas de inteligência artificial de ponta.
Aqui está o que você precisa saber sobre o AI Seoul Summit e as questões de segurança da IA.
QUE ESFORÇOS INTERNACIONAIS FORAM FEITOS NA SEGURANÇA DA IA?
A cimeira de Seul é um dos muitos esforços globais para criar barreiras de protecção para o rápido avanço da tecnologia que promete transformar muitos aspectos da sociedade, mas também levantou preocupações sobre novos riscos para a vida quotidiana, como o viés algorítmico que distorce os resultados da pesquisa e potenciais ameaças existenciais. para a humanidade.
Na cimeira de Novembro no Reino Unido, realizada numa antiga base secreta de decifração de códigos durante a guerra em Bletchley, a norte de Londres, investigadores, líderes governamentais, executivos tecnológicos e membros de grupos da sociedade civil, muitos deles com opiniões opostas sobre a IA, reuniram-se em conversações a portas fechadas. O CEO da Tesla, Elon Musk, e o CEO da OpenAI, Sam Altman, misturaram-se com políticos como o primeiro-ministro britânico Rishi Sunak.
Delegados de mais de duas dezenas de países, incluindo os EUA e a China, assinaram a Declaração de Bletchley, concordando em trabalhar em conjunto para conter os riscos potencialmente “catastróficos” colocados pelos avanços galopantes na inteligência artificial.
Em Março, a Assembleia Geral da ONU aprovou a sua primeira resolução sobre inteligência artificial, apoiando um esforço internacional para garantir que a nova e poderosa tecnologia beneficie todas as nações, respeite os direitos humanos e seja “segura, protegida e fiável”.
No início deste mês, os EUA e a China realizaram as suas primeiras conversações de alto nível sobre inteligência artificial em Genebra para discutir como enfrentar os riscos da tecnologia em rápida evolução e estabelecer padrões partilhados para a gerir. Lá, as autoridades dos EUA levantaram preocupações sobre o “uso indevido da IA” pela China, enquanto os representantes chineses repreenderam os EUA pelas “restrições e pressões” sobre a inteligência artificial, de acordo com os seus governos.
O QUE SERÁ DISCUTIDO NA CÚPULA DE SEUL?
A reunião de 21 a 22 de maio é co-organizada pelos governos da Coreia do Sul e do Reino Unido.
No primeiro dia, terça-feira, o presidente sul-coreano Yoon Suk Yeol e Sunak se reunirão virtualmente com os líderes. Espera-se que as principais empresas de IA forneçam atualizações sobre como têm cumprido os compromissos assumidos na cimeira de Bletchley para garantir a segurança dos seus modelos de IA.
No segundo dia, os ministros digitais se reunirão para uma reunião presencial organizada pelo Ministro da Ciência da Coreia do Sul, Lee Jong-ho, e pela Secretária de Tecnologia da Grã-Bretanha, Michelle Donelan. Os tópicos sublinham como o foco foi alargado para além dos riscos extremos que foram o foco da cimeira de Bletchley. Os participantes compartilharão melhores práticas e planos de ação concretos. Eles também compartilharão ideias sobre como proteger a sociedade dos impactos potencialmente negativos da IA em áreas como o uso de energia, os trabalhadores e a proliferação de informações falsas e desinformadas, de acordo com os organizadores.
A reunião foi apelidada de mini cimeira virtual, servindo como uma reunião provisória até uma edição presencial completa que a França se comprometeu a realizar.
A reunião dos ministros digitais incluirá representantes de países como Estados Unidos, China, Alemanha, França e Espanha e empresas como OpenAI, fabricante do ChatGPT, Google, Microsoft e Antrópico.
QUE PROGRESSO FIZERAM OS ESFORÇOS DE SEGURANÇA DA IA?
O acordo alcançado na reunião do Reino Unido era escasso em detalhes e não propunha uma forma de regular o desenvolvimento da IA.
“Os Estados Unidos e a China chegaram à última cimeira. Mas quando olhamos para alguns princípios anunciados após a reunião, eles eram semelhantes ao que já tinha sido anunciado após algumas reuniões da ONU e da OCDE”, disse Lee Seong-yeob, professor da Escola de Pós-Graduação em Gestão de Tecnologia da Universidade da Coreia, em Seul. “Não havia nada de novo.”
É importante realizar uma cimeira global sobre questões de segurança da IA, disse ele, mas será “consideravelmente difícil” para todos os participantes chegarem a acordos, uma vez que cada país tem interesses diferentes e níveis diferentes de tecnologias e indústrias nacionais de IA.
À medida que os governos e os organismos globais consideram como regular a IA à medida que esta melhora na execução de tarefas executadas por seres humanos, os desenvolvedores dos sistemas de IA mais poderosos estão a unir-se para definir a sua própria abordagem partilhada para definir padrões de segurança da IA. A empresa-mãe do Facebook, Meta Platforms, e a Amazon anunciaram na segunda-feira que estão se juntando ao Frontier Model Forum, um grupo fundado no ano passado pela Anthropic, Google, Microsoft e OpenAI.
O relatório provisório de um painel de especialistas sobre o estado da segurança da IA, divulgado na sexta-feira para informar as discussões em Seul, identificou uma série de riscos representados pela IA de uso geral, incluindo seu uso malicioso para aumentar a “escala e sofisticação” de fraudes e golpes, turbinar o disseminação de desinformação ou criação de novas armas biológicas.
O mau funcionamento dos sistemas de IA pode espalhar preconceitos em áreas como a saúde, o recrutamento de empregos e os empréstimos financeiros, enquanto o potencial da tecnologia para automatizar uma grande variedade de tarefas também representa riscos sistémicos para o mercado de trabalho, afirma o relatório.
A Coreia do Sul espera aproveitar a cimeira de Seul para tomar a iniciativa na formulação de governação e normas globais para a IA. Mas alguns críticos dizem que o país carece de infraestruturas de IA suficientemente avançadas para desempenhar um papel de liderança em tais questões de governação.
__
Chan relatou de Londres. O redator de tecnologia da AP, Matt O’Brien, contribuiu de Providence, Rhode Island.