A vantagem do conhecimento pode salvar vidas, vencer guerras e evitar desastres. Na Agência Central de Inteligência, a inteligência artificial básica – aprendizagem automática e algoritmos – há muito que cumpre essa missão. Agora, a IA generativa está se juntando ao esforço.
O diretor da CIA, William Burns, diz que a tecnologia de IA aumentará os humanos, não os substituirá. O primeiro diretor de tecnologia da agência, Nand Mulchandani, está organizando as ferramentas. Há uma urgência considerável: os adversários já estão a espalhar deepfakes gerados por IA com o objetivo de minar os interesses dos EUA.
Ex-CEO do Vale do Silício que dirigiu startups de sucesso, Mulchandani foi nomeado para o cargo em 2022, após uma passagem pelo Centro Conjunto de Inteligência Artificial do Pentágono.
Entre os projetos da agência: Um aplicativo de IA generativo semelhante ao ChatGPT que se baseia em dados de código aberto (ou seja, não classificados, públicos ou disponíveis comercialmente). Milhares de analistas das 18 agências da comunidade de inteligência dos EUA o utilizam. Outros projectos da CIA que utilizam modelos de linguagem ampla são, sem surpresa, secretos.
Esta entrevista da Associated Press com Mulchandani foi editada para maior extensão e clareza.
P: Você disse recentemente que a IA generativa deveria ser tratada como um “amigo louco e bêbado”. Você pode elaborar?
R: Quando esses sistemas generativos de IA “alucinam”, às vezes eles podem se comportar como seu amigo bêbado em um bar, que pode dizer algo que o empurra para fora de seu limite conceitual normal e desperta um pensamento inovador. Lembre-se de que esses sistemas baseados em IA são de natureza probabilística, portanto não são precisos (são propensos à fabricação). Portanto, para tarefas criativas como arte, poesia e pintura, esses sistemas são excelentes. Mas eu ainda não usaria esses sistemas para fazer contas precisas ou projetar um avião ou arranha-céu – nessas atividades “próximo o suficiente” não funciona. Eles também podem ser tendenciosos e com foco restrito, o que chamo de problema da “toca do coelho”.
P: O único uso atual de um modelo de linguagem grande em escala empresarial que conheço na CIA é a IA de código aberto, chamada Osiris, que foi criada para toda a comunidade de inteligência. Isso está correto?
R: Esse é o único que divulgamos publicamente. Foi um home run absoluto para nós. No entanto, deveríamos ampliar a discussão para além dos LLMs – por exemplo, processamos enormes quantidades de conteúdo em língua estrangeira em vários tipos de mídia, incluindo vídeo, e usamos outros algoritmos e ferramentas de IA para processar isso.
P: O Projeto Especial de Estudos Competitivos, um grupo consultivo de alto poder focado na IA na segurança nacional, publicou um relatório dizendo que os serviços de inteligência dos EUA devem integrar rapidamente a IA generativa – dado o seu potencial disruptivo. Ele estabelece um cronograma de dois anos para ir além da experimentação e dos projetos-piloto limitados e “implantar ferramentas Gen AI em escala”. Você concorda?
R: A CIA está 100% apostada na utilização dessas tecnologias e na sua expansão. Estamos levando isso tão a sério quanto provavelmente levamos qualquer questão tecnológica. Achamos que superamos o cronograma inicial por uma grande margem, pois já estamos usando ferramentas Gen AI em produção. A resposta mais profunda é que estamos no início de um grande número de mudanças adicionais, e uma grande parte do trabalho consiste em integrar a tecnologia de forma mais ampla nas nossas aplicações e sistemas. Estes são os primeiros dias.
P: Você pode nomear seus parceiros modelo em idiomas grandes?
R: Não tenho certeza se nomear os fornecedores é interessante no momento. Há uma explosão de LLMs disponíveis no mercado agora. Como clientes inteligentes, não estamos vinculando nosso barco a um conjunto específico de LLMs ou a um conjunto específico de fornecedores. Estamos avaliando e usando praticamente todos os LLMs de alto desempenho existentes, tanto de nível comercial quanto de código aberto. Não estamos vendo o mercado de LLM como um mercado único, onde um único laboratório é melhor que os outros. Como você notou no mercado, os modelos estão se superando a cada novo lançamento.
P: Quais são os casos de uso mais importantes na CIA para modelos de linguagem grande?
R: O principal é o resumo. É impossível para um analista de código aberto da CIA digerir a quantidade de mídia e outras informações que coletamos todos os dias. Portanto, isso mudou o jogo em termos de insights sobre o sentimento e as tendências globais. Os analistas então se aprofundam nos detalhes. Eles devem ser capazes – com total certeza – de anotar e explicar os dados que citam e como chegam às conclusões. Nosso ofício não mudou. As peças adicionais dão aos analistas uma perspectiva muito mais ampla – tanto as peças classificadas quanto as de código aberto que reunimos.
P: Quais são os maiores desafios da adaptação da IA generativa na agência?
R: Não há muita resistência cultural internamente. Nossos funcionários lidam diariamente com IA de forma competitiva. Obviamente, o mundo inteiro está em chamas com estas novas tecnologias e com os surpreendentes ganhos de produtividade. O truque é lidar com as restrições que temos na compartimentalização da informação e na forma como os sistemas são construídos. Em muitos casos, a separação de dados não é por razões de segurança, mas por razões legais. Como conectamos sistemas de forma eficiente para obter os benefícios da IA e, ao mesmo tempo, manter tudo isso intacto? Algumas tecnologias realmente interessantes estão surgindo para nos ajudar a pensar sobre isso – e combinar dados de forma a manter a criptografia e os controles de privacidade.
P: Atualmente, a IA generativa é tão sofisticada quanto um aluno do ensino fundamental. O trabalho de inteligência, por outro lado, é para adultos. É tudo uma questão de tentar furar o engano do adversário. Como a Gen AI se encaixa nesse trabalho?
R: Primeiro, vamos enfatizar que o analista humano tem primazia. Temos os maiores especialistas do mundo em seus domínios. E em muitos casos de informação recebida, está envolvido um enorme esforço de julgamento humano para avaliar a sua importância e significado – incluindo por parte dos indivíduos que a podem fornecer. Não temos máquinas que reproduzam nada disso. E não estamos procurando computadores para fazer o trabalho de especialistas no domínio.
O que estamos vendo é o modelo co-piloto. Acreditamos que a Gen AI pode ter um enorme impacto no brainstorming, apresentando novas ideias. E no aumento da produtividade – e da percepção. Temos que ser muito deterministas sobre a forma como o fazemos porque, quando utilizados de forma adequada, estes algoritmos são uma força para o bem. Mas manejados incorretamente, eles podem realmente machucar você.