A Maçãa Microsoft eo Google anunciaram uma nova era de smartphones e computadores com inteligência artificial (IA), afirmando que os dispositivos vão automatizar tarefas como editar fotos ou parabenizar um amigo que está fazendo aniversário. Mas, para que isso funcione, essas empresas precisam que você compartilhe mais dados seus.
Nesse novo cenário, seu computador com sistema operacional Windows fará capturas de tela a cada poucos segundos, registrando tudo o que você faz. O Iphone vai coletar informações de todos os aplicativos que você usa. E o Android poderá ouvir uma ligação em tempo real para alertar sobre golpes. Você está disposto a compartilhar essas informações?
Essa mudança tem implicações significativas para nossa privacidade. Para oferecer os novos serviços, as empresas e seus dispositivos precisamos acessar nossos dados de maneira mais contínua e detalhada do que antes.
No passado, a forma como usávamos os aplicativos e acessávamos arquivos e fotos embaladas e computadores era relativamente isolada e independente. Mas, segundo especialistas em segurança, a IA precisa de uma visão integrada para relacionar o que fazemos nos aplicativos, nos sites e durante a comunicação digital.
“Eu sinto que estou seguro dando informações a essa empresa?”, perguntou Cliff Steinhauer, diretor da National Cybersecurity Alliance, organização sem fins lucrativos especializada em cibersegurança, a respeito das estratégias de IA das corporações.
Tudo isso é resultado da revolução na indústria tecnológica causada pelo ChatGPT, da OpenAI, há quase dois anos. Desde então, convencidas de que esse novo tipo de interface computacional —que analisa constantemente o que você está fazendo para oferecer ajuda— vai se tornar obrigatório, a Apple, o Google, a Microsoft e outras empresas reformularam suas estratégias de produtos, investindo bilhões em novos serviços baseados em IA.
Segundo especialistas, o maior risco potencial para a segurança resulta de uma mudança sutil na operação de nossos novos dispositivos. Como a IA pode automatizar ações complexas —remover objetos indesejados de uma foto, por exemplo—, às vezes requer mais poder de processamento do que os seus podem oferecer. Isso significa que nossos dados pessoais podem precisar sair do smartphone com mais frequência para serem acessados em outro lugar.
As informações são transmitidas para a nuvem —rede de servidores que processam dados—, na qual o acesso aos dados pode ser maior, incluindo funcionários da empresa, pessoas mal-intencionadas e agências governamentais. E, embora sempre tenham sido armazenados na nuvem, nossos dados mais pessoais e íntimos, aos quais antes só temos acesso —como fotos, mensagens e e-mails—, agora podem ser conectados e analisados por uma empresa em seus servidores.
Como as colônias de tecnologia afirmam ter feito o possível para proteger os dados dos cidadãos.
Por enquanto, é importante entender o destino de nossos dados ao usar as ferramentas de IA, por isso busquei mais informações das empresas sobre suas práticas em relacionamento com eles e entrevistei especialistas em segurança. Antes de decidir se vale a pena compartilhar meus dados, você esperará para ver se as tecnologias funcionam razoavelmente bem.
Abaixo, tudo o que você precisa saber sobre o assunto.
INTELIGÊNCIA DA APPLE
A Apple anunciou recentemente seu primeiro grande passo na corrida da IA, a Apple Intelligence: conjunto de serviços que serão incorporados aos mais atualizados e rápidos iPhones, iPads e Macs a partir de setembro. Os usuários poderão usá-los para remover automaticamente objetos indesejados de fotos, criar resumos de artigos da Internet e escrever respostas a mensagens de texto e e-mails. A Apple também está renovando seu assistente de voz, Siri, para torná-la mais interativa e dar acesso a dados de vários aplicativos.
Durante a conferência da Apple do mês passado, na qual foi apresentado pela Apple Intelligence, Craig Federighi, vice-presidente sênior de engenharia de software da empresa, disse que isso pode funcionar: ele recebeu um e-mail de um colega pedindo que uma reunião fosse adiada , mas, naquela noite, tinha de assistir a uma peça estrelada por sua filha. O telefone dele então abriu seu calendário, um documento com os detalhes da peça e um aplicativo de mapas para prever se ele chegaria atrasado se aceitasse o adiamento da reunião.
A Apple afirmou estar tentando processar a maior parte dos dados de IA diretamente em seus aparelhos, para impedir que outros —e ela mesma— tenham acesso às informações. Mas, para as tarefas que precisam ser enviadas aos servidores, a Apple desenvolveu medidas de segurança, incluindo a criptografia de dados e sua exclusão imediata.
A empresa garantiu ter adotado medidas para que seus funcionários não tenham acesso aos dados, acrescentando que permitirá que pesquisadores de segurança auditem a tecnologia para garantir que estejam aprovados com as promessas.
Seu compromisso em apagar os dados dos usuários dos servidores faz a diferença em outras empresas que retêm informações. Mas a Apple não foi clara sobre quais novas revelações da Siri poderiam ser enviadas para os servidores da empresa, disse Matthew Green, pesquisador de segurança e professor associado de ciência da computação da Universidade Johns Hopkins, que foi informado pela Apple sobre sua nova tecnologia. “Qualquer dado que diga que seu dispositivo é realmente menos seguro”, completou.
A Apple indicou que, quando o Apple Intelligence estiver disponível, os usuários poderão visualizar um relatório das saídas do dispositivo para serem processadas na nuvem.
OS LAPTOPS DA MICROSOFT
A Microsoft está dando início a uma IA para o laptop tradicional. Há cerca de duas semanas, a empresa lançou laptops com o sistema operacional Windows chamados de Copilot+ PC, com preço inicial de US$ 1.000 (R$ 5.490), com um novo tipo de chip e outros dispositivos que, segundo a Microsoft, mantêm os dados privados e seguros. Os PCs podem gerar imagens e salvar documentos, entre outras novas funções baseadas em IA.
A empresa também divulgou o Recall, novo sistema para ajudar o usuário a encontrar rapidamente documentos e arquivos nos quais trabalhou, e-mails que leu ou sites que navegou. A Microsoft compara o Recall a um tipo de memória fotográfica integrada ao PC. Para usá-lo, o usuário pode escrever frases específicas como: “Estou pensando em uma videochamada que tive com Joe recentemente enquanto ele segurava uma xícara de café com a mensagem impressa ‘I Love New York’.” O laptop então recupera a gravação da videochamada com esses detalhes.
Para isso, o Recall faz capturas de tela, a cada cinco segundos, do que o usuário está fazendo na máquina e compila as imagens em um banco de dados que pode ser pesquisado. Como as capturas são armazenadas e analisadas diretamente no PC, os dados não são revisados pela Microsoft nem usados para melhorar sua IA, de acordo com a empresa.
Mesmo assim, os pesquisadores de segurança alertaram para riscos potenciais, comentando que os dados poderiam facilmente expor tudo o que foi escrito ou visto se fossem hackeados. Em resposta, a Microsoft adiou indefinidamente o lançamento do serviço, que estava previsto para a semana retrasada. Os laptops vêm equipados com o novo sistema operacional Windows 11 da empresa. Segundo David Weston, executivo da Microsoft responsável pela segurança, o sistema tem vários níveis de segurança.
GOOGLE SEM TELEFONE
O Google também anunciou no mês passado um conjunto de serviços de IA. Um dos mais importantes foi um novo detector de fraudes telefônicas baseado em IA. A ferramenta ouve chamadas em tempo real e, se a pessoa estiver ligando parecer uma possível golpista (por exemplo, pedindo um número de identificação bancária), o Google emite um alerta. Segundo a empresa, os usuários vão precisar ativar o detector de fraudes, que funciona integralmente no telefone, o que significa que o Google não ouvirá as chamadas.
A empresa também anunciou outra função, Ask Photos, que exige o envio de informações aos seus servidores. O usuário pode fazer perguntas como “Quando minha filha aprendeu a nadar?” para que as primeiras imagens da sua filha nadando apareçam.
O Google afirmou que seus funcionários poderiam, em casos informativos, revisar as conversas do Ask Photos e os dados das fotos para combater abusos ou danos, e que as informações também poderiam ser usadas para ajudar a melhorar seu aplicativo de fotos. Em outras palavras: a pergunta e a foto da sua filha nadando poderiam ser usadas para ajudar outros pais a encontrar imagens de seus filhos nadando.
O Google garantiu que você nuvem está protegida por tecnologias de segurançaincluindo criptografia e protocolos para limitar o acesso de funcionários aos dados. “Nossa estratégia de proteção à privacidade se aplica aos nossos recursos de IA, independentemente de serem usados em um dispositivo ou na nuvem”, escreveu Suzanne Frey, executiva do Google responsável por confiança e privacidade, em comunicado.
Mas Green, o pesquisador de segurança, disse que o modelo do Google em relação à privacidade de IA não parece totalmente claro: “Não gosto da ideia de que minhas fotos e buscas muito pessoais sejam enviadas para uma nuvem que não está sob meu controle.”