Os usuários fazem YouTube pode, agora, denunciar casos de roubo de identidade com inteligência artificial. A técnica, chamada de deepfake, já foi usada em fraudes financeiras, divulgação de imagens íntimas falsas (incluindo menores de idade) e desinformação eleitoral.
A plataforma de vídeo mais popular do Brasil, com cerca de 120 milhões de acessos mensais, disponibiliza um formulário para receber reclamações sobre deepfakes desde marçomas não divulgou a atualização ao público. O site Pessoal TechCrunch noticiou a existência do recurso nesta segunda-feira (1º).
Em um exemplo do estrago que pode causar as deepfakes, circularam no YouTube em maio clones gerados virtualmente do apresentador da TV Globo Marcos Mion e do cantor Thiaguinho. As cópias protagonizavam anúncios falsos do Mercado Livre, usados em golpes —a suposta oferta era de smartphones com 80% de desconto.
A reprodução de imagem e voz na Internet está entre os principais riscos aventados após o advento da inteligência artificial (IA), na avaliação de políticos, empresas e pesquisadores. Tramita no Congresso um projeto de lei para aumentar a pena de quem usar IA para gerar imagens íntimas de mulheres e criançase Justiça Eleitoral veto como deepfake durante as eleições de 2024.
O YouTube classificou deepfakes que deturpam a imagem de uma pessoa clonada como “uma violação de intimidade”, o que é passível de solicitação de remoção de conteúdo na plataforma. Assim a vítima pode protocolar a queixa.
A pesquisadora do DFRLab (Laboratório de Forense Digital), do Atlantic Council, Beatriz Farrugia alerta que nem toda montagem baseada em imagem de um terceiro pode ser considerada deepfake ou constituir uma violação de intimidade.
“Um deepfake é a manipulação de um conteúdo, seja ele áudio, vídeo ou foto, através de uma ferramenta de inteligência artificial”, diz. “Cada vez que a IA recebe maior quantidade de dados, fica quase imperceptível que aquele produto foi gerado por inteligência artificial”, acrescenta o especialista.
Circulam também na internet outras montagens mais grosseiras, chamadas de cheapfakes, segundo Farrugia. “Qualquer um com um computador ou celular e um Photoshop pode colocar o rosto de outra pessoa no seu corpo e fazer uma montagem.”
Embora seja difícil detectar deepfakes mais sofisticados, segundo a pesquisadora, é possível procurar sinais de como distorções ao redor da boca, nariz e olhos no caso de imagens, e uma qualidade prejudicada no caso de áudios. “Nos vídeos, uma descrição do movimento da boca na imagem com a fala é sempre uma pista.”
Áudios sintéticos são mais fáceis de criar e mais difíceis de detectar, na avaliação de Farrugia, e, por isso, se disseminam em anúncios falsos e em campanhas de desinformação.
Nas suas normas, o YouTube abre uma exceção para deepfakes feitos em contexto de crítica ou sátira, como faz, por exemplo, o humorista Bruno Sartori. A Justiça de São Paulo também considera que o deepfake de Ricardo Nunes no corpo de Kendivulgada pela pré-candidata à Prefeitura de São Paulo Tabata Amaral, era uma sátira.
Um especialista em investigação digital recomenda que as vítimas desses golpes documentem todo o processo de roubo de identidade e obtenham as plataformas pelas quais o material falso circula e as autoridades responsáveis. “No caso de imagens, é possível fazer buscas reversas no Google para ver se esse conteúdo também circula em outros espaços da internet.”
VEJA COMO FAZER A DENÚNCIA
A pessoa pode protocolar a queixa neste formulário de processo para denúncia de violação de privacidadea partir dos seguintes passos:
-
Preencha o formulário com informações pessoais, como nome, país de residência e email de contato
-
Informe se está preenchendo o formulário em nome de outra pessoa
-
Informe quantas entidades ou canais querem denunciar
-
Indique se o que está simulando rosto ou voz é um canal, vídeo ou comentário
-
Conte detalhes de como sua imagem ou voz passou por alterações com o uso de IA
-
A vítima, então, precisa descrever como aparece no vídeo, para diferenciá-la dos outros personagens do conteúdo
Farrugia, do DFRLab, recomenda as plataformas de detecção de deepfakes Sentinela, PatoDukGanso e Nós verificamos, para verificar se houve uso de IA no roubo de identidade. Essas perícias podem reforçar o argumento na denúncia.
O YouTube também dá instruções para que a denúncia tenha mais chances de ser acatada:
-
A denúncia deve ser clara e concisa
-
Ter informações objetivas, como momento no vídeo em que o clone feito por IA aparece
-
Dar detalhes do que pode diferenciar o deepfake de uma pessoa real
-
Ter certeza de incluir a URL do vídeo na agenda
-
Se estiver denunciando todo um canal, não é necessário incluir URL
-
Se estiver denunciando um comentário na seção própria no vídeo, aponte isso na descrição. Adicione também o nome do usuário no campo indicado
A plataforma de vídeo usa como fatores de avaliação de denúncia:
-
Se o conteúdo for alterado ou sintético
-
Se o conteúdo é alterado ou sintético
-
Se a vítima pode ser identificada pela imagem
-
Se o conteúdo é realista
-
Se o conteúdo é de paródia, sátira ou tenha interesse público
-
Se o conteúdo usar a imagem de pessoas públicas ou bem conhecidas em situações polêmicas, como atividades criminosas, violentas ou endossos a produtos ou candidatos
O YouTube alerta que o uso incorreto das denúncias pode levar à suspensão da conta do denunciante.
Afirma que tampouco compartilha o nome e as informações de contato do denunciante com o publicador da deepfake sem a permissão do autor da queixa.
O YouTube não aceita denúncias feitas em nome de terceiros, a não ser que:
-
A pessoa cuja privacidade foi violada não tenha acesso à internet ou a computadores
-
O indivíduo cuja privacidade foi violada está em situação de vulnerabilidade
-
A alegação seja feita pelos pais ou pelos responsáveis de uma menor de idade cuja privacidade foi violada
-
A alegação seja feita pelo representante legal da pessoa (alguém que tenha procuração)
-
O pedido seja feito por um parente próximo de alguém em grave situação de saúde
“Não vamos aceitar pedidos feitos por pais, colegas de trabalho, cargos e empresas”, diz a página de regras da plataforma de vídeo.