O Conselho de Supervisão da Meta, conhecido como “suprema corte das redes sociais”, afirmou nesta quinta-feira (25) que as regras da empresa “não são suficientemente claras” ao proibir representações sexualmente explícitas de pessoas reais geradas por inteligência artificial e pediu mudanças para evitar que tais imagens circulassem em suas plataformas.
O conselho, que é financiado pela gigante da mídia social, mas opera de forma independente, emitiu sua decisão depois de analisar duas publicações pornográficas falsas de mulheres famosas criadas usando inteligência artificial e postadas no Facebook e Instagramde propriedade da Meta.
A Meta disse que analisaria as recomendações do conselho e forneceria uma atualização sobre quaisquer mudanças impostas.
Em seu relatório, o conselho concorda com duas mulheres apenas como figuras públicas femininas da Índia e dos Estados Unidos, citando preocupações com a privacidade.
O conselho constatou que ambas as imagens violaram a regra da Meta que proíbe o “photoshop sexualizado depreciativo”, que a empresa classifica como uma forma de bullying e assédio, e disse que a Meta deveria tê-las removida imediatamente.
No caso envolvendo uma mulher indiana, a Meta não analisou um relato de usuário sobre a imagem em 48 horas, o que fez com que uma solicitação fosse fechada automaticamente sem que nenhuma ação fosse tomada.
O usuário recorreu, mas a empresa novamente se decidiu a agir e só reverteu o curso depois que a diretoria substituiu o caso, disse.
No caso da celebridade norte-americana, os sistemas da Meta removeram automaticamente a imagem.
“As restrições a esse conteúdo são legítimos”, disse o conselho. “Dada a gravidade dos danos, a remoção do conteúdo é a única maneira eficaz de proteger as pessoas afetadas.”
O conselho recomendou que a Meta atualize sua regra para especificamente seu escopo, dizendo, por exemplo, que o uso da palavra “photoshop” é “muito restrito” e que a legislação deve abranger uma ampla gama de técnicas de edição, incluindo IA generativa.