A moderação deepfake do Meta não é boa o suficiente, diz Oversight Board

Os métodos do Meta para identificar deepfakes “não são robustos ou abrangentes o suficiente” para lidar com a rapidez com que a desinformação se espalha durante conflitos armados como a guerra no Irão. Isso está de acordo com o Meta Oversight Board – um órgão semi-independente que orienta as práticas de moderação de conteúdo da empresa – que agora está convocando o Meta para revisar a forma como ele apresenta e rotula o conteúdo gerado por IA no Facebook, Instagram e Threads.

O apelo à ação decorre de uma investigação sobre um vídeo falso de IA sobre alegados danos a edifícios em Israel que foi partilhado nas plataformas sociais da Meta no ano passado, mas o Conselho afirma que as suas recomendações são particularmente relevantes neste momento, dadas as “escaladas militares massivas” em todo o Médio Oriente esta semana. No seu anúncio, o Conselho afirma que o acesso a informações precisas e confiáveis ​​é vital para a segurança das pessoas em meio ao risco elevado de ferramentas de IA serem usadas para espalhar desinformação.

“As conclusões do Conselho destacam que o sistema atual da Meta para rotular adequadamente o conteúdo de IA é excessivamente dependente da auto-revelação do uso da IA ​​e da revisão escalonada e não atende às realidades do ambiente online de hoje”, disse o Meta Oversight Board. “O caso também destaca os desafios da proliferação multiplataforma desse tipo de conteúdo, com o conteúdo parecendo ter se originado no TikTok antes de aparecer no Facebook, Instagram e X.”

As medidas recomendadas emitidas pelo Conselho incluem pressionar o Meta a melhorar suas regras existentes sobre desinformação para lidar com deepfakes enganosos e estabelecer um novo padrão de comunidade separado para conteúdo gerado por IA. A Meta também está sendo solicitada a desenvolver melhores ferramentas de detecção de IA, ser transparente sobre penalidades para violações de políticas de IA e dimensionar os esforços de rotulagem de conteúdo de IA. Este último inclui garantir que rótulos de “IA de alto risco” sejam adicionados a imagens e vídeos sintéticos com mais frequência e melhorar a adoção de C2PA (também conhecido como Credenciais de Conteúdo) para que as informações sobre o conteúdo gerado por IA sejam “claramente visíveis e acessíveis aos usuários”.