By admin 
Falhas na Detecção de IA Preocupam Especialistas
O Comitê de Supervisão da Meta foi enfático ao declarar que as atuais ferramentas da empresa são insuficientes para combater a disseminação de deepfakes, especialmente em períodos de conflitos armados, como a guerra no Irã. Em um relatório divulgado pelo portal The Verge, o órgão independente solicitou uma revisão completa dos métodos de detecção e rotulagem de conteúdo gerado por inteligência artificial (IA) nas redes sociais da Meta, incluindo Facebook, Instagram e Threads.
Vídeo Falso em Israel Expõe Vulnerabilidades
A cobrança do comitê surge após a análise de um vídeo manipulado por IA que simulava danos a edifícios em Israel. O material viralizou nas plataformas da Meta no ano passado, acumulando um número expressivo de visualizações antes de ser identificado. A investigação destacou como as falhas de segurança se tornam mais perigosas quando o conteúdo falso se espalha rapidamente durante crises, impactando a narrativa global. Curiosamente, o vídeo original teria surgido no TikTok antes de alcançar outras redes como as da Meta e o X (antigo Twitter).
Dependência de Metadados e Denúncias Insuficientes
Atualmente, a Meta baseia parte de sua estratégia na Coalition for Content Provenance and Authenticity (C2PA), um padrão que depende da inserção voluntária de metadados pelos criadores para identificar a origem sintética de imagens e vídeos. No entanto, o conselho observou que a grande maioria dos conteúdos gerados por IA circula sem esses marcadores. Além disso, a dependência de denúncias de usuários e a detecção tardia se mostram ineficazes diante da velocidade com que vídeos falsos se tornam virais, influenciando a opinião pública antes mesmo da intervenção de checadores de fatos. Essa deficiência técnica é agravada por documentos internos que indicam uma redução nos recursos de moderação da companhia.
Exigência de Detecção Proativa e Novos Padrões
Para sanar essas vulnerabilidades, o Comitê de Supervisão recomendou o desenvolvimento de sistemas proativos de detecção que operem em tempo real. As orientações incluem a implementação de rótulos mais visíveis e a criação de mecanismos capazes de identificar manipulações mesmo sem metadados voluntários. O grupo também determinou a melhoria das regras de desinformação para abranger deepfakes enganosos e a elaboração de um padrão comunitário dedicado exclusivamente a mídias geradas por IA. A Meta tem 60 dias para responder formalmente às diretrizes. Embora as decisões do comitê não sejam legalmente obrigatórias, ignorá-las pode gerar sérios riscos de relações públicas e atrair maior escrutínio regulatório.
Fonte: canaltech.com.br