YouTube lança ferramenta com IA para políticos identificarem deepfakes e protegerem sua imagem
Sistema em fase de testes permitirá que autoridades e jornalistas rastreiem vídeos manipulados com inteligência artificial e solicitem remoção na plataforma
O YouTube começou a liberar nesta semana uma nova ferramenta baseada em inteligência artificial para identificar possíveis vídeos manipulados com deepfake envolvendo políticos, autoridades e jornalistas. O recurso permite que figuras públicas rastreiem conteúdos publicados na plataforma em que seus rostos apareçam e que possam ter sido criados ou alterados com uso de IA.
A novidade está sendo liberada inicialmente para um grupo piloto e faz parte das iniciativas da plataforma para combater desinformação e manipulação digital, especialmente em períodos eleitorais.
A tecnologia funciona analisando a aparência facial da pessoa cadastrada e realizando uma varredura em larga escala nos vídeos disponíveis no YouTube. Quando encontra conteúdos semelhantes, o sistema envia uma notificação ao titular da imagem para que ele possa avaliar se o material é autêntico ou manipulado.
Caso identifique um vídeo criado ou alterado com inteligência artificial, o usuário poderá solicitar a remoção do conteúdo. A exclusão, no entanto, não ocorre automaticamente e depende de análise da própria plataforma com base nas diretrizes de privacidade.
Ferramenta começa com grupo restrito
De acordo com o YouTube, o recurso será inicialmente disponibilizado para autoridades governamentais, jornalistas e candidatos políticos selecionados diretamente pela empresa.
No Brasil, a iniciativa também será apresentada ao Tribunal Superior Eleitoral (TSE) como parte das ações da plataforma voltadas à integridade das eleições.
A empresa informou que não divulgará a lista de participantes do projeto piloto, alegando questões de privacidade. Ainda assim, a expectativa é que o sistema seja ampliado gradualmente para mais usuários no futuro.
Cadastro exige verificação facial
Para utilizar a ferramenta, os interessados precisarão realizar um processo de verificação de identidade.
Entre os requisitos estão:
- Enviar um documento oficial de identificação
- Gravar um vídeo curto do próprio rosto, semelhante a uma selfie
- Possuir um canal registrado no YouTube, mesmo que não esteja ativo
Essas informações serão usadas para permitir que o sistema reconheça o rosto da pessoa em conteúdos publicados na plataforma.
Segundo o YouTube, os dados biométricos utilizados nesse processo não serão usados para treinar modelos de inteligência artificial generativa do Google, sendo aplicados apenas para verificação e funcionamento da ferramenta.
Tecnologia semelhante ao Content ID
O funcionamento do sistema lembra o Content ID, tecnologia já usada pelo YouTube para identificar automaticamente vídeos que utilizam material protegido por direitos autorais.
No caso da nova ferramenta, em vez de músicas ou imagens protegidas, o sistema procura vídeos que contenham rostos semelhantes ao da pessoa cadastrada.
A líder de políticas públicas do YouTube no Brasil, Alana Rizzo, explicou que o objetivo é dar mais controle às pessoas sobre o uso de sua imagem dentro da plataforma.
Critérios para remoção de conteúdo
Mesmo que o sistema identifique um vídeo potencialmente manipulado, a remoção dependerá de avaliação baseada nas políticas da empresa.
Entre os fatores analisados estão:
- Se o conteúdo foi gerado ou alterado por inteligência artificial
- Se o material apresenta alto nível de realismo
- Se mostra a figura pública em situações sensíveis, como crimes, violência ou apoio político ou comercial
- Se o conteúdo pode ser paródia, sátira ou de interesse público
De acordo com Leslie Miller, vice-presidente de assuntos governamentais do YouTube, vídeos claramente identificados como humor ou paródia tendem a permanecer disponíveis.
Medida ocorre em meio a regras eleitorais mais rígidas
A nova ferramenta surge em um momento em que o TSE reforçou regras sobre uso de inteligência artificial em campanhas eleitorais.
Entre as medidas aprovadas pelo tribunal estão:
- Proibição do uso de deepfakes para favorecer ou prejudicar candidatos
- Proibição da publicação de conteúdos produzidos com IA nas 72 horas antes da eleição
- Responsabilização das plataformas caso não removam conteúdos considerados de risco
Nesse contexto, a ferramenta do YouTube pode ajudar a identificar rapidamente conteúdos manipulados envolvendo candidatos ou autoridades, reduzindo o impacto da desinformação durante o período eleitoral.
