O YouTube anunciou que sua ferramenta de detecção de deepfakes gerados por inteligência artificial será disponibilizada para todos os usuários com mais de 18 anos, segundo um comunicado no fórum oficial da plataforma.
Com essa atualização, qualquer adulto terá a capacidade de utilizar o sistema para reconhecer vídeos que utilizem sua imagem de maneira falsa ou alterada dentro do YouTube.
Resumo das principais mudanças:
- Detector de deepfakes agora acessível a todos os usuários adultos;
- Sistema utiliza selfies para identificar rostos manipulados por inteligência artificial;
- A plataforma notifica os usuários sobre vídeos suspeitos encontrados;
- Usuários podem solicitar a remoção de conteúdos que abusem de suas imagens;
- Objetivo é combater fraudes, golpes e desinformação relacionadas aos deepfakes.
Mecanismo do detector de deepfakes no YouTube
A ferramenta opera através da digitalização facial realizada pelo usuário, semelhante ao processo de tirar uma selfie. Com essas informações, o sistema faz uma vigilância no YouTube em busca de rostos semelhantes que possam sugerir o uso indevido da imagem em conteúdos gerados por IA.
Caso encontre uma possível correspondência, a plataforma envia uma notificação ao usuário, que pode então solicitar a remoção do vídeo. De acordo com o YouTube, até o momento, o número de pedidos registrados é considerado baixo.
Inicialmente testado com criadores de conteúdo, o recurso foi posteriormente liberado para jornalistas, políticos e profissionais do entretenimento. Agora, a empresa decidiu estender o acesso ao público em geral.
Essa expansão marca um avanço significativo na luta contra os deepfakes, uma tecnologia capaz de criar vídeos extremamente realistas com rostos digitalmente alterados. O aumento dessas ferramentas levanta preocupações acerca de fraudes, desinformação e uso inadequado da imagem de indivíduos comuns.
Leia também:
- TikTok, Snap e YouTube se esquivam de julgamento sobre a saúde mental dos jovens
- YouTube: governo ajusta classificação indicativa utilizando “Novela das frutas” como exemplo
- ‘Pergunte ao YouTube’: Google testa nova busca em formato semelhante ao Modo IA
Análise rigorosa para remoção dos vídeos
O YouTube informou que os pedidos para remoção passam por uma análise minuciosa conforme sua política de privacidade. Os critérios avaliados incluem o nível de realismo do vídeo, a identificação clara de que o conteúdo foi criado por IA e a possibilidade de reconhecimento da pessoa nas imagens.
A plataforma também ressaltou que há exceções para materiais humorísticos, sátiras ou paródias. Além disso, a ferramenta foca exclusivamente na identificação facial e não abrange outros aspectos como imitações vocais.
Os usuários têm a opção de deixar o programa sempre que desejarem e podem solicitar a exclusão dos dados faciais que foram armazenados pela empresa.
Em sua declaração, Jack Malon, porta-voz do YouTube, destacou que não há requisitos mínimos para participar da ferramenta. “Com essa ampliação, estamos afirmando que todos os criadores terão acesso à mesma proteção, independentemente do tempo que estejam publicando conteúdo no YouTube.”
A crescente preocupação com as deepfakes é compartilhada por especialistas, considerando que essa tecnologia já foi utilizada em casos envolvendo assédio, fraudes e criação de conteúdos falsos relacionados a adolescentes, celebridades e figuras públicas.
