Na última quinta-feira, dia 15, representantes da OpenAI e da Meta se reuniram com membros do Judiciário dos Estados Unidos para discutir os desafios crescentes na identificação de vídeos e áudios falsificados por meio de inteligência artificial (IA). Os especialistas advertiram que os deepfakes estão se tornando cada vez mais complexos, o que tornará a verificação da autenticidade de evidências audiovisuais em processos judiciais uma tarefa cada vez mais difícil.
A reunião ocorreu em Boston, durante uma sessão do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos. Desde o início deste ano, o grupo tem se dedicado a debater como enfrentar os riscos associados à produção de conteúdos pela IA nos tribunais e quais critérios devem ser utilizados para validar esse tipo de evidência.
Desafios na verificação das provas devido aos deepfakes
Shira Anderson, advogada responsável por políticas públicas na OpenAI, destacou que os avanços nas tecnologias de geração de imagens por IA complicam a criação de métodos científicos eficazes para identificar conteúdos artificiais.
“As capacidades das imagens geradas por IA estão em constante evolução e não vejo perspectivas de que um método científico confiável seja desenvolvido no futuro”, afirmou Anderson durante a reunião.
Devin Norder, diretor de gerenciamento de produtos da Meta, também ressaltou a rápida evolução dessa tecnologia. Ele observou que mídias criadas pelos modelos mais avançados são praticamente indistinguíveis das autênticas para observadores humanos.
Norder também apontou que o custo e o tempo necessários para criar esses conteúdos são extremamente baixos, o que eleva as preocupações sobre a apresentação de materiais falsos como evidências legítimas em processos judiciais.
Poucas ocorrências registradas até o momento
Apesar das advertências, o número de casos judiciais envolvendo deepfakes ainda é bastante limitado nos Estados Unidos. Em março deste ano, o Centro Judicial Federal revelou que apenas 15 dos 931 juízes que participaram de uma pesquisa relataram ter enfrentado situações em que houve contestação sobre a veracidade das provas devido à suspeita de serem deepfakes.
Jesse Furman, juiz federal em Manhattan e presidente do comitê, mencionou que embora exista uma quantidade significativa de estudos acadêmicos e previsões sobre as implicações dessa tecnologia nos tribunais, os casos concretos ainda permanecem escassos.
Durante a reunião, Furman anunciou a formação de um subcomitê voltado para investigar mais profundamente esse problema. Especialistas do setor, academia e governo enfatizaram que esse desafio não deve ser considerado algo remoto; na verdade, as capacidades dos tribunais para barrar o uso de provas fraudulentas provavelmente se tornarão ainda mais limitadas.
Limitações nas ferramentas de detecção
Empresas como OpenAI e Meta têm trabalhado no desenvolvimento de ferramentas e serviços destinados à verificação da autenticidade de conteúdos visuais. Além disso, novas legislações na Califórnia e na União Europeia exigem a implementação de marcas d’água digitais para facilitar a identificação dos deepfakes.
Entretanto, Anderson alertou que não existe um padrão universal capaz de detectar essas marcas ou assegurar a autenticidade das imagens e vídeos. Como cada companhia utiliza seus próprios sistemas, as ferramentas disponíveis atualmente não oferecem uma verificação confiável para todos os tipos de conteúdo.
A representante da OpenAI também expressou sua crença na evolução contínua dos mecanismos identificadores; no entanto, ela ressalta que esses não serão completamente infalíveis.
Cautela entre juízes na regulamentação das provas
Valerie Caproni, juíza federal em Manhattan e membro do comitê, manifestou sua cautela em relação à implementação imediata de regras específicas sobre provas geradas por IA. Ela ressaltou que faltam dados suficientes que indiquem que os deepfakes se tornaram um problema amplamente disseminado nos tribunais.
Caproni também observou que as normas vigentes já proíbem a apresentação de provas fraudulentas e permitem aos juízes avaliar se um determinado material foi manipulado.
A magistrada salientou que a adulteração de evidências não é uma questão nova no sistema judiciário. Assim sendo, a discussão gira em torno da adequação das regras existentes para lidar com as novas dificuldades apresentadas pela inteligência artificial.
O post Deepfakes podem dificultar análise de provas, alertam OpenAI e Meta apareceu primeiro em Olhar Digital.
