Especialistas em tecnologia da OpenAI e da Meta alertaram nesta quinta-feira (15) um painel judicial federal dos Estados Unidos de que os “deepfakes” gerados por inteligência artificial estão se tornando tão sofisticados que será cada vez mais difícil determinar a autenticidade das provas de áudio e vídeo apresentadas em julgamentos.

Os representantes das empresas e outros especialistas compartilharam suas opiniões sobre a evolução da tecnologia durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, que há três anos vem debatendo como controlar os riscos de provas falsificadas geradas por IA nos tribunais.

Somente nesse período, os rápidos avanços na IA generativa chegaram a um ponto em que vídeos falsificados se tornaram difíceis de serem identificados tanto por seres humanos quanto por softwares, afirmaram os especialistas na reunião.

“As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las”, disse Shira Anderson, consultora de políticas da OpenAI, ao comitê.

Desde 2023, o painel tem enfrentado dificuldades para lidar com questões de autenticação relacionadas a deepfakes e garantir que as provas reconhecidamente geradas por IA atendam aos mesmos padrões de confiabilidade que as provas apresentadas por uma testemunha especialista humana.

O Poder Judiciário dos EUA tem procurado se antecipar à questão, apesar da falta de evidências de que se trate de um problema generalizado.

O Centro Federal do Judiciário, órgão de pesquisa do Poder Judiciário, afirmou em março que dos 931 juízes que responderam a uma pesquisa, apenas 15 haviam se deparado com um caso em que uma parte contestou a apresentação de uma prova por se tratar de um deepfake.

“Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo”, disse o juiz federal Jesse Furman, de Manhattan, que preside o painel.

Especialistas da indústria, da academia e do governo alertaram, no entanto, que a questão está longe de ser puramente hipotética. Eles afirmam que a capacidade dos tribunais de atuarem como guardiões contra provas fabricadas geradas por IA só vai se tornar mais desafiadora.

“Mídias geradas a partir de modelos de ponta, pelo menos nas últimas gerações, são indistinguíveis pelos seres humanos das mídias autênticas ou geradas por IA”, disse Devin Norder, diretor de gestão de produtos da meta. “E o custo e o tempo necessários para criar essas mídias são realmente bastante insignificantes neste momento.”

Grandes empresas, incluindo OpenAI e Meta, têm buscado adotar ferramentas e serviços destinados a verificar a validade do conteúdo visual, e novas leis na Califórnia e na União Europeia exigem a aplicação de “marcas d’água” com o objetivo de detectar deepfakes.

Mas Anderson alertou que, como cada empresa tem seu próprio sistema, não há um meio universal de detectar com confiabilidade todas as marcas d’água ou verificar a autenticidade do conteúdo visual.

“Minha impressão é que isso certamente continuará melhorando”, disse ela. “Não acho que algum dia será à prova de falhas.”