IA, vídeos ultrarrealistas e o colapso do real
Simulações hiper-realistas, agora produzidas em questão de minutos por plataformas abertas de IA, inaugura uma era em que a dúvida precede qualquer evidência. Em um sistema de justiça baseado em provas, como confiar em registros audiovisuais? Como sustentar o testemunho digital em uma era onde “ver” já não é suficiente?
A humanidade, desde sempre, se apoiou em marcos de referência para distinguir o real do ilusório. O avanço das tecnologias de inteligência artificial — especialmente a criação de vídeos ultrarrealistas e falsificações hiper precisas de vozes e rostos — está corroendo esse alicerce com velocidade inédita. A ameaça que isso representa não é apenas tecnológica, mas profundamente política: em um mundo onde até o olhar mais treinado não sabe mais o que é real, a confiança pública, os processos democráticos e a administração da justiça entram em colapso simbólico.
A emergência dos chamados deepfakes e simulações hiper-realistas — agora produzidas em questão de minutos por plataformas abertas — inaugura uma era em que a dúvida precede qualquer evidência. Ainda que as tecnologias de falsificação já existissem, o diferencial contemporâneo é sua acessibilidade e escalabilidade. A barreira que antes separava a manipulação profissional da brincadeira amadora se dissolveu. Hoje, qualquer cidadão conectado pode fabricar uma versão convincente de um acontecimento que jamais existiu — e espalhá-la com a força viral de um clique, a partir da IA.
Esse cenário não é mera especulação distópica. Em 2023, um áudio falso da voz do presidente dos EUA, criado por IA, chegou a interferir momentaneamente em campanhas eleitorais. No Brasil, vídeos adulterados têm circulado com potencial de dano real, não apenas à imagem de figuras públicas, mas à própria estrutura do debate público. Como aponta o filósofo Byung-Chul Han, a crise contemporânea já não é da informação, mas da confiança: “quanto mais se sabe, menos se acredita”.
A consequência mais perigosa desse colapso da distinção entre verdadeiro e falso é a erosão da possibilidade de julgamento ético, jurídico e político. Em um sistema de justiça baseado em provas, como confiar em registros audiovisuais? Como sustentar o testemunho digital em uma era onde “ver” já não é suficiente? O risco não está apenas na manipulação, mas na generalização da suspeita. O vídeo falso se espalha, mas o desmentido nunca o alcança com igual intensidade.
Mesmo as gerações que cresceram imersas na internet, acostumadas ao conteúdo viral e aos filtros de realidade, começam a expressar perplexidade diante da impossibilidade de distinguir ficção e fato. Trata-se de uma crise epistêmica, mas também geracional. O que significa formar cidadãos quando já não há terreno sólido sobre o qual edificar certezas?
Imagem feita com IA
Diante desse cenário, o desafio ético-político urgente não é apenas o de regulamentar tecnologias, mas o de recuperar critérios de verdade em uma sociedade saturada de simulacros. É preciso mais do que leis; é necessário um novo pacto de confiança coletiva, que reafirme a importância da mediação crítica, do jornalismo ético e da investigação técnica como bússolas democráticas.
Em tempos de mentira automatizada, dizer a verdade se torna um ato radical — e acreditar nela, um gesto de resistência.
Maria Eduarda Soares de Oliveira é graduanda em Direito pela Universidade de Brasília (UnB). Pesquisa temas relacionados às formas punitivas, controle e violência institucional nas democracias.