A hora e a vez das deepfakes no Brasil e no mundo

Desinformação

A hora e a vez das deepfakes no Brasil e no mundo

por Sam Gregory
24 de outubro de 2019
compartilhar
visualização

Qualquer problema envolvendo deepfakes não pode ser separado de como as notícias falsas se multiplicam em plataformas como o WhatsApp e como isso é utilizado como arma por políticos sem escrúpulos.

 

Uma grande agitação global teve início em torno dos perigos das chamadas deepfakes: simulações realistas de uma pessoa dizendo ou fazendo coisas que nunca foram feitas e que podem enganar o público, além de difamar e colocar em risco pessoas que já estão vulneráveis.

Essas falsificações são geradas com técnicas de inteligência artificial cada vez mais eficientes e disponíveis para uso. Um relatório recente encontrou milhares de exemplos em todo o mundo, quase todos sobre mulheres com imagens sexuais não consensuais.

O trabalho que lidero com colegas da Witness reuniu tecnólogos, jornalistas e ativistas da sociedade civil em todo o mundo para revelar possíveis ameaças que se aproximam. Em julho, realizamos o primeiro encontro multidisciplinar em âmbito nacional sobre esse assunto no Brasil. Ele identificou soluções críticas a serem buscadas agora no Brasil e no mundo antes de enfrentarmos o impacto total dessas novas formas de manipulação.

Cenário político

Qualquer problema envolvendo deepfakes não pode ser separado de como as notícias falsas se multiplicam em plataformas como o WhatsApp e como isso é utilizado como arma por políticos sem escrúpulos.

Não pode ser esquecido o contexto histórico a partir do fracasso de sites globais de mídia social como o Facebook em responder a crises anteriores no Sul Global, por exemplo, permitindo discursos de ódio em Mianmar e o encaminhamento em massa de notícias falsas pelo WhatsApp no ​​Brasil. Também não podem ser descontextualizados os problemas existentes da violência de gênero cometida por homens contra mulheres.

Então, o que podemos fazer para nos preparar melhor? As soluções para as deepfakes precisam ser multidisciplinares e não surgem através de um passe de mágica. Primeiro, precisamos trazer ao centro da discussão as comunidades que já estão sendo prejudicadas por problemas existentes e tecnologias semelhantes a essa.

Desafio das notícias falsas

É por isso que, na preparação da Witness para deepfakes, conversamos com ativistas de favelas e pessoas que trabalham para impedir a violência de gênero. E precisamos ouvir as pessoas que estão na linha de frente do desafio de notícias falsas existentes, os jornalistas e verificadores de fatos que enfrentarão esse novo problema em seu cotidiano. Suas demandas podem conduzir muito de como o Facebook, Google, YouTube, Twitter e WhatsApp respondem a esse problema iminente.

Nas recentes reuniões sobre deepfakes no Brasil, jornalistas, tecnólogos, ativistas da sociedade civil, influenciadores digitais e outros se reuniram para discutir o que os preocupava sobre o tema e o que eles gostariam que acontecesse. Eles se preocuparam com a maneira como isso põe em maior risco os ativistas e lideranças comunitárias ameaçados, prejudica as possibilidades do uso de vídeos como prova, além de sobrecarregar os veículos e agência de checagem de fatos que já contam com poucos recursos.

É provável que nossa esfera pública seja ameaçada ainda mais, à medida que falsificações realistas enganosas são integradas em disparos massivos de vídeos falsos. Isso tornará mais fácil para as pessoas sem escrúpulos reivindicarem que algo comprometedor é uma deepfake.

Ferramentas

Os jornalistas e lideranças da sociedade civil presentes neste encontro enfatizaram que qualquer solução precisa se concentrar nas ferramentas, especialmente o WhatsApp que transmitem à desinformação no Brasil, e em outros lugares. As respostas precisam se basear na experiência existente do quão difícil é desmontar um compartilhamento em massa de áudios/vídeos falsos e edições que viralizam em aplicativos de mensagens fechadas, além de apoiar leis, ferramentas e competência para lidar com isso.

Precisamos das ferramentas certas disponibilizadas pelas plataformas e é neste ponto que elas precisam avançar. À medida que desenvolvem ferramentas de detecção para deepfakes – por exemplo, através do anúncio recente do Facebook e da Microsoft sobre o Deepfakes Detection Challenge – essas plataformas precisam garantir que as ferramentas realmente estejam disponíveis e acessíveis para a sociedade civil, a imprensa no Brasil e em outros lugares do Sul Global.
Investimento em pesquisa

É preciso recordar que nossos olhos e ouvidos mentirosos nos enganarão à medida que essa tecnologia avance, então essas redes precisam investir em pesquisas sobre a melhor maneira de comunicar a existência de manipulações imperceptíveis.

Checagem

Os jornalistas também reafirmam que plataformas como YouTube e WhatsApp não resolveram problemas existentes – você ainda não pode verificar de forma simples se um vídeo existente é uma manipulação, um vídeo ligeiramente editado ou apenas um conteúdo renomeado e compartilhado como se fosse sobre outro tema. Na ausência de ferramentas para detectar o grande volume existente de materiais manipulados – por exemplo, uma pesquisa reversa sobre a origem de um vídeo no WhatsApp – a detecção de deepfakes é um recurso valioso e raro.
Quando as plataformas constroem suas ferramentas para detecção, elas precisam garantir que estejam disponíveis para jornalistas, organizações de mídia e organizações da sociedade civil especialmente em países como Brasil, África do Sul e Índia. Mas a disponibilidade não é suficiente sem um investimento correspondente no suporte a melhores habilidades forenses e de verificação de mídia para um grande número de jornalistas e pessoas que trabalham como checagem de fatos, além de garantir que essas ferramentas não sejam apenas para “inglês ver” e assim, que estes resultados não possam ser explicados a outras pessoas.

A compreensão do problema não é generalizada em toda a sociedade – portanto, qualquer abordagem terá que se adaptar às diferentes linguagens da mídia nas comunidades, incluindo muitas que ainda estão tentando entender os problemas decorrentes de ‘notícias falsas’. Precisamos educar as pessoas sobre o que são os deepfakes sem assustá-los – usando os influenciadores e comunicadores certos, e criando uma melhor compreensão do fenômeno de notícias falsas existente.

Não será tão simples quanto treinar as pessoas a procurar alguma falha técnica em imagens manipuladas – será necessária uma abordagem geral e integrada para ajudar as pessoas a pensar sobre as fontes de informação, e como e o por quê um arquivo de vídeo ou áudio chega até ela.

Legislação internacional

As leis feitas nos EUA e na Europa irão impor sua vontade globalmente por causa de seu impacto na governança dessas plataformas. Há pressão nestas redes e aplicativos para responder a esse fenômeno das deepfakes, aumentando o volume dos vídeos removidos que são compartilhados com a intenção de enganar. Ou ainda, rotulando e rastreando definitivamente o que é autêntico. Existem exemplos óbvios em que a retirada desse conteúdo faz sentido – por exemplo, quando o vídeo incita ódio ou violência.

Mas a realidade é que quando as pessoas que estão no poder, se vêem diante da revelação de alguma verdade incômoda gritam que estão diante de “fake news” . Temos que ter cuidado com “isso é uma deepfake” e os consequentes pedidos para remoção do trabalho de jornalistas, que ainda que levemente editados, não façam parte do armamento de ditadores ou líderes democráticos irresponsáveis. Muitas leis sobre “fake news” são feitas tanto para apoiar os que estão no poder e reprimir a voz da sociedade, quanto para combater informações erradas ou desinformação veiculada de forma proposital.

Não estamos vivendo o “fim da verdade”. Mas, precisamos prestar atenção aos argumentos em torno desta tecnologia. Promover a ideia de que você não pode acreditar em nada que vê é perigoso demais nas mãos de pessoas que já estão dizendo “isso é fake news” para negar verdades. “É deepfake” não pode se tornar o novo “É fake news“. Agora é a hora de se preparar, no Brasil e no mundo.

Sam Gregory é diretor de programas da Witness



Artigos Relacionados

Preservar e não lucrar

Cultura não é turismo

Online | Brasil
por Raisa Pina
FRACASSO NA CESSÃO ONEROSA

Bolsonarismo sem confiança do investidor estrangeiro

Online | Brasil
por Randolfe Rodrigues
Guilhotina

Guilhotina #46 – Paulo Nogueira Batista Jr.

Objetivos de Desenvolvimento Sustentável

Nós podemos reduzir a violência pela metade até 2030

por Robert Muggah
PETRÓLEO

O que está por trás do leilão dos excedentes da cessão onerosa

Online | Brasil
por Rodrigo Leão
Estado e mercado

Noturno do Chile

Online | Chile
por Gilberto Clementino Neto
Deus acima de todos

Em meio ao fake history e fake news, é tudo verdade

Online | Brasil
por Wallace de Moraes
Povo brasileiro

Apenas reagir ou inventar o Brasil que nós queremos?

Online | Brasil
por Leonardo Lusitano