Racismo algorítmico: a exclusão da população negra

Há poucas semanas, repercutiu nas redes sociais uma trend da qual muitos influenciadores, formadores de opinião, empresários, entre outros, participaram. A trend da Disney Pixar, em que, com o apoio da inteligência artificial, era possível criar imagens semelhantes a nós, remetendo aos personagens dos desenhos animados da Pixar. Pois bem, na primeira tentativa para criar a minha “personagem Pixar”, o app em questão pediu uma foto, e minha equipe de comunicação fez o upload. E, surpresa, não fosse o fato de que a imagem criada era de uma pessoa branca, o desenho veio igualzinho a mim.

Na segunda tentativa, a equipe mais uma vez entrou na plataforma indicada pelos sites de tecnologia, escreveu todos os parâmetros, e voilà, como diriam os franceses, novamente uma imagem de pessoa branca. Para que o resultado fosse a imagem de uma pessoa negra, era preciso especificar: executiva negra. Ao colocar somente a palavra executiva, a imagem gerada era compulsoriamente de uma pessoa branca. Não à toa, por curiosidade, fui olhar a página de algumas personalidades negras nas redes sociais e nos desenhos criados para essa trend: não de todos, mas de muitos, a pele do personagem também estava mais clara.

Aliás, não sei se você já prestou atenção, mas no Instagram, quando vamos fazer um stories, e tentamos inserir um ícone, se escrevemos a palavra anjo, virá sempre a imagem de um anjo branco. Atleta, virão sempre atletas brancos. E assim por diante. Para vir uma imagem de anjo negro, atleta negro, ou qualquer outra iconização negra, eu tenho que especificar a palavra negro ao final. Como se a branquitude fosse norma e padrão, e as outras etnias necessitassem ou demandassem ser detalhadas como uma exceção. 

O mesmo acontece sempre que entramos em aplicativos de tratamentos de fotos. Os traços afrodescendentes são suavizados, nariz e boca levemente afinados, tom da pele sutilmente clareado, contornos levemente retirados. Porém, de sutileza em sutileza se delineia o racismo. Exatamente como o app que, para teoricamente nos embelezar, subtrai os traços étnicos raciais negros. 

Enfim, o assunto não é novo, muito menos desconhecido da grande maioria. Aliás, talvez esse seja o problema, tendo em vista do tanto que o assunto está velho e batido e, também o quanto é relevante dado o advento dos apps e plataformas. Nem sabemos ao certo como essas novas tecnologias vão impactar as nossas vidas. Por isso, os algoritmos serem racistas é grave. Aliás, gravíssimo. 

Podemos dizer que a IA e os algoritmos estão surgindo e se consolidando em pleno vapor, reproduzindo o racismo estrutural presente na sociedade, nas empresas e no Vale do Silício.

Há, ainda, mais uma face dessa problemática. Neste mês, no qual prioritariamente falamos sobre Consciência Negra, tentamos impulsionar em nosso perfil do Instagram duas artes e textos, com os seguintes conteúdos: “Se somos um país miscigenado, então como opera o racismo?”, e “Seríamos nós todas iguais? Lutamos todas pelos mesmos ideais?”. Ambos muito relevantes e com análise de legislação, pesquisas e afins. Sem nenhuma menção político-partidária, ou ofensa de qualquer tipo, mesmo assim os conteúdos foram reprovados pela plataforma, sem motivo ou justificativa. O retorno que obtivemos foi de que não estavam dentro da política. Simples assim! 

Não à toa, influenciadores negros têm recorrentemente chamado a atenção para o fato de terem muito menos repercussão em suas postagens e nas entregas do seu conteúdo quando comparados com os influenciadores brancos. Mesmo se a foto, contexto e anúncio for extremamente semelhante. Segundo o site Negrê, “a digital influencer e youtuber Sá Ollebar, criadora do projeto digital Preta Pariu, iniciou um experimento na plataforma Instagram (…) Após perceber a crescente queda nos índices de alcance digital, a paulista publicou fotografias de modelos caucasianas (brancas) em seu perfil e analisou as métricas de engajamento. Surpreendentemente, a ferramenta de estatísticas aferiu um aumento de 6000% em seu alcance”. 

Leia também

TV a serviço da tecnologia do racismo

“Aqui para”: a primeira condenação judicial baseada em racismo estrutural

Algoritmização como ferramenta de poder e controle

Parafraseando e completando a pergunta que ela fez, o Instagram, e as demais redes sociais, algoritmos e as IAs, só nos representam, entregam nosso conteúdo e nos contemplam se formos brancos? 

No médio e longo prazo, qual será o impacto desse racismo algorítmico que estamos deixando passar em vão na sociedade? Precisamos, urgentemente, de mais programadores negros, negras, LGBTQPIAN+, com deficiência, mulheres, periféricos e todas as ramificações da diversidade também trabalhando na concepção e programação dessas ferramentas.  

Como tenho dito, a realidade só muda quando estamos construindo, produzindo e pensando juntos! E mais, também nos cargos de tomada de decisão. Seguindo essa lógica, já faço este texto antevendo que será bloqueado pelos algoritmos e lido por poucos. Ainda assim, insisto, pois o assunto é necessário e urgente. Conto com você, para juntos furarmos essa bolha. Cobre as empresas de tecnologia, contrate pessoas negras, compartilhe este artigo. Quem sabe assim, podemos fazer com que a era da Inteligência Artificial seja a primeira grande revolução da história da humanidade realmente inclusiva. 

Liliane Rocha é mestre em Políticas Públicas, CEO e Fundadora da Gestão Kairós, consultoria de diversidade e sustentabilidade.