A economia política da violência de gênero algorítmica por meio de uma lente decolonial

Um documento corporativo vazado da Meta por uma ex-funcionária traz uma frase que comprova o que a tecnocracia frequentemente se recusa a reconhecer: a autorregulação pura, ou a mera compilação de catálogos de códigos de ética desprovidos de mecanismos de imposição cogente (enforcement), não alteram a realidade material. Retirada de uma pesquisa interna da Meta – empresa controladora do Facebook e do Instagram – datada de 2019 e tornada pública em setembro de 2021 pela ex-gerente de produto Frances Haugen, a declaração lê-se, ipsis litteris: “We make body image issues worse for one in three teen girls” (“Fazemos os problemas de imagem corporal piorarem para uma em cada três adolescentes meninas”). A frase não constitui uma denúncia externa, uma hipótese acadêmica abstrata ou uma alegação de movimentos sociais; trata-se de uma autoavaliação técnica, redigida pela própria corporação, acerca do efeito empírico documentado de seu produto.

Quatro anos depois, no final de outubro de 2023, pais de alunas do Colégio Santo Agostinho, instituição tradicional localizada na Barra da Tijuca, no Rio de Janeiro, descobriram que circulavam, em grupos de WhatsApp da escola, imagens íntimas de suas filhas. Os corpos não eram delas; os rostos, sim. Adolescentes entre 12 e 17 anos viram suas fotografias de redes sociais, vestidas, em poses cotidianas e banais processadas por aplicativos de inteligência artificial generativa conhecidos como deepnudes, que removem digitalmente as vestimentas e as substituem por um corpo nu sintético de elevado realismo. Os autores eram colegas de turma do 7º ao 9º ano; as ferramentas, aplicativos gratuitos hospedados em lojas oficiais de smartphones, treinados predominantemente a partir de corpos femininos; a matéria-prima fotográfica, as próprias selfies que as meninas haviam publicado no Instagram.

Estes dois fenômenos, o feed algorítmico que deteriora a autoimagem de uma em cada três adolescentes e o aplicativo de deepnude que sintetiza a nudez a partir dessas mesmas imagens publicadas, não representam disfunções isoladas. São camadas articuladas de uma única e mesma arquitetura sociotécnica. O algoritmo de recomendação coleta a imagem, otimiza o engajamento dos espectadores e aplaina o terreno emocional sobre o qual a indústria da IA generativa opera. Ambas as engrenagens aprenderam, sequencialmente, a mesma lição estrutural: o corpo da menina gera valor econômico; e gera mais valor quando associado a dor.

Estes não constituem, contudo, os únicos vetores do dano de gênero algorítmico.

Na Austrália, entre 2016 e 2019, o sistema automatizado de cobrança de dívidas Robodebt emitiu 526 mil notificações ilegítimas[1], atingindo desproporcionalmente mulheres em situação de vulnerabilidade social, mães solo e trabalhadoras intermitentes, resultando em episódios documentados de suicídio e culminando na instauração de uma Comissão Real de Inquérito. Em escala global, dados da Organização Internacional do Trabalho (OIT) apontam que a exposição feminina à substituição de postos de trabalho por sistemas de IA generativa atinge uma proporção de quase três para um em países de renda alta. Em cada um desses cenários, o dano não se configura como efeito colateral imprevisto do progresso técnico, mas sim como resultado direto da arquitetura técnica adotada e da arquitetura regulatória não implementada.

O AI Act da União Europeia entrou em vigor em 1º de agosto de 2024, iniciando sua aplicação faseada com a vigência das proibições absolutas previstas no artigo 5º a partir de 2 de fevereiro de 2025. No cenário doméstico, o PL 2338/2023, que estabelece o Marco Legal da Inteligência Artificial no Brasil, teve seu texto-base consolidado no Senado Federal no final de 2024 e encontra-se em deliberação avançada na Câmara dos Deputados sob a relatoria do deputado Aguinaldo Ribeiro. Paralelamente, a Austrália transita de diretrizes meramente voluntárias para marcos regulatórios vinculantes.

Diante desse panorama, uma indagação fundamental tem sido sistematicamente postergada: estarão as novas legislações preparadas para reconhecer, mitigar e prevenir os danos que a IA produz, de forma amplamente documentada, sobre as mulheres e meninas?

As respostas propostas por este artigo dividem-se em duas vertentes. A primeira, de natureza descritiva, é negativa: não, as três jurisdições não se encontram preparadas. A segunda, de caráter normativo e propositivo, sustenta que a ausência de responsividade ao gênero na regulação contemporânea da inteligência artificial não decorre de limitações técnicas ou complexidades conceituais insolúveis. Trata-se de uma escolha política e regulatória deliberada, com efeitos mensuráveis sobre a integridade material de mulheres e meninas.

À luz da Convenção sobre a Eliminação de Todas as Formas de Discriminação contra a Mulher (CEDAW), ratificada pelo Brasil em 1984, tal omissão estatal pode configurar violação de obrigações internacionais perante o sistema global de direitos humanos. Com a janela legislativa brasileira aberta, urge demonstrar como, com quais dados e com que urgência essa lacuna deve ser sanada.

A toxicidade otimizada: o legado dos Facebook files

Em setembro de 2021, o Wall Street Journal veiculou uma série investigativa cujo título sintetiza o cerne do debate: “Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show” (“O Facebook sabe que o Instagram é tóxico para adolescentes meninas, mostram documentos da empresa”). A reportagem, assinada por Georgia Wells, Jeff Horwitz e Deepa Seetharaman, expôs a maior fuga documental da história das plataformas digitais. Os arquivos foram submetidos à Securities and Exchange Commission (SEC) norte-americana por Frances Haugen, ex-gerente de produto da equipe de Integridade Cívica da Meta. Em outubro de 2021, perante o Subcomitê de Proteção ao Consumidor do Senado dos Estados Unidos, Haugen inaugurou seu depoimento com uma afirmação categórica: “A máquina de otimização de lucro do Facebook está gerando autoagressão e autoaversão, especialmente em grupos vulneráveis, como adolescentes meninas.”

Os dados empíricos derivados das pesquisas qualitativas e quantitativas da própria Meta, realizadas entre 2019 e 2021, revelam índices alarmantes. Entre as adolescentes que já manifestavam insatisfação prévia com a própria imagem corporal, 32% indicaram que o uso do Instagram agravava esse sentimento. No Reino Unido, 13% das usuárias adolescentes associaram a dinâmica da plataforma à intensificação de ideações suicidas. Ademais, 17% relataram que o ecossistema digital contribuiu para o desencadeamento ou piora de transtornos alimentares severos, como anorexia nervosa e bulimia. Em investigações focadas em seguidoras de perfis de “alimentação saudável”, mais da metade das adolescentes apresentava sintomas clínicos de restrição compulsiva identificáveis em rastreios psicométricos.

Embora a Meta tenha argumentado que o índice de 32% provinha de uma subamostra de adolescentes já anteriormente qualificadas como vulneráveis, e não de uma amostragem probabilística universal, a objeção técnica revela-se eticamente irrelevante. A questão central jurídica e política não reside na universalidade do dano a todas as usuárias, mas sim na verificação de que, para o contingente de adolescentes psicologicamente vulneráveis, uma parcela expressiva e epidemiologicamente consolidada nessa faixa etária, a plataforma atua como um vetor de agravamento sistemático. Tal constatação desloca o debate do campo da ética corporativa voluntária para o campo do dever jurídico de mitigação proativa de riscos, em especial a elaboração prévia de AIA – Avaliação de Impacto algorítmica, por equipe multidisciplinar e independente, para se poder falar em legitimidade do mesmo, substituindo modelos puramente reativos.

O fator de distinção qualitativa do Instagram em relação às mídias de massa tradicionais (como revistas, cinema e televisão, que historicamente veicularam padrões estéticos idealizados) reside na personalização algorítmica em tempo real. O conteúdo exibido é selecionado por sistemas de aprendizado de máquina otimizados para maximizar a retenção e o tempo de tela. Para adolescentes com vulnerabilidades latentes, essa otimização resulta na exposição contínua a conteúdos que induzem à comparação social descendente e à ruminação ansiosa. O algoritmo não possui uma intenção deliberada de infligir dano; ele simplesmente processa a métrica de que o conteúdo nocivo gera maior engajamento e, consequentemente, maior rentabilidade empresarial.

Pesquisas qualitativas internas de 2019 indicaram que as próprias adolescentes manifestavam o desejo de reduzir o tempo de uso da plataforma, mas viam-se impossibilitadas devido a elementos específicos de design comportamental: o scroll infinito, as notificações invasivas ativadas por padrão e a arquitetura visual em grade (grid). A literatura psiquiátrica contemporânea categoriza essa dinâmica como uso problemático compulsivo, uma estrutura comportamental análoga aos transtornos do controle dos impulsos e à dependência de substâncias. Ciente da extensão do dano e da mecânica aditiva do produto, a corporação optou por preservar o modelo de negócios em detrimento de alterações substantivas no design da interface.

No cenário brasileiro, caracterizado por um dos maiores índices de hiperconectividade juvenil do planeta, as implicações são profundas. Os dados da pesquisa TIC Kids Online Brasil 2024, conduzida pelo Cetic.br/NIC.br[2], demonstram que 99% dos adolescentes de 15 a 17 anos e 93% daqueles de 13 a 14 anos possuem perfis ativos em redes sociais, sendo o Instagram a plataforma acessada “várias vezes ao dia” por 63% dos jovens na faixa etária superior. Paralelamente, levantamentos da Sociedade Brasileira de Pediatria (SBP) baseados no Sistema de Informação de Agravos de Notificação (Sinan) do Ministério da Saúde documentaram que, nos anos de 2023 e 2024, o país registrou 3,8 mil hospitalizações de adolescentes por violência autoprovocada, além de aproximadamente mil óbitos por suicídio anuais na faixa dos 10 a 19 anos. Embora o estabelecimento de causalidade linear direta demande cautela metodológica, a convergência estatística com a literatura epidemiológica internacional indica uma correlação robusta.

Portanto, o debate em torno do PL 2338/2023 na Câmara dos Deputados transcende a antecipação de riscos especulativos ou cenários de ficção científica. Trata-se da necessidade premente de estabelecer accountability sobre sistemas algorítmicos de recomendação que operam cotidianamente sobre a população jovem brasileira. A inércia regulatória nacional contrasta com a postura da Comissão Europeia, que abriu procedimentos formais contra a Meta sob o escopo do Digital Services Act (Regulamento UE 2022/2065), investigando os efeitos de “buraco de coelho” (rabbit hole effects) e o design aditivo para menores. Relatórios de organizações independentes, como o Designing for Disorder (Reset Australia) e o Deadly by Design (Center for Countering Digital Hate), corroboram a velocidade com que os algoritmos de plataformas como o TikTok e o YouTube inserem contas simuladas de menores em fluxos de conteúdo nocivo associados a transtornos alimentares e automutilação em questão de minutos.

A exploração sintética do corpo: os deepfakes sexuais nacionais

A clonagem digital de rostos acoplados a corpos nus sintéticos e distribuída via aplicativos de mensageria privada por colegas de classe, que inicialmente vitimou estudantes no Colégio Santo Agostinho, reflete um padrão capilarizado em território nacional. O enquadramento penal do caso ocorrido na capital fluminense demandou o recurso ao artigo 241-C do Estatuto da Criança e do Adolescente (ECA) – um dispositivo tipificado em 2008, concebido em um contexto tecnológico substancialmente distinto do atual ecossistema de inteligência artificial generativa.

Longe de configurar uma anomalia estatística, dados consolidados pela SaferNet Brasil indicam a ocorrência de ao menos dezesseis episódios de grande magnitude envolvendo deepfakes sexuais em ambientes escolares brasileiros, totalizando 72 vítimas identificadas e 57 agressores menores de idade, distribuídos por dez estados de todas as regiões da federação (Alagoas, Bahia, Mato Grosso, Minas Gerais, Pará, Paraíba, Pernambuco, Rio de Janeiro, Rio Grande do Sul e São Paulo). Casos semelhantes em outras redes de ensino estaduais e municipais confirmam que a proliferação dessas ferramentas de desnudamento sintético atinge instituições públicas e privadas, independentemente de estratificação socioeconômica.

A assimetria de gênero na utilização dessas tecnologias é esmagadora. O estudo pioneiro The State of Deepfakes: Landscape, Threats, and Impact, publicado pela Deeptrace (Sensity AI), já apontava que 96% da totalidade dos vídeos sintéticos não consensuais em circulação na internet possuía caráter pornográfico, e 99% das vítimas eram mulheres. Pesquisas globais apresentadas na ACM Conference on Human Factors in Computing Systems (CHI 2025)[3], abrangendo amostras populacionais expressivas em dez países, identificaram uma prevalência de 22,6% de abuso sexual baseado em imagens na população adulta, com impactos psicossociais severamente mais profundos sobre o segmento feminino. No âmbito da proteção à infância, relatórios da Internet Watch Foundation (IWF) constataram que as meninas representam 97% das vítimas em materiais de abuso sexual infantojuvenil gerados artificialmente por IA.

O caso Robodebt: automação burocrática e a margem feminina

Para apreender a densidade do debate regulatório, faz-se necessário analisar a experiência internacional da Austrália com o programa Robodebt[4] (cobrança automatizada de dívidas), operado entre julho de 2016 e novembro de 2019. O sistema computacional realizava o cruzamento automatizado de dados entre a Australian Taxation Office (Receita Federal) e a Centrelink (agência de assistência social) para identificar supostas discrepâncias em pagamentos de benefícios.

O erro estrutural do algoritmo residia na aplicação de um método de média anual de renda (income averaging). Enquanto a elegibilidade e o cálculo dos auxílios da Centrelink eram apurados em bases quinzenais estritas, o sistema automatizado computava a renda anual total informada ao fisco, dividia-a uniformemente por 26 quinzenas e presumia uma estabilidade financeira inexistente. Para trabalhadores inseridos no mercado informal, sazonais, temporários ou em transição epidemiológica de desemprego, o cálculo gerava distorções matemáticas imediatas. Uma trabalhadora que operasse legalmente dentro dos tetos de elegibilidade durante meses de desemprego era apontada como devedora caso obtivesse inserção laboral no semestre seguinte, sob a presunção linear de que sua renda média quinzenal ultrapassara o limite regulamentar.

O programa resultou na emissão de 526 mil notificações ilegítimas de débito, operando sob uma lógica de inversão do ônus da prova: cabia ao cidadão hipossuficiente demonstrar a inexistência da dívida contra o Estado, frequentemente sem dispor de assessoria jurídica, registros documentais históricos exaustivos ou letramento digital adequado para navegar pelas plataformas burocráticas automatizadas. O sofrimento institucional e a pressão psicológica decorrentes do processo foram identificados pela Royal Commission em 2023 como fatores agravantes presentes em múltiplos casos de suicídio documentados no período.

A dimensão de gênero do Robodebt é estrutural. As mulheres figuram majoritariamente como beneficiárias de programas de transferência de renda e assistência social devido a três fatores históricos entrelaçados: a marginalização econômica estrutural, a assunção desproporcional dos encargos de cuidado (care work), que restringe a jornada de trabalho formal, e o desenho institucional da seguridade social, que vincula auxílios à parentalidade primária. Sobretudo, as mulheres ocupam preferencialmente as vagas de trabalho precário, intermitente e de tempo parcial (part-time). Consequentemente, o erro matemático do método de média de renda incidiu precisamente sobre a morfologia do trabalho feminino, convertendo o sistema automatizado em uma máquina de produção de vulnerabilidade econômica de gênero.

A ilegalidade do método foi declarada pela Corte Federal australiana no caso Amato v Commonwealth (2019), forçando o Estado ao cancelamento dos débitos, à restituição de 746 milhões de dólares australianos arrecadados indevidamente e ao pagamento de indenizações que elevaram o custo fiscal de reparação à cifra aproximada de 1,8 bilhão de dólares australianos. A análise doutrinária conduzida por Sharmin Chowdhury e pela Professora Ramona Vijeyarasa no Australian Journal of Human Rights demonstrou que a operação do Robodebt violou sistematicamente preceitos do Pacto Internacional sobre Direitos Civis e Políticos (artigos 2º, 17 e 26) e do Pacto Internacional sobre Direitos Econômicos, Sociais e Culturais (artigos 9º e 11). A principal conclusão desse estudo sustenta que a implementação de sistemas automatizados de tomada de decisão na esfera dos direitos sociais deve ser condicionada à realização compulsória de Avaliações de Impacto sobre Direitos Humanos (Human Rights Impact Assessments), nos moldes dos estudos de impacto ambiental exigidos para obras de infraestrutura.

A transposição deste cenário para o contexto brasileiro revela-se urgente. Embora o PL 2338/2023 inclua a assistência social como setor de alto risco sujeito à avaliação de impacto, o texto carece de diretrizes específicas que imponham a desagregação de dados por marcadores de gênero e raça. À medida que o Cadastro Único (CadÚnico), o Bolsa Família e os sistemas de concessão de benefícios do INSS passam por processos de modernização e automação algorítmica para detecção de fraudes, a ausência de salvaguardas explícitas de gênero ameaça reproduzir as falhas estruturais do caso australiano.

A divisão sexual do trabalho face à automação algorítmica

A assimetria algorítmica estende-se, outrossim, ao mercado de trabalho. O Documento de Trabalho 140 da Organização Internacional do Trabalho (OIT), elaborado por Pawel Gmyrek, Janine Berg e David Bescond (2025), analisou dezenas de milhares de tarefas ocupacionais globalmente e evidenciou que 4,7% dos empregos exercidos por mulheres no mundo possuem alta exposição à substituição por processos de IA generativa, em comparação com 2,4% dos postos masculinos. Em economias de alta renda, esse hiato acentua-se, atingindo 9,6% do emprego feminino frente a 3,5% do masculino, uma proporção de quase três para um. As conclusões coincidem com o relatório Gender Snapshot 2025 da ONU Mulheres/UN DESA, que aponta que 28% da força de trabalho feminina global enfrenta níveis críticos de exposição à automação por IA generativa.

Esse fenômeno decorre diretamente da divisão sexual do trabalho consolidada ao longo da modernidade capitalista, que concentrou o emprego feminino em funções administrativas, de suporte de escritório, atendimento e rotinas de secretariado – precisamente o segmento de tarefas em que a capacidade de processamento de linguagem natural e automação cognitiva da IA generativa apresenta maior viabilidade técnica e atratividade econômica para a redução de custos de capital. Como aponta o estudo Algorithm and Eve da OCDE, as mulheres enfrentam o risco de sofrer uma perda desproporcional de espaço no mercado laboral formal no momento em que seus índices de escolaridade e inserção histórica atingiam patamares inéditos. O dano tecnológico, portanto, não se distribui de forma neutra; ele se propaga através das linhas de fratura socioeconômicas preexistentes.

As insuficiências dos marcos regulatórios atuais

Diante de tamanho acúmulo de evidências macroeconômicas e psicossociais, impõe-se o questionamento: por que as principais iniciativas legislativas de governança de inteligência artificial negligenciam a especificidade da violência e da assimetria de gênero bem como são omissas em combater discriminações à luz de uma lente interseccional?

Destaca-se ainda a importância do trabalho de Observatórios de IA como o da OCDE, que traz em tempo real o incidente tracker, sendo uma etapa essencial da governança em IA com base em evidências, sendo casos que demonstram o estado da arte dos riscos hoje materializados, não mais hipóteses ou cenário distópico, deslocando-se o regime de promessa para o regime de incidente. Por mais de uma década, o discurso público sobre IA foi dominado por projeções, utópicas ou apocalípticas, sobre o que a tecnologia poderia vir a fazer. Em 2024–2026, o regime mudou: a IA passou a ser objeto de decisões judiciais, indenizações, leis específicas, retiradas regulatórias e relatórios oficiais, o que é corroborado por pesquisas de peso da lavra do MIT, da OCDE, da Stanford HAI, da NIST.

O AI Act da União Europeia relega o tratamento de fenômenos como os deepfakes sexuais ao artigo 50, enquadrando-os unicamente sob obrigações de transparência e rotulagem informacional. A arquitetura europeia não classifica a síntese não consensual de pornografia imagética como prática proibida (Artigo 5º). Sob a ótica do regulamento europeu atual, a produção de representações sexuais sintéticas de cidadãs reais permanece juridicamente viável, desde que acompanhada de um aviso técnico indicando sua natureza artificial.

Criticamente, para mulheres adultas, a produção e distribuição de um deepfake sexual não é qualificada como “uso proibido” ou de alto risco pela legislação europeia, a menos que se enquadre no artigo 5(1)(b) sobre a exploração de vulnerabilidades, uma categoria que, na prática, é excessivamente restritiva e de difícil aplicação a vítimas adultas fora de condições extremas de incapacidade.

No âmbito nacional, o texto atual do PL 2338/2023 não tipifica a violência de gênero facilitada por tecnologia como categoria analítica autônoma ou fator de risco agravado. Se consideramos o aparato legislativo penal brasileiro, em especial a Lei nº 14.811/2024 (crimes virtuais contra crianças) e a Lei nº 13.718/2018 (divulgação de cenas de nudez sem consentimento) precedem o amadurecimento das ferramentas de IA generativa de desnudamento em massa, exigindo esforço hermenêutico e gerando instabilidade na aplicação judicial.

Em contrapartida, movimentos internacionais sinalizam respostas normativas mais incisivas. Os Estados Unidos promulgaram o Take It Down Act em maio de 2025, conferindo à Federal Trade Commission (FTC) o poder de sancionar plataformas que não removam deepfakes íntimos não consensuais em um prazo peremptório de 48 horas após a denúncia. No mesmo sentido, a Itália estabeleceu restrições específicas por meio da Lei 132/2025, e a eSafety Commissioner da Austrália emitiu diretrizes administrativas impositivas sobre a circulação de material gerado por IA.

A recusa em classificar a pornografia sintética não consensual como uso proibido reflete uma escolha eminentemente política, que prioriza a flexibilidade do desenvolvimento de modelos de IA generativa em detrimento da salvaguarda dos direitos da personalidade das mulheres. A Convenção sobre a Eliminação de Todas as Formas de Discriminação contra a Mulher (CEDAW) e sua Recomendação Geral nº 35 (2017) impõem ao Estado brasileiro obrigações de natureza afirmativa. O país possui o dever convencional de prover respostas legislativas céleres para coibir novas modalidades de violência mediadas por tecnologia.

Métricas internacionais evidenciam o atraso do país nessa seara. O Global Index on Responsible AI (GIRAI), coordenado pelo Global Center on AI Governance e apoiado pelo IDRC canadense, avaliou a governança responsável em 138 jurisdições. Na dimensão de igualdade de gênero, os dados compilados no AI Index Report 2026 do Stanford Institute for Human-Centered AI (Stanford HAI) demonstram que apenas o Canadá e os Países Baixos atingiram as pontuações máximas. O Brasil posiciona-se em um plano intermediário, oscilando entre as posições 41 e 60, denotando a distância entre o acúmulo acadêmico nacional e a efetivação de políticas públicas e normas vinculantes responsivas ao gênero. A transposição dos critérios analíticos do Gender Legislative Index, propostos pela Professora Ramona Vijeyarasa, apresenta-se como ferramenta metodológica fundamental para a tradução de princípios constitucionais em dispositivos técnicos de auditoria e conformidade legal.

Por uma lente decolonial e interseccional na regulação brasileira

A fundamentação teórica de uma regulação de inteligência artificial no Sul global exige a superação de matrizes conceituais universalistas abstratas importadas do Norte global. A filósofa brasileira Denise Ferreira da Silva, em suas obras Toward a Global Idea of Race (2007) e Unpayable Debt (2022), formula uma crítica epistemológica essencial ao demonstrar que o sujeito jurídico moderno se assenta sobre uma “analítica da racialidade”, que historicamente constitui corpos negros e indígenas como categorias “afetáveis” pela violência e pelo arbítrio estatal, reservando a transparência e a autodeterminação racional ao sujeito eurocêntrico.

Essa assimetria epistêmica reproduz-se nos sistemas de inteligência artificial: os algoritmos operam classificando, monitorando e vulnerabilizando corpos com base em eixos de dominação preexistentes. A experiência pós-colonial brasileira marcada pelo racismo estrutural camuflado pelo mito da democracia racial difere das dinâmicas de colonização de povoamento (settler-colonialism) da Austrália. Logo, as respostas regulatórias nacionais não podem constituir meras cópias institucionais, mas devem emergir da própria realidade material do país.

O pensamento de intelectuais como Lélia Gonzalez e Sueli Carneiro fornece o instrumental teórico para compreender que raça, gênero e classe não operam como variáveis isoladas, mas sim como vetores imbricados que determinam a distribuição do dano algorítmico. Uma regulação decolonial da inteligência artificial exige a rejeição do mito da neutralidade da técnica e o reconhecimento de que a burocracia digital pode atuar como um instrumento de perpetuação de hierarquias coloniais.

Articulações da sociedade civil brasileira tais como o InternetLab, a Coding Rights, o IRIS-BH, o Data Privacy Brasil, em coordenação com núcleos acadêmicos como o Instituto de Estudos Avançados da USP, a PUC-SP, a PUC-RJ e o C4AI, acumulam subsídios críticos para intervir no debate público. A aprovação final do PL 2338/2023 representará o início de um complexo ciclo regulatório. A elaboração de decretos regulamentares pelo Poder Executivo, as resoluções da Autoridade Nacional de Proteção de Dados (ANPD) e as normativas dos órgãos setoriais demandarão a inscrição de salvaguardas explícitas de gênero e raça.

Propostas objetivas para o cenário regulatório brasileiro

Com o propósito de conferir densidade normativa e efetividade concreta com base em especial no princípio da prevenção ao Marco Legal da IA no Brasil, propõe-se a inclusão vinculante de cinco medidas emergenciais no texto legal e nas regulamentações infralegais subsequentes:

Proibição Absoluta de Deepfakes Íntimos: Elevar a síntese não consensual de imagens íntimas de pessoas reais ao status de Uso Proibido (Artigo 5º), superando as exigências inócuas de mera rotulagem.

Avaliações de Impacto Interseccionais Obrigatórias: Impor que os relatórios de impacto algorítmico exijam dados desagregados por gênero, raça e classe sempre que sistemas de IA forem aplicados em políticas públicas ou moderação de conteúdo.

Mecanismo de Derrubada Célere (Take It Down): Estabelecer o dever legal de remoção de conteúdos sintéticos sexuais não consensuais pelas plataformas no prazo peremptório de 48 horas após a denúncia da vítima.

Critérios de Alto Risco Baseados na CEDAW: Incorporar os indicadores de direitos das mulheres da CEDAW e do Gender Legislative Index nas auditorias estatais sobre sistemas de IA aplicados na concessão de benefícios sociais e segurança pública.

Auditorias Anti-Estereotipagem Territorial: Exigir auditorias externas regulares em modelos de IA generativa operando no Brasil para detectar e frear vieses machistas, racistas e geográficos construídos contra as populações do Sul Global.

A omissão do texto legal diante dessas dinâmicas não equivale à neutralidade técnica; constitui uma decisão política que chancela a transferência dos custos sociais do desenvolvimento tecnológico para os grupos historicamente vulnerabilizados. Os dados empíricos estão consolidados: 526 mil cidadãos afetados na Austrália, dezenas de adolescentes violadas em escolas brasileiras e uma assimetria econômica global de três para um no mercado de trabalho de alta renda.

O que se encontra em disputa na regulação brasileira da inteligência artificial não é a vanguarda técnica das nossas instituições, mas sim a consolidação de uma democracia de alta intensidade, capaz de assegurar os direitos fundamentais na era da automação cognitiva.

Paola Cantarini Guerra é jurista, Professora Universitária e Pesquisadora Sênior em Inteligência Artificial.

Referências bibliográficas

BELLO Y VILLARINO, Juan-Manuel; VIJEYARASA, Ramona. International Human Rights, Artificial Intelligence, and the Challenge for the Pondering State: Time to Regulate? Nordic Journal of Human Rights, v. 40, n. 1, p. 194-215, 2022.

BRANCO, Sergio; MATTIUZZO, Marcela. Violência de Gênero Facilitada por Tecnologia e Inteligência Artificial no Brasil. Rio de Janeiro: InternetLab, 2024.

BRASIL. Projeto de Lei nº 2338/2023. Estabelece o marco legal do desenvolvimento e uso da Inteligência Artificial no Brasil. Brasília, DF: Senado Federal, 2024.

CENTER FOR COUNTERING DIGITAL HATE (CCDH). Deadly by Design: TikTok’s Algorithm and Youth Mental Health. London/Washington: CCDH, 2022.

CENTER FOR COUNTERING DIGITAL HATE (CCDH). YouTube’s Anorexia Algorithm. London/Washington: CCDH, 2025.

CHOWDHURY, Sharmin. Automated Decision-Making and International Human Rights Law: Assessing the Robodebt Scheme under the Lenses of ICCPR and ICESCR. Australian Journal of Human Rights, v. 30, n. 1, p. 45-68, 2024.

COMITÊ GESTOR DA INTERNET NO BRASIL (CGI.br). Pesquisa TIC Kids Online Brasil 2024: TIC e direitos das crianças e adolescentes no Brasil. São Paulo: Cetic.br/NIC.br, 2024.

DEEPTRACE. The State of Deepfakes: Landscape, Threats, and Impact. Amsterdam: Deeptrace Labs (Sensity AI), 2019.

FARTHING, Rys. Designing for Disorder: Instagram’s Pro-Eating Disorder Bubble in Australia. Sydney: Reset Australia, 2022.

FERREIRA DA SILVA, Denise. Toward a Global Idea of Race. Minneapolis: University of Minnesota Press, 2007.

FERREIRA DA SILVA, Denise. Unpayable Debt. New York/Berlin: Sternberg Press, 2022.

GLOBAL CENTER ON AI GOVERNANCE. Global Index on Responsible AI (GIRAI) 2024 Report. Pretoria: GC4AI, 2024.

GMYREK, Pawel; BERG, Janine; BESCOND, David. Generative AI and Jobs: A global analysis of potential effects on job quantity and quality. Geneva: International Labour Organization, 2025. (OIT Working Paper 140). DOI: 10.54394/HETP0387.

GONZALEZ, Lélia. Racismo e sexismo na cultura brasileira. In: GONZALEZ, Lélia. Primavera para as Rosas Negras. São Paulo: UCPA, 2018 [1984].

ORGANIZAÇÃO DAS NAÇÕES UNIDAS (ONU). Convenção sobre a Eliminação de Todas as Formas de Discriminação contra a Mulher (CEDAW). Nova York: ONU, 1979.

ORGANIZAÇÃO DAS NAÇÕES UNIDAS MULHERES (ONU Mulheres); UN DESA. Progress on the Sustainable Development Goals: The Gender Snapshot 2025. New York: United Nations, 2025.

ORGANIZAÇÃO PARA A COOPERAÇÃO E DESENVOLVIMENTO ECONÔMICO (OCDE). Algorithm and Eve: The Gender Dimensions of AI Automation in Workplaces. Paris: OECD Publishing, 2024.

STANFORD INSTITUTE FOR HUMAN-CENTERED ARTIFICIAL INTELLIGENCE (STANFORD HAI). Artificial Intelligence Index Report 2026. Stanford: Stanford University, 2026.

UMBACH, Rebecca; HENRY, Nicola; BEARD, Gemma. Image-Based Sexual Abuse: Prevalence, Predictors, and Impact in a Ten-Country Study. In: CHI CONFERENCE ON HUMAN FACTORS IN COMPUTING SYSTEMS (CHI 2025), Yokohama. Proceedings… Yokohama: ACM, 2025.

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial / AI Act). Jornal Oficial da União Europeia, L 2024/1689, 12 jul. 2024.

UNITED STATES. Public Law No. 119-12: Take It Down Act of 2025. Washington, DC: U.S. Government Publishing Office, 2025.

VIJEYARASA, Ramona. The Gender Legislative Index: A Tool for Responsive Law-Making. Sydney: University of Technology Sydney (UTS), 2021.

WELLS, Georgia; HORWITZ, Jeff; SEETHARAMAN, Deepa. Facebook Knows Instagram Is Toxic for Teen Girls, Company Documents Show. The Wall Street Journal, New York, 14 sept. 2021. Series: The Facebook Files.

[1] AUSTRALIA. Royal Commission into the Robodebt Scheme. Final Report. Canberra: Commonwealth of Australia, 2023.

[2] COMITÊ GESTOR DA INTERNET NO BRASIL (CGI.br). Pesquisa TIC Kids Online Brasil 2024: TIC e direitos das crianças e adolescentes no Brasil. São Paulo: Cetic.br/NIC.br, 2024.

[3] UMBACH, Rebecca; HENRY, Nicola; BEARD, Gemma. Image-Based Sexual Abuse: Prevalence, Predictors, and Impact in a Ten-Country Study. In: CHI CONFERENCE ON HUMAN FACTORS IN COMPUTING SYSTEMS (CHI 2025), Yokohama. Proceedings… Yokohama: ACM, 2025.

[4] CHOWDHURY, Sharmin. Automated Decision-Making and International Human Rights Law: Assessing the Robodebt Scheme under the Lenses of ICCPR and ICESCR. Australian Journal of Human Rights, v. 30, n. 1, p. 45-68, 2024.