‘My Feed, My Way’ e suas implicações

A algoritmização é um organismo vivo no debate da Economia Digital e há uma busca por repensar seus efeitos na vida cotidiana e frear seus avanços que podem corroer a privacidade, destruir democracias e fragilizar as relações de trabalho. É fato que os algoritmos servem como combustível para a organização de comunicação, consumo e trabalho em aplicativos e que não encontram tantas barreiras em todo o mundo. Isso significa que não há nenhuma regulamentação para seus usos e muito menos legislações robustas que tragam limites para suas funções, o que resulta em avanços danosos para todos.  

É necessário observar que a algoritmização funciona como uma cadeia que engloba diversos circuitos de dados. Isso nos aponta que plataformas ou aplicativos não são espaços isolados, apesar de independentes, e permitem que outros espaços virtuais possam interagir em seus ambientes. Como na prática isso funciona? Há interações simples e rotineiras como um determinado produto observado em um e-commerce e que retorna para o feed em um formato de campanha publicitária, até integrações com streaming ou ferramentas de monitoramento que são compartilhados entre si, capazes de identificar hábitos de consumo com atividades diárias.  

Avancemos para o vazamento de dados íntimos do aplicativo Flo Health, em que empresas como Google e Meta passaram a ter informações sobre ciclos menstruais, ovulação e status de gravidez, o que, partir disso, foi possível direcionar publicidade para públicos segmentados.  

São exemplos assim que podemos observar como os algoritmos são capazes de colher, reter e cruzar informações, além de dialogar com outros ambientes algoritmizados. Carissa Véliz traz uma metáfora sobre os dados pessoais de usuários, como se fossem amianto e, como tal, são minerados a baixo custo e podem ser vendidos ou trocados por privilégios.  

O lastro de informações é dado pelos próprios usuários como uma troca para uso de aplicativos ou sites. Para além de eventuais pagamentos financeiros por meio de assinaturas, cabe ao indivíduo entregar informações relevantes para o ambiente em que trafega, como contrapartida que reduz a sua intimidade e permite ser vigiado por onde andar.  

É a partir do lastro de informações que as Big Techs buscam prever e modificar o comportamento dos seus usuários, criando uma espécie de Engenharia de Comportamento, capazes de criar um superávit comportamental, no qual microdados são extraídos de diferentes fontes, alicerçando estruturas de poder que são fortalecidas por meio da vigilância (Zuboff). É, claramente, um mecanismo datificado com a robustez sem precedentes, que extrai milhões de informações de diversos indivíduos e a partir disso podem lucrar com ofertas de produtos e serviços e entrega de conteúdo que podem desde esmorecer a democracia até construir narrativas psicopolíticas que arregimentam apoiadores para causas neoliberais.  

O capitalismo de vigilância, conceito defendido por Zuboff, se presta como um poder instrumentário capaz de suprir e preencher o vazio deixado pelas relações sociais por máquinas. Na prática, é a busca por um conhecimento do outro a partir da extração de dados e a conexão de informações com o uso de algoritmos para direcionar comunicação, publicidade e extrair lucro. O algoritmo, portanto, atua como ocupação de espaços que estavam vazios, tanto na relação social quanto no fluxo mídia-humano e que agora podem compor novas formas de lucro, seja por meio de publicidade ou outras atividades rentáveis.  

Nota-se, assim, o arrefecimento da privacidade e, acima de tudo, do ócio não-produtivo. A atenção, bem como o descanso, o sono e quaisquer outras atividades rotineiras e pessoais, passam a ser objeto de extração de dados e, portanto, lucro. O algoritmo buscará as entranhas psíquicas, desejos, necessidades e prazeres. Nada passará em vão e despercebido, desde que possa ser mensurado e se não, o algoritmo buscará extrair até subjetividades.  

É necessário compreender que os dados são extraídos das mais variadas formas e o sistema capitalista irá criar desejos em supérfluos para que seja possível obter mais informações. A algoritmização não está apenas no smartphone, ela avança por relógios e até anéis, que monitoram atividades, sono e rotinas dos seus usuários. Os apetrechos têm design atrativo e passam a demonstrar um status, seja de poder de compra, seja por ser capaz de ler a si na mais profunda informação.  

“Conhece-te a ti mesmo”, a frase estava longe de representar um endosso ou ode à algoritmização, mas é a pauta de saber o que acontece com o corpo e o que motiva diversos indivíduos a adquirirem smarts-qualquer-coisa. Essas informações vão ser concentradas em diferentes bancos de dados que cruzados podem entregar informações que antes vivíamos sem. Horas de sono, pico de estresse, oxigenação, ritmo cardíaco e pressão arterial. Um aplicativo que monitora ciclos menstruais e outro que pode ser um diário em que é possível dizer como está se sentindo naquele dia e quais são as agruras que permeiam. Assim, diversos dados pessoais e íntimos estarão em poder de big techs e que podem vender ou vazar essas informações.  

Sem regulação ou regulamentação, as big techs avançam em um terreno fértil com lucros constantes e dados entregues de forma coerciva por seus usuários. Não há consumo de conteúdo, navegação por um e-commerce ou assistir filmes, séries e ouvir músicas no streaming sem que os algoritmos estejam ativos. Aliás, não é possível pedir um delivery, solicitar um carro ou encontrar um apartamento para uma hospedagem sem que haja a intermediação algorítmica. Até aplicativos de relacionamento utilizam da algoritmização para conectar pessoas com maiores chances de “match”. A coerção está em criar uma barreira de acesso e uso caso não esteja de acordo em ceder dados e aceitar que algoritmos possam orientar a usabilidade e a navegação, bem como a disposição de conteúdos. 

Logo, aquilo que consumimos, interagimos e somos impactados são fruto das dinâmicas e respostas algorítmicas. A partir dessa concepção, surge o movimento My Feed, My Way, na Austrália, em que permite o usuário ter controle do uso de algoritmos em suas redes sociais. Na prática, as redes sociais serão obrigadas a enviar uma notificação para usuários novos e já existentes, oferecendo a eles a opção de “desligar” os algoritmos e ter um feed livre deles.  

A iniciativa é relevante pois retira, em parte, o poder das big techs de controlar o feed, orientar comunicação e direcionar consumo dos usuários. É uma clara fissura naquilo que pode ser visto como alicerce do monopólio das redes sociais, pois o algoritmo é o encaixe fundamental para o funcionamento dessas empresas.  

Os algoritmos, então, passam a ser um ativo político-econômico que precisam de regulação e olhar atento dos Estados e suas instituições, pois suas ações podem ter implicações diretas na democracia, soberania e relações sociais. Não se trata, apenas, de definir o que estará sendo disposto ao longo do feed, os algoritmos servem para espalhar notícias falsas, precarizar relações sociais e fragilizar instituições, políticas e o Estado. Além disso, podem agir em favor de empresas e políticos, desde que tenham algum lucro e/ou fortalecimento de seu poder, bem como pujança de seu monopólio.  

Perceba o que ocorreu com o perfil Revelando, liderado por Fábio Porchat, e que uma série de vídeos narram as relações do Banco Master com a Igreja Lagoinha foi derrubada pelo Meta, sem nenhuma clara explicação. Por óbvio, a empresa de tecnologia que está alinhada com os interesses de Trump, não se mostra tão interessada na proteção da “liberdade de expressão” e age de forma direta para derrubar conteúdos que afetem seus interesses econômicos e, sobretudo, políticos.  

A preservação de monopólios é uma premissa, bem como avançar para diferentes públicos tais como os mais jovens para que o ciclo de vida dentro de aplicativos seja aumentado. Se desde mais cedo esse indivíduo estiver imerso nas redes algoritmizadas e passem a ser enxergar não como cidadãos, mas como usuários (clientes) dessas redes.  

A inciativa My Feed, My Way avança em proteger menores de idade de acessar conteúdos violentos, que afetem a saúde mental, pornografia e outros. O documento é preciso ao afirmar que “assim como temos padrões básicos de segurança para carros, brinquedos ou alimentos, o dever de cuidado aplica padrões básicos para os produtos online que usamos diariamente”. Tal entendimento de que os algoritmos podem representar riscos não é algo alarmista e mostrar que o avanço tecnológico e seus usos necessitam de padrões de segurança, é mostrar que a algoritmização pode trazer prejuízos de diferentes naturezas.  

Outro ponto de destaque no My Feed, My Way é que haverá sanção financeira caso ocorra descumprimento. Para além de mostrar limites e dar mais direitos aos usuários de redes sociais, o projeto mostra quais penalidades serão atribuídas e seus valores. É, também, aqui que o governo da Austrália mostra que o Estado deve impor limites para as atribuições das redes, compreendendo que os algoritmos são o núcleo dos sistemas que operam os produtos e serviços das big techs.  

Cabe destacar, entretanto, que o My Feed, My Way é uma iniciativa ainda limitada aos usos das redes sociais e algumas periferias relacionadas, tais como chatbot e compreende também jogos online. Mesmo assim, o projeto pode ser visto como a gênese de mudanças significativas nas estruturas algorítmicas de espaços digitais.  

Ao observar que essa iniciativa mira nas redes sociais, fica clara a preocupação do Estado em salvaguardar a democracia e reforçar sua soberania ante ao avanço das big techs. Pois, é preciso compreender que as redes sociais reforçaram um caráter passivo do usuário diante de temas políticos sensíveis, talvez por sua cidadania tenha sido reduzida ao consumo. Como afirma Byung-Chul Han, em que aponta como uma ação perene do neoliberalismo transformar o cidadão em consumidor, inerte ao interesse real pela política, mas reclamando e criticando, tal como um cliente faz por um produto ou serviço que não gosta. Vendo por essa ótica, as redes sociais se tornam um espaço de lamentações políticas, sem que o cidadão tenha em si a compreensão sobre o seu papel destoante a de um consumidor.  

Se a algoritmização avança para reforçar o caráter único e contínuo do indivíduo como cliente, haverá sempre a precarização social à sombra. Esmigalham direitos trabalhistas, relações sociais e quaisquer outras proteções individuais e coletivas, pois o que prevalece e prevalecerá é o lucro e o poder de vigilância. Basta rememorar Marx que afirma que para o capitalista, a aplicação mais útil do seu dinheiro é aquela que lhe renderá mais lucro com segurança, mesmo que isso não seja o mais saudável e sustentável para a coletividade. Logo, no sistema neoliberal vigente, é o interesse capitalista é ter e manter um exército de clientes, mesmo que antes de tudo sejam cidadãos. O arrefecimento do seu caráter político é uma construção intencional peremptória dos grandes capitalistas, principalmente, os que tem por domínio os negócios de tecnologia.  

Diante disso, ter iniciativas como My Feed, My Way é entender que há possibilidades de mudanças de paradigmas a respeito das orientações dos algoritmos, principalmente, quando o Estado constrói políticas claras de proteção dos seus cidadãos e impõe limites e responsabilidades para sites e aplicativos. Todavia, as big techs não ficarão estáticas contemplando as instituições criando mecanismos de proteção.  

Assim, o My Feed, My Way é um marco democrático que garante premissas básicas para o uso das redes sociais e dá o mínimo de autonomia ao usuário, que para o Estado é visto como cidadão e para as big techs é um consumidor. Qual condição prevalece? Aqui fica claro que o indivíduo deve ter direitos garantidos e sua autonomia protegida. O simples ato de “desligar” o algoritmo deve ser visto como a barreira necessária para a liberdade de ler, assistir e até consumir sem que um conjunto de dados traga um viés instrumentário, dilapidando autonomia do indivíduo a tal ponto que sua intimidade é negativada e o gerenciamento do seu comportamento e ações é uma prática normalizada nas redes.  

Portanto, da Oceania vem uma iniciativa que pode ser um marco importante para como a algoritmização deve ser vista, encarada e administrada. Entender que é dever do Estado impor limites para big techs e proteger cidadãos e democracia. Para além disso, direitos sociais e econômicos são garantidos com ações desse tipo, que trazem um freio, mesmo que limitado e temporário, nas empresas de tecnologia que enxergam no cidadão o poço de lucro sem tamanho.  

Porém, para os próximos passos, é preciso agir na exploração dos dados, que partem da extração de informações constante dos usuários de plataformas. O cidadão não pode ser um agente de vetor de dados em que apenas para de ser explorado quando não estiver mais vivo. Dados pessoais precisam ser vistos como premissa íntima e sua entrega não pode estar condicionada à usos e navegação, bem como, não podem ser explorados e cruzados sem limites e regulação.  

Regular algoritmos, portanto, é um processo de garantia democrática e social, em que ganha a coletividade. Enquanto não houver barreiras para a algoritmização, veremos Estados e sociedades precarizadas em suas relações e direito individuais e coletivos, além de insegurança econômica. Como afirmou Marx sobre os grandes capitalistas: “Esta é uma classe de gente cujo interesse jamais será exatamente o mesmo que o da sociedade”. Redefinir as formas como as big techs operam e como seus algoritmos gerenciam seus ecossistemas, é determinar que os interesses sociais são protagonistas e não devem ser sobrepostos.  

Herbert Salles é doutor em Economia pela UFF.