Safe city, ou o governo dos algoritmos
As ferramentas de vigilância policial com base no Big Data e na inteligência artificial se multiplicam em várias cidades francesas. Graças a experiências lideradas por grupos privados que procuram alcançar o nível da concorrência norte-americana ou chinesa, a smart city revela seu verdadeiro rosto: o de uma cidade vigiada
No dia 28 de dezembro de 1948, no Le Monde, o lógico Henri Dubarle publicou um dos primeiros artigos consagrados aos novos computadores aperfeiçoados nos Estados Unidos durante a Segunda Guerra Mundial. De início, tentou antecipar os efeitos políticos daquilo que logo seria chamado de informática. A cibernética balbuciava e o capitalismo de vigilância ainda não era uma realidade,1 mas ele compreendeu que, no fim, essa tecnologia acabaria transformada em uma “máquina de governar”: “Imaginemos”, escreveu, “uma máquina de coletar este ou aquele tipo de informação, dados sobre a produção e o mercado, por exemplo, para depois determinar, em função da psicologia média dos homens e das medidas passíveis de tomar em determinado instante, quais serão os desdobramentos mais prováveis da situação”. Dubarle predisse que, à medida que as capacidades de armazenamento e tratamento de dados aumentassem, a informática conduziria ao “surgimento de um prodigioso Leviatã político”.
Setenta anos depois, projetos de “cidade inteligente” (smart city) se espalham pelo mundo. Depois de Estados Unidos, China, países do Golfo e Reino Unido, é na França que grandes grupos industriais ocupam esses mercados em aliança com escolhidos locais, adeptos do solucionismo tecnológico.2 Como que ecoando as predições de Dubarle, eles pretendem multiplicar as ferramentas informáticas no espaço público urbano para supervisionar, analisar, prever e controlar os fluxos de pessoas e mercadorias. O governo das cidades entra, assim, na era do controle algorítmico. E, afora algumas iniciativas em matéria de abertura de dados e de gestão “inteligente” da iluminação pública ou da coleta de lixo, a smart city se define sobretudo por sua vertente securitária, a tal ponto de os industriais já falarem em safe city: cidade segura.
Os documentos administrativos ligados a esses projetos revelam a porosidade entre administração urbana e doutrinas saídas do mundo militar. Assim, a convenção de experimentação concluída em junho de 2018 entre a prefeitura de Nice e um consórcio de quinze empresas dirigidas pela Thales parte da constatação de uma “urbanização galopante na superfície do mundo”. Evocando “ameaças cada vez mais graves”, coloca no mesmo plano “riscos naturais”, como mudanças climáticas, e “riscos de origem humana” (criminalidade, terrorismo etc.). Nada de indagar a respeito das consequências econômicas, sociais e políticas desses fenômenos, e menos ainda de agir para combatê-las. O que importa, antes de tudo, é “avaliar cada situação para antecipar incidentes e crises”, “identificar os sinais fracos” para propiciar uma “ajuda à planificação”, fazer “predições com base em cenários”, tudo isso no quadro de uma “gestão em tempo real” por meio da exploração do “máximo de dados existentes” em um “centro de hipervisão e comando”.3
Os “riscos” são assim reduzidos a uma situação de fato, com o poder público se contentando em controlar os efeitos. Entre os planejadores da safe city, a polícia retoma sua antiga função teorizada no século XVIII: gerar um saber sobre a população, orientar sua conduta agindo sobre as variáveis que a determinam, assegurar sua docilidade e produtividade. A novidade está no abandono do horizonte decididamente fugidio da “ordem pública”. Agora, basta gerir a desordem. Graças à escalada tecnológica, os tecnocratas acreditam poder detectar na nuvem do caos certas características ou regularidades estatísticas com base nas quais se possa categorizar, classificar, correlacionar e, finalmente, antecipar, prever, prevenir e ajustar – mas também, quando necessário, vigiar e reprimir.
Para tanto, a safe city se apoia em duas grandes inovações tecnológicas. Primeira: a possibilidade de reunir e analisar diversos conjuntos de dados, como arquivos de polícia, informações pessoais compiladas na internet – principalmente nas redes sociais – etc., a fim de produzir estatísticas e ajudar na tomada de decisões segundo a lógica da polícia preventiva. As ferramentas de vigilância testadas nos últimos dez anos pelas grandes agências de informação vão dominando o conjunto das atividades policiais…
Em Marselha, o projeto do “observatório Big Data da tranquilidade pública”, confiado desde janeiro de 2018 à empresa Engie Ineo, pretende integrar fontes oriundas dos serviços públicos municipais (polícia, transporte, hospitais etc.), mas também de “parceiros externos”, como o Ministério do Interior, que centraliza numerosos arquivos e dados estatísticos, ou das operadoras de telecomunicações, cujos dados relativos à localização de aparelhos celulares permitem cartografar em tempo real os “fluxos de população”.
Os cidadãos também serão chamados a contribuir, fornecendo diretamente informações (textos, vídeos, fotografias, rapidez de deslocamento, nível de estresse…) por meio de “um aplicativo no smartphone ou objetos conectados”. Haverá igualmente a vigilância de conversas em redes sociais como Twitter e Facebook, para “recuperar publicações cujos temas tenham interesse para a segurança da cidade”, a fim de “antecipar ameaças”, avaliar o “risco de reuniões perigosas por meio da análise de tuítes” ou, ainda, proceder à “identificação dos atores”, descobrindo “quem fala, quem age, quem interage com quem”. Para hospedar e tratar esses imensos volumes de dados, a cidade de Marselha adquiriu vários servidores da empresa Oracle. Ela dispõe agora de um espaço de armazenamento de 600 terabytes, capacidade equivalente à da Biblioteca Nacional da França, para sua política de arquivamento de dados da internet.
Segundo fundamento técnico da safe city: a análise automática dos fluxos de videovigilância. Agora que o Estado e as coletividades francesas investiram perto de 200 milhões de euros na compra de câmeras, desde 2007 (tendo tido com isso resultados irrisórios),4 a automatização promete uma pletora de maravilhas – e, cereja do bolo, sem contratar funcionários para a visualização. Projetos de videovigilância dita “inteligente” pululam em Toulouse, Nice, Marselha, Valenciennes, Paris e até nos departamentos de Gard e Yvelines.
O prefeito de Nice, Christian Estrosi, está entre os responsáveis políticos mais entusiasmados com as potencialidades dessas tecnologias. Em dezembro de 2018, ele fez o Conselho Regional da Região Sul assinar uma deliberação que autorizava o teste de equipamentos de reconhecimento facial em dois colégios, a fim de vigiar as entradas e saídas, em colaboração com a empresa norte-americana Cisco. O último Carnaval da cidade, aliás, serviu de laboratório para testes de dispositivos semelhantes.
Nice é uma das municipalidades francesas que pretendem associar a videovigilância a algoritmos de reconhecimento de emoções. Os vereadores entraram em contato com a start-up Two-I para adotar sua solução nos bondes da cidade. Em Nancy e Metz, a Two-I trabalha com um financiador para avaliar os sentimentos dos habitantes. Em Irigny, perto de Lyon, a polícia preferiu uma concorrente, a DC Communication, para analisar o “estado de espírito” do público que frequenta seus espaços. Essas ferramentas, nascidas do neuromarketing, detectam as expressões faciais associadas à alegria, à tristeza, ao medo e ao desprezo. “O algoritmo depois passa a medir essas emoções a fim de destacar a que está mais presente”, explica Rémy Millescamps, fundador da DC Communication e policial da reserva.
Embora os usos potenciais da videovigilância “inteligente” sejam muitos, a prioridade é a identificação automática de indivíduos ou comportamentos suspeitos. Em junho de 2018, em um discurso sobre as doutrinas de manutenção da ordem, o ex-ministro do Interior Gérard Collomb anunciava ferramentas de inteligência artificial que logo seriam capazes de “detectar na multidão indivíduos de comportamento bizarro” – perspectiva de novo invocada no Parlamento francês neste inverno, por ocasião do debate sobre a lei antimanifestação adotada pelo governo em resposta ao movimento dos “coletes amarelos”. Por meio de emendas finalmente rejeitadas, deputados do partido Os Republicanos tentaram legalizar a comparação das imagens de videovigilância com diversos arquivos a fim de automatizar “a identificação de indivíduos perigosos no seio de uma manifestação”. Afora o caso de militantes políticos considerados perigosos ou suspeitos de atividades terroristas, a multiplicação de arquivos biométricos – notadamente os ligados à imigração ou o arquivo dos títulos eletrônicos de segurança (TES), que desde 2016 reúne dados de todos os solicitantes de carteiras de identidade ou passaportes – torna possível uma extensão rápida do reconhecimento facial a categorias cada vez mais vastas.5
Juntamente com o Reino Unido, a França hoje lidera na Europa a utilização dessas tecnologias de controle social. Se, em 2016, seus serviços de informação precisavam adquirir ferramentas de análise de dados da empresa norte-americana Palantir, o aparecimento de paladinos nacionais em matéria de Big Data de segurança se tornou agora uma prioridade. Os projetos de safe city permitem às empresas prestadoras de serviços às coletividades, tal como a Engie Ineo, ou de defesa e segurança, como a Thales, posicionar-se nesses novos mercados diante da concorrência norte-americana ou chinesa, apoiadas pelo Estado acionista que está presente nesses grupos com 32,8% e 26,4%, respectivamente.
Além das coletividades comanditárias, numerosos organismos públicos participam dos novos desdobramentos. Desse ponto de vista, o projeto de safe city conduzido pela Thales em Nice é emblemático. Concebido para seguir os eixos temáticos identificados pelo Comitê do Setor Industrial de Segurança – que assegura o contato entre governo e setor privado –, ele se beneficia de um rótulo outorgado por esse mesmo organismo. Dentro do Programa de Investimento para o Futuro, o Banco Público de Investimento lhe concedeu uma ajuda de 11 milhões de euros sob a forma de subvenções e adiantamentos recuperáveis, sendo o custo total do projeto de 25 milhões em três anos. Enfim, várias tecnologias propostas foram aperfeiçoadas graças a projetos de pesquisa que associaram atores industriais e organismos públicos, como o Instituto Nacional de Pesquisa em Informática e Automação (Inria), por meio de financiamentos da Agência Nacional de Pesquisa ou da Comissão Europeia.
No mesmo sentido, a safe city pressupõe uma privatização nunca vista das políticas de segurança. A capacidade técnica está inteiramente confiada aos atores privados, enquanto os parâmetros que regem seus algoritmos permanecerão, segundo todas as aparências, submetidos ao segredo empresarial. No plano jurídico, ainda não existe nenhuma análise séria da conformação desses dispositivos ao direito à vida privada ou à liberdade de expressão e consciência que, no entanto, são aqui postos em causa. Por enquanto, apenas os advogados das empresas envolvidas procuram, sem zelo excessivo, respeitar a legislação vigente, revista em 2018, mas já ultrapassada. Os efeitos políticos desses desdobramentos anunciam-se bastante significativos: excessos no tratamento policial de certos bairros, agravamento nas discriminações que já afetam algumas categorias de pessoas, repressão dos movimentos sociais. Nada disso, obviamente, é invocado pelos defensores da ideia.
Já a Comissão Nacional de Informática e Liberdades (CNIL) se atém a um laissez-faire indolente. Abrigada por trás de sua penúria de meios e alegando que o regulamento europeu sobre a proteção de dados pessoais lhe tirou o poder de autorização a priori, ela clama por um “debate democrático” que “defina os enquadramentos apropriados”6. No entanto, reconhece, pela ausência de um quadro jurídico específico, aquilo que, em virtude da jurisprudência da Corte Europeia de Direitos Humanos, basta para demonstrar a ilegalidade pura e simples desses projetos. O governo, que anunciou uma revisão da lei relativa à informação para 2020, poderia se valer desse texto para viabilizar no plano legislativo as experiências em curso e preparar a generalização dos dispositivos de vigilância policial – a menos que as mobilizações de cidadãos não contestem essas experiências.
Félix Tréguer é pesquisador e membro de La Quadrature du Net.
1 Ver Shoshana Zuboff, “Un capitalisme de surveillance” [Um capitalismo de vigilância], Le Monde Diplomatique, jan. 2019.
2 Cf. Evgeny Morozov, Pour tout résoudre, cliquez ici. L’Aberration du solutionnisme technologique [Clique aqui para resolver tudo. A aberração do solucionismo tecnológico], FYP Éditions, Lyon, 2014.
3 Referências do documento.
4 Cf. Laurent Mucchielli, Vous êtes filmés! Enquête sur le bluff de la videosurveillance [Você está sendo filmado! Pesquisa sobre o blefe da videovigilância], Armand Colin, Paris, 2018.
5 Ver François Pellegrini e André Vitalis, “L’Ère du fichage généralisé” [A era do fichamento generalizado], Le Monde Diplomatique, abr. 2018.
6 “La CNIL apele à la tenue d’un débat démocratique sur les nouveaux usages des caméras vidéo” [A CNIL convoca para um debate democrático sobre os novos usos das câmeras de vídeo], CNIL, Paris, 19 set. 2018.
