A CIA utilizou fotografias de pessoas participando da peregrinação islâmica do Hajj, a Meca, na Arábia Saudita, para ilustrar as capacidades em potencial de suas novas tecnologias de vigilância e inteligência artificial (IA), confirmou a rede Middle East Eye.
Organizações da sociedade civil e de direitos digitais reiteraram que o uso da imagem traz à luz preocupações gravíssimas sobre o desenvolvimento acelerado e antiético de ferramentas como reconhecimento fácil, submetidas a um padrão institucionalizado de islamofobia e racismo nas instituições de segurança e inteligência de países ocidentais, segundo as quais muçulmanos — e árabes em geral — representam uma ameaça.
A imagem surgiu em uma apresentação conduzida por um oficial de alto escalão da Diretoria de Inovação Digital da Agência Central de Inteligência dos Estados Unidos (CIA), sobre as mudanças da organização rumo a tecnologias de nuvem capazes de revolucionar a capacidade de compilar informações em todo o mundo.
Durante uma conferência do setor público, organizada pela Amazon Web Services (AWS), ainda em 2018, declarou Sean Roche: “A era de inteligência expedicionária significa ir a lugar bastante hostis, muito, muito rápido, para solucionar problemas cascudos”. Conforme sua apresentação, equipes pequenas de programadores, cientistas de dados e analistas — capazes de “codificar o campo” — entregaram à agência “capacidades extraordinárias no que diz respeito a encontrar pessoas com as quais nos preocupamos”.
“Sabendo quem são, onde estão, o que estão fazendo e o que desejam fazer”, insistiu Roche — então vice-diretor associado de Inovação Digital da CIA.
A apresentação contou com uma fotografia de peregrinos ao redor da Caaba, lugar mais santo para o Islã. A imagem parece ter sido obtida de um arquivo digital, registrada durante o Hajj de janeiro de 2017. Porém, foi editada com um círculo amarelo para destacar a face de um homem em meio à multidão.
Alvos de facto
O homem não foi identificado. Não há indícios de que seja procurado pela CIA.
LEIA: Israel adota tecnologia de reconhecimento facial na Cisjordânia ocupada
O Middle East Eye questionou a agência se já há capacidade de vigilância disponível para vigiar, monitorar e identificar as pessoas que participam do Hajj, e se tais tecnologias foram adotadas durante a peregrinação do ano passado. A CIA jamais respondeu.
Contudo, o uso da imagem incitou apreensão entre organizações relevantes e especialistas em tecnologias de vigilância.
Edward Mitchell, então vice-diretor do Conselho de Relações Islâmico–Americanas (CAIR), disse ao Middle East Eye que há uma longa história de discriminação contra árabes e muçulmanos em materiais do governo e do Estado americano, ao retratá-los como ameaças, tanto nos briefings de mercado, como é o caso, como em cartilhas de treinamento.
“Os muçulmanos não deveriam servir de exemplo sobre como esse tipo de tecnologia do Estado pode ser usada, sobretudo durante atividades de culto, como a peregrinação do Hajj”, observou Mitchell.
Ashley Gorski, advogada sênior do Projeto de Segurança Nacional da União por Liberdades Civis, comentou: “Tecnologias de reconhecimento facial impõem risco gravíssimo à privacidade e aos direitos civis. As pessoas têm o direito de orar e realizar seus ritos livremente, sem medo de que sejam rastreadas pelo governo … Este é mais um exemplo de como as agências de inteligência dos Estados Unidos promovem ferramentas de vigilância contra certas comunidades religiosas, até mesmo no exterior”.
Máquina de aprendizado
Roche explicou como a agência usa inteligência artificial para coletar e processar dados: “Esta é uma máquina de aprendizado para quê? Nosso trabalho é tratar do ser humano”.
LEIA: Israel é o maior exportador mundial de crimes cibernéticos
“Então, tomemos esses bancos de dados que existem sobre todos nós. Os dados já estão todos lá”, acrescentou. “Os dados são organizados e não-organizados, alguns deles ainda em processo de criação, outros capazes de agregar informações muito rapidamente em ambientes de nuvem para construir uma assinatura digital e compreender o nosso eu”.
A apresentação ocorreu após a CIA assinar um contrato, em 2014, estimado em US$600 milhões com a Amazon Web Services para obter serviços de tecnologia de nuvem.
Ao introduzir Roche, Teresa Carlson, então executiva sênior da AWS, propagandeou que sua fala mostraria como a empresa “empoderou a CIA a manter sua posição de segurança e aumentar o ritmo de inovação para estar sempre um passo à frente de nossos inimigos”.
Roche deixou a CIA em 2019 e migrou à diretoria de segurança nacional da AWS. Um porta-voz da empresa se negou a comentar.
Jumana Musa, diretora do Centro da Quarta Emenda da Associação Nacional de Advogados de Defesa Criminal (NACDL), que aconselha profissionais do direito em casos associados a aparatos de vigilância, destacou que a apresentação incita perguntas sobre como a tecnologia é aplicada para além das fronteiras dos Estados Unidos, onde proteções constitucionais são ignoradas.
LEIA: Google arma Israel com inteligência artificial avançada, revela relatório
“Historicamente, o governo dos Estados Unidos resguarda padrões distintos para o exterior, ao coletar informações em vez de provas para o devido indiciamento”, observou Musa ao Middle East Eye. “As regras são muito mais frouxas”.
Reconhecimento facial
Clare Garvie, advogada particular da NACDL, cuja equipe se concentra nas novas tecnologias de reconhecimento facial, complementou: “Não se trata de negócios como de costume, ao poder escanear uma multidão com centenas de milhares de pessoas ou mais e identificar um suposto indivíduo … No entanto, não surpreende que a CIA apele a tais mecanismos de vigilância”.
Sobre os perigos marcantes da inteligência artificial, Roche insistiu na venda: “Algumas pessoas se preocupam com isso. Não seja assim”.
Ao parafrasear o futurista alemão Gerd Leonhard, alegou Roche: “A prosperidade humana deve permanecer no âmago dos objetivos de todo progresso tecnológico. Futurismo humanista. As máquinas não vão tomar controle”.
LEIA: Laboratório Palestina: Como Israel exporta a tecnologia da ocupação ao redor do globo
Em maio de 2023, dezenas de especialistas em inteligência artificial emitiram um alerta público sobre o desenvolvimento desenfreado e irresponsável da tecnologia, ao mencionar até mesmo ameaças existenciais à humanidade.
De acordo com o Centro de Segurança de IA, que publicou o comunicado, entre os riscos estão a conversão dessa tecnologia a arma de guerra e aplicação direta para “compelir valores estreitos, via vigilância abrangente e censura opressiva”.
Publicado originalmente em inglês pela rede Middle East Eye, em 23 de junho de 2023.