Intelligence artificielle : des pèlerins au Hajj sous les technologies de surveillance de la CIA

Les organisations pour les droits numériques et de la société civile musulmane estiment que l’utilisation de cette photo justifie les vives inquiétudes relatives au développement rapide des outils tels que les logiciels de reconnaissance faciale et illustre un schéma islamophobe au sein des agences de renseignement et de maintien de l’ordre, où les musulmans sont dépeints comme des menaces.

 

Cette image est apparue dans la présentation d’un cadre de la direction de l’innovation numérique de la CIA sur la façon dont l’adoption des technologies basées sur le cloud par l’agence d’espionnage transforme ses capacités de collecte de renseignements.

 

S’exprimant lors d’une conférence du secteur public organisée par Amazon Web Services (AWS) en 2018, Sean Roche avait déclaré : « L’âge du renseignement expéditionnaire signifie aller dans des endroits très hostiles très rapidement pour résoudre des problèmes très complexes. »

 

Il annonçait qu’une petite équipe de programmeurs, de data scientists et d’analystes « qui codent dans ce domaine » avait fourni des « capacités époustouflantes pour trouver des individus auxquels nous nous intéressons ».

 

« Savoir qui ils sont, ce qu’ils font, leurs intentions, où ils sont », développait Roche, alors vice-directeur de la CIA pour l’innovation numérique.

 

Cette présentation montrait ensuite une photo de pèlerins assemblés aux alentours de la Grande Mosquée de La Mecque, lieu le plus saint de l’islam et site de la Kaaba.

 

La photo semble être une image d’archives provenant d’un site de photographie, prise lors du Hajj en janvier 2017. Mais un cercle jaune a été ajouté à l’image pour mettre en avant le visage d’un homme dans la foule.

 

Cibles de facto 

 

MEE n’a pas identifié cet homme. Rien ne suggère qu’il intéresse d’une manière ou d’une autre la CIA.

 

MEE a demandé à la CIA si elle avait la capacité de déployer des technologies de surveillance pour scruter les gens qui assistent au Hajj et si elle le ferait lors du pèlerinage de cette année, qui débute lundi. Mais la CIA n’a pas répondu aux questions de MEE.

 

Quoi qu’il en soit, l’utilisation de cette photo suscite des inquiétudes parmi les organisations de plaidoyer musulmanes et les juristes spécialistes des technologies de surveillance. 

 

Edward Mitchell, directeur adjoint national du Conseil des relations américano-islamiques (CAIR), indique à MEE que les musulmans sont depuis longtemps dépeints comme une menace dans les présentations et supports de formation du gouvernement.

 

« Les musulmans ne devraient pas être l’exemple de facto de la façon dont les technologies du gouvernement peuvent être déployées. Cela vaut en particulier pour les musulmans s’adonnant à leur culte lors du pèlerinage du Hajj », estime-t-il.

 

Ashley Gorski, avocate du projet sécurité nationale de l’Union américaine pour les libertés civiles, affirme à MEE : « La technologie de reconnaissance faciale présente de graves risques pour la vie privée et les libertés publiques. Les gens ont le droit de prier et de vivre leur culte librement, sans crainte d’être suivis par le gouvernement.

 

« C’est un nouvel exemple de la façon dont les agences de renseignement américaines promeuvent les outils de surveillance comme moyen de surveiller et de contrôler les communautés religieuses, même à l’étranger. »

 

Apprentissage automatique

 

Roche décrivait ensuite la façon dont l’agence déploie l’IA pour collecter et traiter les données.

 

« Nous utilisons l’apprentissage automatique pour quoi ? Notre travail concerne les humains », déclarait Roche.

 

« Donc nous prenons les bases de données existantes à votre sujet. Les données qui sont déjà là. Les données qui sont structurées et déstructurées, certaines données qui sont créées, et on agrège ces données très rapidement dans l’environnement cloud pour bâtir une signature numérique, pour comprendre notre soi numérique. »

 

La présentation de Roche au AWS Public Sector Summit intervenait après la signature par la CIA d’un contrat de 600 millions de dollars pour des services cloud avec le géant de la tech en 2014.

 

En présentant Roche, Teresa Carlson, alors cadre d’AWS, disait qu’il allait évoquer la façon dont l’entreprise avait « permis à la CIA de maintenir sa posture en matière de sécurité et d’accroître le rythme de l’innovation pour conserver une longueur d’avance sur l’ennemi à tout moment ».

 

Roche a quitté la CIA en 2019 et est désormais directeur national de la sécurité à AWS. Un porte-parole d’AWS s’est refusé à tout commentaire.

 

Pour Jumana Musa, directrice du Fourth Amendment Center au sein de la National Association of Criminal Defense Lawyers (NACDL) qui conseille les avocats dans des affaires impliquant les nouveaux outils de surveillance, cette présentation souligne les questions concernant la façon dont la technologie est utilisée au-delà des frontières américaines, là où les protections constitutionnelles ne s’appliquent pas.

 

« Historiquement, le gouvernement américain a des normes totalement différentes lorsqu’il se considère hors des États-Unis pour collecter des informations plutôt que des preuves pour des poursuites judiciaires. Et les règles sont bien moins strictes », observe Jumana Musa.

 

Le mois dernier, des dizaines de spécialistes de l’IA ont signé une déclaration mettant en garde contre la menace existentielle pour l’humanité que constitue le développement rapide de cette technologie.

 

Parmi les risques soulignés par le Center for AI Safety, qui a publié cette déclaration, figuraient le fait de se servir de l’IA comme d’une arme et l’utilisation de cette technologie pour « imposer des valeurs étroites via une surveillance envahissante et une censure oppressive ».

 

Middle East Eye