Lors d'un événement organisé à Washington par le Special Competitive Studies Project, le directeur adjoint de la CIA Michael Ellis a confirmé que l'agence avait, au cours de l'année écoulée, produit un rapport de renseignement entièrement généré par une intelligence artificielle sans qu'un analyste humain n'ait dirigé le travail de recherche et de rédaction, une première dans l'histoire de l'agence. Un analyste a toutefois validé le document avant sa diffusion. Les responsables de l'agence ont refusé de préciser le sujet du rapport, l'architecture du modèle employé, son niveau de classification ou son circuit de diffusion, invoquant des impératifs de sécurité opérationnelle. Cette annonce s'inscrit dans un ensemble plus large : l'agence a mené plus de trois cents projets liés à l'intelligence artificielle au cours de la même période, dont Osiris, un outil génératif déjà utilisé par des milliers d'analystes à travers les dix-huit agences de la communauté du renseignement américaine pour trier et résumer des volumes massifs de renseignement de source ouverte.
Ce qu'une validation humaine finale peut et ne peut pas garantir
Le maintien d'une étape de relecture et d'approbation humaine avant toute diffusion protège contre une catégorie précise et relativement étroite de défaillance, celle d'un rapport parvenant à un décideur alors qu'un relecteur humain y aurait immédiatement décelé une erreur manifeste ou un sourçage insuffisant. Cette garantie ne permet en revanche pas de vérifier le processus analytique plus profond ayant produit le document : un analyste évaluant un produit déjà rédigé par une IA se trouve dans une position structurellement différente de celle d'un analyste ayant personnellement retracé chaque affirmation jusqu'à sa source, pesé des interprétations concurrentes et exercé, à chaque étape de la production, les jugements interprétatifs que la doctrine du renseignement est censée intégrer tout au long du processus plutôt qu'au seul stade final. Une signature constitue un contrôle sur le produit visible, non un substitut au travail analytique sous-jacent qui l'a produit.
Une opacité délibérée qui empêche toute évaluation extérieure de la portée réelle
Le refus de divulguer le sujet, le modèle, le niveau de classification ou le circuit de diffusion de ce rapport particulier prive les observateurs extérieurs, et même une grande partie de l'appareil de contrôle parlementaire situé hors des canaux habilités, de tout moyen d'apprécier l'ampleur réelle ou la rigueur avec laquelle ce premier cas d'usage a été circonscrit. La communication même de l'agence, qualifier l'événement de jalon tout en retenant chaque détail qui permettrait d'en juger la portée, illustre une tension récurrente dans la convergence entre intelligence artificielle et renseignement : des institutions annoncent des avancées de capacité à des fins de signal, adressé à des alliés, à des adversaires ou à un public national d'acteurs technologiques et de responsables budgétaires, tout en maintenant classifiée la substance opérationnelle de l'annonce, une combinaison qui rend structurellement difficile toute redevabilité publique sur la pratique réelle, indépendamment de l'existence affichée d'une garantie de validation humaine.
Un seuil institutionnel franchi, dont la portée dépend de ce qui reste tu
Ce jalon se comprend moins comme la preuve que l'intelligence artificielle aurait remplacé le jugement analytique, une affirmation que les informations publiques disponibles ne permettent ni de confirmer ni d'infirmer puisque le contenu réel et la qualité du rapport demeurent non divulgués, que comme le franchissement d'un seuil institutionnel : le passage d'une intelligence artificielle conçue comme outil d'assistance à la recherche, le rôle qu'occupe Osiris pour le tri de renseignement de source ouverte, vers une intelligence artificielle auteure d'un premier jet de produit analytique fini. La portée ultime de ce basculement dépend entièrement de détails que l'agence a choisi, pour l'instant, de ne pas rendre publics.
Sources documentaires
GEOINT
Un autre cas où l'automatisation compresse la vérification humaine, avec des conséquences opérationnelles directes.
Lire l'analyseMASINT
Un cas inverse où l'IA renforce, plutôt qu'elle n'affaiblit, la rigueur de vérification.
Lire l'analyseLe renseignement mondial en 2050
La synthèse prospective dans laquelle ce jalon institutionnel s'inscrit directement.
Lire l'analyseCIA
L'agence à l'origine de cette annonce et de son programme Osiris.
Lire l'analyse
Analyste en géopolitique, anthropologie politique et relations internationales.