Les risques nucléaires à l’ère de l’IA, par Héloïse Fayet

La doctorante à l’Institut Français de Géopolitique et chercheuse associée à GEODE et à l’IFRI, Héloïse Fayet, publie dans le Bulletin of the Atomic Scientists un article intitulé « Algorithms of misperception: Managing nuclear risk in an AI world ». Elle y analyse la manière dont l’intelligence artificielle transforme la gestion du risque nucléaire, entre nouvelles opportunités de transparence et multiplication des risques de mésinterprétation.

Les apports de l’IA : une transparence accrue mais fragile

Associée aux méthodes d’OSINT, l’IA offre aujourd’hui des capacités d’analyse auparavant réservées aux services de renseignement : détection automatisée de mouvements militaires, identification de sites sensibles ou suivi de programmes nucléaires via l’imagerie commerciale.

Ces outils contribuent à renforcer la transparence internationale et permettent à la société civile, chercheurs, journalistes, ONG, d’accéder à des informations essentielles pour corriger les narratifs trompeurs et apaiser les tensions en période de crise.

L’IA améliore aussi la sécurisation des communications entre puissances nucléaires, en détectant tentatives d’intrusion, falsifications ou messages non authentifiés, un élément crucial pour éviter les malentendus en situation d’urgence.

Les dangers : surabondance d’informations et escalade involontaire

L’abondance d’informations en ligne, amplifiée par les algorithmes des réseaux sociaux, crée un environnement où désinformation, rumeurs et contenus manipulés circulent plus vite que les vérifications.

Dans ce brouillard informationnel, les dirigeants peuvent être poussés à réagir à chaud, sous pression émotionnelle ou médiatique, ce qui augmente les risques de mauvaise interprétation et donc d’escalade accidentelle.

Fayet insiste également sur les biais et hallucinations des modèles d’IA, qui peuvent produire des analyses erronées ou des recommandations dangereusement escalatoires, surtout si ces outils commencent à être consultés dans des processus décisionnels sensibles.

Les défis : encadrement international et recentrage sur le facteur humain

Face à ces risques, l’auteure souligne l’urgence d’un cadre international encadrant l’usage de l’IA dans les systèmes liés au nucléaire : garanties d’authentification, normes de non-interférence dans les réseaux de commandement, transparence minimale sur l’intégration de l’IA dans les systèmes d’alerte.

Elle rappelle également la responsabilité des entreprises du secteur de l’IA, qui doivent développer des garde-fous pour limiter les contenus susceptibles de favoriser l’escalade ou la désinformation.

Enfin, Héloïse Fayet insiste sur un point essentiel : l’IA peut assister et éclairer, mais elle ne doit jamais se substituer à la décision humaine. Dans un contexte où la vitesse et l’automatisation gagnent du terrain, maintenir du temps pour l’analyse, la vérification et le discernement reste la meilleure garantie de stabilité.

>> En savoir plus <<