Signature de la «Déclaration de Rome», un engagement sur les armes nucléaires et l'IA

Benedetta Capelli  – Cité du Vatican

«L’humanité se trouve à un moment décisif de son histoire». Ainsi commence la «Déclaration de Rome pour une paix désarmée et désarmante à l’ère de l’intelligence artificielle, des armes nucléaires et autonomes, des nouveaux protocoles numériques et des modèles émergents de développement numérique», signée ce matin 16 juillet, au Capitole, à Rome, à l’issue des deux journées qui se sont déroulées au Borgo Laudato si’ sous le titre: «Assemblée mondiale des lauréats du prix Nobel sur l’intelligence artificielle et la guerre nucléaire». Un événement qui a réuni des lauréats du prix Nobel, des experts de premier plan en intelligence artificielle, d’anciens chefs d’État et de gouvernement, ainsi que des représentants des universités et des instituts de recherche parmi les plus importants et les plus influents au monde.

«Un défi sans précédent», tel est celui que nous vivons actuellement, peut-on lire dans le texte, qui interpelle tout le monde car, si l’intelligence artificielle offre surtout de grandes opportunités, elle risque toutefois de «provoquer une perte massive d’emplois et d’accentuer la concurrence économique entre les puissances nucléaires». En se concentrant entre les mains d’un petit nombre de pays et de grandes entreprises, l’IA peut entraîner de profondes asymétries de pouvoir. Se développant enfin à une vitesse sans précédent, elle est destinée «à produire des transformations économiques, militaires et sociales de grande envergure». La déclaration souligne également que la course aux armements nucléaires, qui s’intensifie, va de pair avec «une course à l’intelligence artificielle tout aussi dangereuse». C’est pourquoi, en répondant à l’appel du Pape Léon en faveur d’une «paix désarmée et désarmante», on entend rejeter l’idée selon laquelle la sécurité repose sur la peur, la domination, la menace et la destruction mutuelle.

Dans l’intérêt de l’humanité

Les six points qui composent le texte invitent à «désamorcer la prochaine course aux armements, tant dans le domaine de l’intelligence artificielle que dans celui du nucléaire, avant que ceux-ci ne déterminent le visage du siècle à venir». Un appel fort est lancé aux développeurs de systèmes d’intelligence artificielle pour qu’ils agissent dans l’intérêt de l’humanité, «dans le respect du droit international et des droits de l’homme». D’où l’appel lancé aux organisations et aux gouvernements pour qu’ils surveillent les processus entièrement automatisés au sein des systèmes d’intelligence artificielle.

Un traité international sur les systèmes de contrôle de l’IA

«La décision finale d’utiliser une arme nucléaire – peut-on lire dans la déclaration – ne doit jamais être confiée à un système automatisé». On demande donc l’adoption d’«un traité international interdisant l’intégration irresponsable de l’intelligence artificielle dans les systèmes de commandement, de contrôle et de lancement des armes nucléaires, en garantissant qu’un contrôle humain effectif et significatif soit toujours maintenu». Il s’agit en substance d’empêcher toute utilisation malveillante de l’IA dans les opérations informatiques et les attaques contre les infrastructures nucléaires. «Nous encourageons le développement et l’utilisation responsable de l’intelligence artificielle – peut-on lire – afin d’améliorer le bien-être humain, d’accélérer les progrès scientifiques et médicaux, de protéger l’environnement, de renforcer la résilience des sociétés et de promouvoir la paix, le développement durable et le bien commun».

Créer un bien commun numérique

Les derniers points portent sur la nécessité «d’identifier de nouvelles voies institutionnelles vers une gouvernance mondiale de l’intelligence artificielle et de favoriser, à l’avenir, la mise en œuvre d’initiatives de gouvernance mondiale dans ce domaine». Les signataires soutiennent les initiatives inspirées de la «Magnifica humanitas» du Pape Léon et apportent leur appui au panel scientifique international indépendant des Nations unies sur l’intelligence artificielle. Les signataires lancent un appel en faveur de la création d’un «bien commun numérique» (digital commons) qui favorise la collecte et le partage des données nécessaires pour approfondir les connaissances et soutenir des actions efficaces concernant les armes nucléaires et l’intelligence artificielle. En effet, il existe dans le monde de multiples menaces interdépendantes et leurs conséquences pèsent souvent sur ceux qui n’ont ni accès ni contrôle sur les technologies qui les génèrent.

Le désarmement nucléaire

En conclusion de la déclaration, il est demandé de toute urgence l’ouverture de négociations visant à parvenir à «l’élimination vérifiable et irréversible des armes nucléaires». Les engagements pris dans le cadre du Traité sur la non-prolifération des armes nucléaires (TNP) et du Traité sur l’interdiction des armes nucléaires (TPNW) sont ainsi réaffirmés. D’où l’appel lancé aux États pour qu’ils mettent fin à la course aux armements, en misant sur les négociations et sur le respect des obligations contractées. «Les nations dotées d’armes nucléaires – lit-on dans la déclaration – doivent promouvoir des politiques et des doctrines qui réduisent progressivement le rôle de ces armements, renforcent la stabilité stratégique et diminuent le risque d’une première utilisation et d’une guerre aux conséquences catastrophiques». «C’est notre survie et celle des générations futures qui sont en jeu», écrivent les signataires.