La question centrale posée par Alejandro Agafonow dans une tribune publiée récemment par Le Monde est moins de savoir si les développeurs se soucient de l’humanité que de déterminer qui, au final, dispose du pouvoir d’interrompre une trajectoire technologique devenue dangereuse. L’auteur attire l’attention sur un vide institutionnel: lorsque les garde-fous publics font défaut, la pression concurrentielle pousse souvent des acteurs privés à privilégier la mise sur le marché et le gain, au risque d’entamer la sécurité collective.
Le constat met en lumière des mécanismes économiques et organisationnels communs aux secteurs à forte innovation. Face à des enjeux de parts de marché, de financement et d’obligation envers les investisseurs, des entreprises peuvent accélérer des déploiements sans avoir résolu toutes les questions de sûreté. Ce phénomène ne renvoie pas uniquement aux intentions des équipes techniques, mais à l’équilibre des pouvoirs entre entrepreneurs, dirigeants et institutions chargées de protéger l’intérêt général.
Les implications sont pratiques et politiques. Sans cadres clairs — qu’il s’agisse de normes nationales, de mécanismes de responsabilité ou d’autorités indépendantes —, la capacité de dire « stop » reste diffuse. La discussion concerne donc la création de freins institutionnels capables de juguler les risques tout en permettant l’innovation responsable. Le débat s’inscrit plus largement dans les réflexions sur l’intelligence artificielle et sur les modalités de régulation technologique à adopter pour encadrer des développements potentiellement disruptifs.
Au-delà de l’alerte, la tribune contribue à recentrer la discussion sur la répartition du pouvoir décisionnel et sur la nécessité d’institutions légitimes et opérationnelles. Pour que la société conserve la maîtrise des orientations critiques, il faudra définir non seulement des normes techniques, mais aussi des procédures démocratiques et administratives permettant d’interrompre ou de restreindre des trajectoires lorsque le bien commun est menacé. La question posée reste donc essentiellement institutionnelle: qui aura le mandat et les moyens d’appuyer sur le frein ?
