Le Pape rejette les technologies néocolonialistes, se réjouit Abeba Birhane

Edoardo Giribaldi – Cité du Vatican

L’intelligence artificielle n’est pas une «baguette magique». On ne l’agite pas pour résoudre les problèmes du monde. Mais elle est bel et bien guidée par les industries high-tech occidentales, de plus en plus alignées sur des «idéologies politiques inquiétantes» et déconnectées «de la base», affirme Abeba Birhane, avec la précision de celle qui a étudié les cent articles les plus cités en IA et a constaté que la grande majorité d’entre eux ne mentionnait que l’efficacité et la performance comme objectifs. Pour l’informaticienne éthiopienne, l’Occident ne devrait pas porter sur l’Afrique un regard «colonial» qui, comme le met en garde le Pape Léon XIV dans son encyclique Magnifica humanitas, risque de causer des dommages à «l’ère numérique». Il devrait plutôt importer ces pratiques que l’on qualifie dans le jargon de «high indigenous»: la combinaison de connaissances locales et d’outils technologiques de pointe, choisis en fonction du problème à résoudre, et non imposés de l’extérieur. «Ce ne sont pas les technologies qui les rendent exceptionnelles. C’est le fait qu’elles construisent à partir de la base, en partant des besoins réels. C’est ce modèle qu’il faut soutenir.»

C’est ainsi que la professeure de la School of Computer Science and Statistics du Trinity College de Dublin, nommée parmi les 32 experts de l’AI Advisory Body des Nations unies -un organe consultatif chargé de formuler des recommandations sur la gouvernance mondiale des nouvelles technologies, et figurant dans le «Time100 AI», la liste des cent personnes les plus influentes dans le domaine de l’IA établie par le magazine américain Time, commente avec les médias du Vatican la première encyclique de Léon XIV, publiée lundi 25 mai, sur la protection de la personne humaine à l’ère de l’intelligence artificielle.

Le rôle des chefs religieux dans l’IA

Au côté d’Abeba Birhane sur la liste établie par Time figure le Pape Léon. «Le fait qu’une figure religieuse comme le Pape figure sur cette liste a des implications sociales importantes et positives», observe-t-elle. «L’IA n’est pas une question académique. C’est quelque chose qui a un impact sur chacun d’entre nous, qui modifie le tissu de la vie sociale. Et cette prise de conscience nécessite l’implication de chaque membre de la société, y compris les chefs religieux, qui jouent un rôle significatif dans la formation de l’opinion publique.»

D’un chef religieux à un autre, la professeure se souvient de sa rencontre avec le Dalaï-Lama en 2022. Abeba Birhane lui a présenté ses travaux sur les risques de l’intelligence artificielle, et il a répondu par une phrase qui résonne aujourd’hui dans les pages de Magnifica humanitas: les valeurs humaines sont considérées comme «d’importance secondaire» dans le domaine de l’IA.

Les dérives des nouvelles technologies

Au cœur des travaux d’Abeba Birhane se trouve un constat étayé par des années d’études empiriques: le domaine de l’intelligence artificielle est structurellement mal orienté. «La quasi-totalité des recherches montre que les priorités du secteur sont profondément en décalage avec des valeurs telles que la bienveillance, la justice, la compassion envers autrui et la protection de la dignité sociale.» Le problème, explique-t-elle, est ancré dans la nature même du développement: «Construire des systèmes d’IA exige que des comportements humains complexes, ambigus et dynamiques soient réduits à de simples corrélations statistiques. Le domaine n’est pas équipé pour saisir et préserver la complexité de la nature humaine».

À cela s’ajoute une préoccupation plus récente: «L’industrie technologique s’est alignée sur des idéologies politiques profondément problématiques, poursuit-elle. Ma plus grande crainte est que, alors que la vie quotidienne se déplace de plus en plus vers l’espace virtuel, les grandes entreprises utilisent leur pouvoir pour mettre de côté des droits fondamentaux: la liberté d’expression, la liberté de mouvement, voire le droit de vivre sans être surveillé».

Apprendre de l’Afrique

C’est sur la question du Sud global qu’Abeba Birhane apporte la contribution la plus originale, et la plus nécessaire, en écho à l’avertissement lancé par le Souverain pontife dans Magnifica Humanitas concernant le «coût réel» du progrès technologique qui pèse sur cette région. L’idée selon laquelle l’Afrique serait «à la traîne» parce qu’elle ne dispose pas des outils technologiques adéquats repose sur un malentendu fondamental. «Les problèmes auxquels le continent est confronté, de la faim à la violence de genre, de la corruption aux conflits, exigent une volonté politique et des changements structurels. Pas des systèmes d’IA», explique l’informaticienne.

Elle rappelle d’ailleurs que le continent, n’est pas l’espace à combler que certains discours occidentaux ont tendance à décrire. «L’Afrique possède une histoire intellectuelle riche et extraordinaire, et il existe des initiatives locales qui développent des technologies à partir des problèmes réels des communautés, et non de ceux imaginés par les PDG de la Silicon Valley.» L’exemple qu’elle cite à cet égard est celui des Kabakoo Academies de Bamako, au Mali, qui renversent les paradigmes, en ne partant pas de la technologie disponible pour chercher un problème à résoudre, mais du problème réel pour choisir l’outil le plus adapté. «C’est cela qu’il faut valoriser, et non l’importation de technologies développées en Occident sans aucune compréhension contextuelle des problèmes auxquels l’Afrique est confrontée, indique Abeba Birhane. Des technologies qui, d’une certaine manière, incarnent une forme de néocolonialisme.»

Les discours sur l’IA

S’il y a des cas d’utilisation positive de l’IA, où la technologie a réellement amélioré la vie des gens, Abeba Birhane tient à avertir: «Cela peut sembler le contraire, mais la réalité est que nous sommes submergés par des récits positifs sur l’IA. La plupart d’entre eux ne s’appuient sur aucune preuve empirique: ils reposent davantage sur des intuitions et des impressions que sur des preuves concrètes.»

Il est donc nécessaire, conclut-elle, que quelqu’un continue à mettre en garde contre les risques, à documenter les dommages et à remettre en question les idées reçues. «Je pense qu’il est tout à fait légitime, pour des personnes comme moi, de souligner les limites et les dangers, afin de contrebalancer ces discours injustifiés et infondés.»