I.A : le pape et son geek contre les dérives de la Silicon Valley

La première encyclique de l’ère de l’IA

Le pape a révélé l’existence de son “geek” préféré, un petit génie de l’intelligence artificielle. Il en a fait son grand témoin des risques que l’IA fait courir à l’humanité. Lorsque Léon XIV, le 25 mai, dans la salle du Synode située à la frontière de la cité du Vatican et de la République italienne, présente sa première encyclique « Magnifica Humanitas », qui appelle à « désarmer » l’IA et à remettre « l’humain au centre » de cette révolution technologique, il n’est pas tout seul.

Cette lettre solennelle à l’ensemble de l’Église catholique est rendue publique 135 ans après celle de Léon XIII, « Rerum Novarum », qui se voulait une réponse sociale aux bouleversements de la révolution industrielle. Cette fois, il s’agit d’une réponse humaniste et éthique aux développements présents et futurs d’une technologie qui prétend dépasser l’intelligence humaine, sans jamais pouvoir en évincer l’âme.

Un « geek » canadien au cœur du Vatican

Mais avant que le pape ne s’exprime, à ses côtés, un jeune homme au visage rond, presque encore enfantin, surmonté de sages lunettes, prend la parole : Christopher Olah a 33 ans, l’âge du Christ. Déjà milliardaire, il a cofondé l’entreprise américaine d’intelligence artificielle Anthropic, qui a développé Claude, une famille de modèles de langage. Il participe activement aux États‑Unis aux débats sur les recherches en éthique et en sécurité de l’IA. En gros, les dirigeants de cette société professent que cet outil capable de reproduire des comportements humains intelligents doit rester au service des hommes et non pas s’y substituer. Autrement dit, Anthropic, en contradiction et en concurrence avec l’autre grand du secteur, OpenAI, qui ne voit pas de limites au développement de l’IA, comme Donald Trump, n’est bien sûr pas loin des considérations du pape sur le sujet.

Toujours le même combat : l’argent contre l’homme

Toujours le même combat : l’argent contre l’homme. D’ailleurs, Christopher Olah a d’emblée posé le problème en ouverture de ses propos : « Je voudrais commencer par une remarque étrange venant… de quelqu’un qui a choisi ce métier dans le but de contribuer au bien-être de l’humanité », a-t-il expliqué, légèrement zézayant, devant un parterre de soutanes noires. « Tous les laboratoires de pointe en IA – y compris Anthropic – fonctionnent selon un ensemble de motivations et de contraintes qui peuvent aller à l’encontre de ce qui est juste. » Une curieuse confession, en effet, sous le regard bienveillant de l’évêque de Rome. Le choix du Souverain Pontife de s’être rapproché du jeune chercheur semble particulièrement judicieux. Il est d’ailleurs très rare que des personnalités étrangères à l’Église romaine participent à ce genre de manifestation.

L’apôtre de l’interprétabilité mécaniste

Christopher Olah est né au Canada. Il a quitté, à 18 ans, l’université publique de recherche de Waterloo, dans l’Ontario, sans diplôme, sans doute parce qu’il a obtenu une bourse pour poursuivre ses travaux indépendants. Il rejoint Google Brain en 2014, alors que les réseaux de neurones commencent tout juste à montrer leur potentiel. Il n’est pas intéressé par la construction de systèmes toujours plus puissants. Sa passion, à lui, c’est de soulever le capot de la machine, de comprendre ce qui se passe à l’intérieur. Sa discipline, l’interprétabilité mécaniste, consiste à tenter de trouver des concepts, des circuits, des représentations internes des modèles d’IA. Son blog Distill.pub, sur lequel il vulgarise ses travaux, a influencé toute une génération de chercheurs. Il se veut transparent dans un monde où la concurrence oblige et où l’opacité règne.

Anthropic face au Pentagone et à Trump

C’est pour cet axe de recherche qu’il a intéressé le Vatican. Lorsqu’il a quitté OpenAI pour créer Anthropic avec sept autres de ses collègues, c’était justement parce qu’il prend les questions posées par l’intelligence artificielle au sérieux. D’ailleurs, son entreprise a refusé de mettre ses modèles d’IA au service du Département de la Guerre de l’administration Trump. Ce qui a valu à la société des mesures de rétorsion, d’être écartée des marchés publics. Mais le jeune chercheur persiste à lister les gigantesques dangers que l’intelligence artificielle fait courir à l’humanité. Il évoque un déplacement du travail humain à une échelle mondiale catastrophique.

Il note que les élites technologiques n’ont aucun moyen de partager la richesse créée et laisseront les pauvres du monde dans le dénuement. Enfin, il constate que ce que développent les modèles d’IA est mystérieux, même pour leurs créateurs : « Bien plus subtil, étrange et beau que ce que la science-fiction avait préparé », estime-t-il. Pas forcément rassurant.

Léon XIV entre dans la bataille de l’IA

Pour Christopher Olah, l’intelligence artificielle a de telles implications qu’il est hors de question qu’elle n’intéresse que les technologues qui s’y consacrent. Quant au pape, il souhaite dialoguer sur le sujet avec la Silicon Valley. Donc, il est entré dans le débat qui fait déjà rage aux États‑Unis. La caution morale qu’il donne de fait à Anthropic, le contenu de son encyclique et la présence du jeune chercheur lors de sa présentation montrent qu’il a clairement choisi son camp. Ce n’est ni celui des magnats de la Silicon Valley, ni celui de Donald Trump.