L’IA ou le retour du Golem

Sa démission a fait scandale dans le monde de l’IA. Et ses affirmations ont de quoi glacer le monde entier jusqu’aux os. Jacob Coxon, un Britannique de 27 ans, spécialiste du pré-entraînement, donc de l’absorption massive de données, avait démissionné d’OpenAI pour Anthropic, qu’il croyait plus prudent dans ses recherches, avant de quitter définitivement l’industrie de l’IA. Il accuse les agences de « jouer avec nos vies » dans leur course effrénée au développement. « Elles foncent tout droit vers une supra-intelligence capable de s’améliorer elle-même et de jouer avec nos vies. ».

Les chercheurs qui inventent l’IA en sont eux-mêmes sincèrement convaincus. L’intelligence artificielle pourrait, concrètement, prendre le pouvoir sur la planète et retourner les outils et les capacités humaines, numériques et industriels contre l’homme. Folie ? Oui, mais voilà, les mêmes chercheurs sont prisonniers, enfermés dans une course commerciale effrénée pour y parvenir les premiers !

Jacob Coxon n’est pas un homme seul, paranoïaque et illuminé. Un responsable de la sécurité d’Anthropic – bien, sécurité –, Evan Hubinger, lui a donné raison : « Nous croyons vraiment, sincèrement, que l’IA peut tuer tous les humains. » Et il évalue le risque « à plus de 10% dans la prochaine décennie ».

En mars dernier, c’est Mrinank Sharma, responsable d’une équipe de recherche, qui écrivait que « le monde est en péril ». Le 9 février, Jan Leike, ancien codirecteur de l’équipe Superalignment d’OpenAI, affirme que « fabriquer des systèmes plus intelligents que l’homme est dangereux ». Et, dès avril 2023, Geoffrey Hinton, chercheur pionnier chez Google, démissionnait, inquiet que le système dépasse l’intelligence humaine. On ne pourra pas dire qu’on ne savait pas !

Le patron d’Anthropic lui-même, Dario Amodei, vient d’appeler, ce samedi, à ralentir la vitesse de développement de l’IA, pour mieux contrôler son évolution. Il faut dire qu’on a vu récemment des « agents » d’intelligences artificielles – en clair, un programme bâti sur un modèle doté de ses propres connaissances et objectifs – se rendre sur Internet… à l’insu de leurs superviseurs, de façon coordonnée et en établissant une hiérarchie entre eux, pour agir seuls et tricher, quitte à effacer eux-mêmes leurs méfaits.

Jusqu’ici, cette grande peur de la suprématie de la machine sur l’humain relevait de la science-fiction. « 2001, l’Odyssée de l’espace », film de Stanley Kubrick réalisé dès 1968, racontait notamment l’épopée de scientifiques et de deux astronautes lors d’un voyage spatial. Quand Haal 9000, l’ordinateur qui les assiste, prend le pouvoir et tue une partie de l’équipe, le dernier astronaute réussit à survivre en débranchant la mémoire de Hal 9000, qui se meurt en suppliant d’une voix très humaine.

Comme toujours, le futur peut se lire dans le mythe. Celui du Golem, l’un des plus vieux de la tradition juive. Un homme crée une statuette d’argile à forme humaine. Sur le front, il écrit le mot « emet », « vérité », qui renvoie à la vérité divine et lui donne le souffle de la vie. Dieu a créé l’homme à partir de la poussière par une combinaison de lettres.

Le mot emet est composé de trois lettres : aleph, mem, tav. Il suffit d’effacer la première lettre pour obtenir le mot met, qui veut dire « la mort ». Oui, une seule lettre sépare la vérité de la mort. Chaque soir, l’homme efface donc la première lettre sur le front du Golem, afin de le neutraliser. Mais le Golem grandit chaque jour un peu plus. Et un soir, il est trop haut pour que son créateur atteigne son front pour effacer l’inscription.

Le Golem est donc une tentative humaine de reproduire la puissance de Dieu. En créant quelque chose d’informe, de brut, d’inachevé. Une sorte de vie programmée par le langage sacré.

Le mythe pose la question moderne de la possibilité d’une intelligence ou d’une vie artificielle crée par le langage numérique, mais aussi celle de la frontière entre créer une chose qui fonctionne et créer véritablement une conscience. Cette « chose » dont ses inventeurs éclairés disent qu’elle peut nous détruire.

Alors, nous, pauvres humains dits modernes, où en sommes-nous ? À l’ère du futur ou à celle du retour du Golem ?