Un éminent transhumaniste s'exprime sur l'intelligence artificielle générale : "Nous devons tout arrêter. Nous ne sommes pas prêts."

Lors de la conférence SXSW de la semaine dernière, l'éminent transhumaniste Eliezer Yudkowsky a déclaré que si le développement de l'intelligence artificielle générale n'était pas immédiatement stoppé dans le monde entier, l'humanité pourrait être détruite.

« Nous devons tout arrêter », a déclaré Yudkowsky lors d'une table ronde intitulée “Comment faire en sorte que l'intelligence artificielle générale ne tue pas tout le monde”.

« Nous ne sommes pas prêts », a-t-il poursuivi. « Nous n'avons pas la capacité technologique de concevoir une IA superintelligente qui soit polie, obéissante et alignée sur les intentions humaines - et nous sommes loin d'y parvenir.»

Yudkowsky, fondateur de l'Institut de recherche sur l'intelligence artificielle, a tenu des propos similaires ces dernières années, avertissant à plusieurs reprises que l'humanité devait cesser tout travail sur l'intelligence artificielle sous peine de disparaître.

Dans un article paru en 2023 dans le magazine Time , Yudkowsky a déclaré qu'aucun projet actuel d'AGI ne disposait d'un plan réalisable pour aligner l'AGI sur les intérêts de l'humanité.

« Nous ne sommes pas prêts », écrit-il. « Nous ne sommes pas en passe d'être significativement plus prêts dans un avenir prévisible. Si nous poursuivons dans cette voie, tout le monde mourra, y compris des enfants qui n'ont pas choisi cela et qui n'ont rien fait de mal.»

Il estime qu'un « moratoire sur les nouveaux grands entraînements doit être indéfini et mondial », que nous devons « conclure immédiatement des accords multinationaux pour empêcher les activités interdites » et même « être prêts à détruire un centre de données malveillant par une frappe aérienne ».

Extinction humaine ou paradis posthumain

Figure bien connue dans le domaine de la sécurité de l'IA, Yudkowsky est la seule voix éminente dans ce domaine qui appelle à un arrêt complet et indéfini de la recherche actuelle sur l'AGI.

Malgré ces avertissements, Yudkowsky continue de penser que l'AGI doit être poursuivie - il préconise simplement une voie différente qui, selon lui, ne détruira pas l'humanité.

Lors d'une interview donnée en janvier, Yudkowsky a déclaré que des « humains dotés d'une intelligence augmentée » pourraient potentiellement développer l'AGI en toute sécurité.

Dans le scénario qu'il envisage, les humains « construisent probablement un super-ingénieur et l'utilisent peut-être pour se télécharger dans des ordinateurs, de sorte qu'ils puissent continuer à travailler pour cela pendant encore un millier d'années sans que le monde ne brûle entre-temps ».

« Ils courent plus vite à l'intérieur, et de notre point de vue, ce n'est qu'un jour ou trois, puis vient la superintelligence qui est censée être gentille, et nous vivons heureux jusqu'à la fin des temps », a-t-il ajouté.

En clair, Yudkowsky estime que les développeurs d'IA actuels ne sont tout simplement pas assez intelligents pour mettre au point une IA qui ne détruira pas l'humanité.

Sa solution est donc d'imposer une interdiction mondiale du développement des AGI, jusqu'à ce que nous puissions modifier technologiquement un groupe d'humains pour qu'ils soient suffisamment intelligents pour créer des AGI sûres et alignées sur l'homme, permettant ainsi à l'humanité de vivre « heureuse pour toujours ».

La machine avant l'homme

Bien qu'il s'oppose aux principaux développeurs d'AGI du monde, la vision de la réalité de Yudkowsky n'est pas très différente de la leur.

Élevé dans le judaïsme orthodoxe moderne, Yudkowsky est aujourd'hui athée et transhumaniste.

Sa vision du monde repose sur un univers matérialiste sans âme, sans ange, sans démon et sans Dieu.

Pourtant, comme tous les transhumanistes, son élan religieux demeure, car il aspire à la création d'êtres semblables à des dieux grâce à la technologie, et à devenir lui-même semblable à un dieu.

Il déclare même que, si c'était la seule solution, il serait prêt à sacrifier toute l'humanité pour créer des dieux numériques qui « se soucient encore les uns des autres ».

« Si sacrifier toute l'humanité était le seul moyen, et un moyen fiable, d'obtenir des choses semblables à des dieux, des superintelligences qui se soucient encore les unes des autres, qui sont encore conscientes du monde et qui s'amusent encore, je finirais par faire ce compromis », a déclaré Yudkowsky dans l'interview mentionnée plus haut.

Il a toutefois souligné que « ce n'est absolument pas le compromis auquel nous sommes confrontés » et que « les successeurs dignes de ce nom [des êtres humains] ne nous tueront pas ».

Ce commentaire montre néanmoins où se situent ses valeurs ultimes.

Pour lui, la personne humaine possède une valeur intrinsèque inférieure à celle d'une superintelligence numérique.

Peur et espoir

Eliezer Yudkowsky est parfaitement conscient de l'arrogance babélienne de l'élite technologique actuelle, et son appel à l'arrêt mondial de la recherche sur l'AGI est un contraste bienvenu par rapport à l'empressement inconsidéré de nos dirigeants à créer des dieux numériques.

Pourtant, ses actions découlent de la crainte que l'humanité soit détruite par ces dieux numériques.

En tant que chrétiens, nous savons que les dirigeants rebelles de notre monde ne peuvent pas renverser ce que Dieu a décrété.

Bien qu'ils puissent causer de grandes destructions, ils ne contrecarreront pas l'eschaton [les événements de la fin des temps] prophétisé.

Dieu a permis les grands changements technologiques et religieux qui ont lieu actuellement dans notre monde.

Notre tâche n'est ni d'y échapper ni de les vaincre par nos propres forces, mais plutôt de participer humblement à la vie de Dieu à travers le Messie, dans l'amour duquel nous sommes « plus que vainqueurs » (Romains 8:37).

Et bien que Yudkowsky espère « être un jour un posthumain », nous, adorateurs du Dieu incarné, savons que notre nature humaine n'est pas destinée à être échappée, remplacée ou transcendée.

Elle est destinée à être transfigurée.