7 avril 2023
Contrairement aux innovations technologiques passées, l’intelligence artificielle n’a pas pour but de permettre à l’humanité de maîtriser la nature, mais plutôt de renoncer à tout contrôle. Que nous le réalisions ou non, la vieille arrogance anthropocentrique que permet la technologie pourrait bientôt céder la place à l’inutilité et à l’insignifiance de l’homme.
La lettre ouverte du Future of Life Institute demandant une pause de précaution de six mois dans le développement de l’intelligence artificielle a déjà été signée par des milliers de personnalités, dont Elon Musk. Les signataires s’inquiètent du fait que les laboratoires d’IA sont "enfermés dans une course incontrôlée" pour développer et déployer des systèmes de plus en plus puissants que personne - y compris leurs créateurs - ne peut comprendre, prédire ou contrôler.
Comment expliquer cet accès de panique d’une certaine cohorte d’élites ? Le contrôle et la régulation sont évidemment au centre de l’histoire, mais de qui s’agit-il ? Pendant la pause de six mois proposée, au cours de laquelle l’humanité pourra prendre la mesure des risques, qui défendra l’humanité ? Étant donné que les laboratoires d’IA en Chine, en Inde et en Russie poursuivront leurs travaux (peut-être en secret), un débat public mondial sur la question est inconcevable.
Néanmoins, nous devrions réfléchir à ce qui est en jeu. Dans son livre Homo Deus paru en 2015, l’historien Yuval Harari a prédit que l’IA aurait pour conséquence la création d’une division radicale - bien plus forte que la division des classes - au sein de la société humaine. Bientôt, la biotechnologie et les algorithmes informatiques uniront leurs pouvoirs pour produire "des corps, des cerveaux et des esprits", ce qui creusera un fossé "entre ceux qui savent comment concevoir des corps et des cerveaux et ceux qui ne le savent pas". Dans un tel monde, "ceux qui prendront le train du progrès acquerront les capacités divines de création et de destruction, tandis que ceux qui resteront en arrière seront confrontés à l’extinction".
La panique reflétée dans la lettre sur l’IA provient de la crainte que même ceux qui sont dans le "train du progrès" ne soient pas en mesure de le diriger. Nos maîtres féodaux numériques actuels ont peur. Ce qu’ils veulent, cependant, ce n’est pas un débat public, mais plutôt un accord entre les gouvernements et les entreprises technologiques pour maintenir le pouvoir là où il doit être.
L’expansion massive des capacités de l’IA constitue une menace sérieuse pour les détenteurs du pouvoir, y compris ceux qui développent, possèdent et contrôlent l’IA. Elle n’annonce rien de moins que la fin du capitalisme tel que nous le connaissons, qui se manifeste par la perspective d’un système d’IA autoreproducteur qui nécessitera de moins en moins l’intervention d’agents humains (les transactions boursières algorithmiques ne sont qu’un premier pas dans cette direction). Le choix qui nous sera laissé sera entre une nouvelle forme de communisme et un chaos incontrôlable.
Les nouveaux "chatbots" offriront à de nombreuses personnes seules (ou moins seules) des soirées interminables de dialogue amical sur les films, les livres, la cuisine ou la politique. Pour reprendre une vieille métaphore, ce que les gens obtiendront, c’est la version IA du café décaféiné ou du soda sans sucre : un voisin amical sans squelette dans son placard, un Autre qui s’adaptera simplement à vos propres besoins. Il y a là une structure de désaveu fétichiste : "Je sais très bien que je ne parle pas à une personne réelle, mais j’ai l’impression d’en parler - et sans aucun des risques qui l’accompagnent !"
Quoi qu’il en soit, un examen attentif de la lettre sur l’IA montre qu’il s’agit d’une nouvelle tentative d’interdire l’impossible. C’est un vieux paradoxe : il est impossible pour nous, en tant qu’humains, de participer à un avenir post-humain, donc nous devons en interdire le développement. Pour nous orienter vers ces technologies, nous devrions poser la vieille question de Lénine : Liberté pour qui de faire quoi ? Dans quel sens étions-nous libres auparavant ? N’étions-nous pas déjà contrôlés bien plus que nous ne le réalisions ? Au lieu de nous plaindre des menaces qui pèsent sur notre liberté et notre dignité à l’avenir, nous devrions peut-être commencer par réfléchir à ce que signifie la liberté aujourd’hui. Tant que nous ne le ferons pas, nous agirons comme des hystériques qui, selon le psychanalyste français Jacques Lacan, cherchent désespérément un maître, mais seulement un maître que nous pouvons dominer.
Le futurologue Ray Kurzweil prédit qu’en raison de la nature exponentielle du progrès technologique, nous aurons bientôt affaire à des machines "spirituelles" qui non seulement présenteront tous les signes de la conscience de soi, mais dépasseront de loin l’intelligence humaine. Mais il ne faut pas confondre cette position "post-humaine" avec la préoccupation paradigmatiquement moderne de parvenir à une domination technologique totale sur la nature. Nous assistons plutôt à un renversement dialectique de ce processus.
Les sciences "post-humaines" d’aujourd’hui n’ont plus pour objet la domination. Leur credo est la surprise : quelles propriétés émergentes contingentes et non planifiées les modèles d’IA "boîte noire" pourraient-ils acquérir pour eux-mêmes ? Personne ne le sait, et c’est là que réside l’excitation - ou, en fait, la banalité - de toute l’entreprise.
C’est pourquoi, au début de ce siècle, le philosophe-ingénieur français Jean-Pierre Dupuy a discerné dans la nouvelle robotique, la génétique, la nanotechnologie, la vie artificielle et l’IA une étrange inversion de l’arrogance anthropocentrique traditionnelle que la technologie permet :
Comment expliquer que la science soit devenue une activité si "risquée" que, selon certains scientifiques de haut niveau, elle constitue aujourd’hui la principale menace pour la survie de l’humanité ? À cette question, certains philosophes répondent que le rêve de Descartes - "devenir maître et possesseur de la nature" - a mal tourné et qu’il est urgent de revenir à la "maîtrise de la maîtrise". Ils n’ont rien compris. Ils ne voient pas que la technologie qui se profile à notre horizon par la "convergence" de toutes les disciplines vise précisément la non-maîtrise. L’ingénieur de demain ne sera pas un apprenti sorcier par négligence ou par ignorance, mais par choix".
L’humanité est en train de créer son propre dieu ou diable. S’il est impossible d’en prédire l’issue, une chose est sûre : l’humanité est en train de créer son propre dieu ou son propre diable. Si quelque chose qui ressemble à la "post-humanité" émerge comme un fait collectif, notre vision du monde perdra les trois sujets qui la définissent et qui se chevauchent : l’humanité, la nature et la divinité. Notre identité en tant qu’êtres humains ne peut exister que sur fond de nature impénétrable, mais si la vie devient quelque chose qui peut être entièrement manipulé par la technologie, elle perdra son caractère "naturel". Une existence entièrement contrôlée est dépourvue de sens, sans parler de la sérendipité et de l’émerveillement.
Il en va de même, bien sûr, pour tout sens du divin. L’expérience humaine de "dieu" n’a de sens que du point de vue de la finitude et de la mortalité humaines. Une fois que nous serons devenus des homo deus et que nous aurons créé des propriétés qui semblent "surnaturelles" de notre point de vue d’humain, les "dieux" tels que nous les connaissions disparaîtront. La question est de savoir ce qu’il restera, le cas échéant. Vénérerons-nous les IA que nous avons créées ? Il y a tout lieu de craindre que les visions techno-gnostiques d’un monde post-humain ne soient que des fantasmes idéologiques occultant l’abîme qui nous attend. Il va sans dire qu’il faudrait plus qu’une pause de six mois pour s’assurer que les humains ne deviennent pas inutiles et que leur vie n’ait pas de sens dans un avenir pas si lointain.
Slavoj Žižek
T