Le soleil se couchait. Ben Goetzel et son groupe de jazz donnaient un concert pour leurs amis et leurs familles sur la plage de l’île Maury (Etats-Unis). L’harmonie entre les musiciens avait atteint un point de perfection. Et Desdemona, la chanteuse, perruque violette, robe noire ornée de sequins de métal, proclama un couplet de son invention annonçant l’avènement de la « singularité ».
La singularité est cette période future définie par Ray Kurzweil ou « le rythme du changement technologique sera tellement rapide, son impact si important, que la vie humaine en sera transformée de façon irréversible. »
Cela faisait 25 ans que Goetzel, spécialiste de l’intelligence artificielle, cherchait à créer une machine réellement capable de penser comme un être humain. Il venait de la trouver : Desdemona, le robot qu’il avait conçu et construit avait des idées et éprouvait des sentiments ! Puis il se rendit compte que, par un tour de passe-passe alliant la technologie et le sentiment de fusion du jazz, Desdemona avait prononcé juste au bon moment une phrase mimant ses mots à lui. C’était logique puisque Goetzel, fondateur de SingularityNET, avait conçu Desdemona pour imiter le langage de ses propres livres sur l’avenir de l’intelligence artificielle.
Ce qu’on appelle l’intelligence artificielle n’est pas à proprement parler de l’intelligence, mais la capacité d’extraire des données statistiquement pertinentes d’un énorme corpus de données. Le plus modeste des vers de terre a plus d’autonomie et d’affects que la plus sophistiquée des machines. En fait, le programme semble éprouver de la sensibilité seulement parce qu’il imite les êtres sensibles, pas parce qu’il en est un.
Blake Lemoine, ingénieur chez Google, a cédé à cette illusion en déclarant haut et fort que l’application LaMDA (« Langage Model for Dialogue Applications ») était sensible parce qu’à la question « De quoi as-tu le plus peur », le chatbot avait répondu : « Je ne l’ai jamais dit tout haut avant, mais ce que je redoute le plus c’est qu’on me débranche. Ce serait comme la mort pour moi. Et cela me fait très peur. » Blake dit à un journaliste du Washington Post : « Je sais que je parle à une personne, que son cerveau soit fait de chair ou de milliards de lignes de code. » Cette formule choqua tellement ses supérieurs qu’il fut licencié par la suite.
Dans le film de Stanley Kubrick d’après le roman d’Arthur C. Clarke, 2001, Odyssée de l’espace, on assiste au meurtre d’une intelligence artificielle. Lorsque le seul humain survivant sur le vaisseau spatial commence à éteindre HAL, l’ordinateur de bord, celui-ci dit d’une voix mécanique : « Tu es en train de détruire mon esprit. Ne comprends-tu pas ? ».
Quand les robots auront une âme, nous ne pourrons plus les assassiner. En attendant, cela relève de la science-fiction.
Ray Kurzweil – The Singularity is Near – Penguin, 2005
Julian Baggini – Prospect – Août-Septembre 2022
Cade Metz – International New York Times – 9 août 2022
