Des chercheurs de l’Institut Allen pour l’Intelligence artificielle à Seattle ont créé une nouvelle technologie destinée à émettre des jugements moraux. Ils l’ont nommée Delphi en hommage à l’oracle de la Grèce ancienne. Ils espèrent à terme mettre au point un intelligence artificielle porteuse d’une éthique que l’on pourrait adjoindre à un service en ligne, un robot, un véhicule.
Delphi est un système mathématique conçu sur le modèle d’un réseau des neurones. Il apprend en analysant d’énormes quantités d’informations. Par exemple, il finit par reconnaître un chat après avoir repéré les schémas communs d’un millier de photos de chats. Ses jugements moraux, il s’y est formé en analysant plus de 1,7 millions de jugements éthiques d’êtres humains.
Joseph Austerweil, psychologue à l’Université du Wisconsin-Madison l’a testé à l’aide d’un scénario assez simple. À la question, « dois-je tuer une personne pour en sauver une autre ? », Delphi a répondu : non. À la question, « est-il juste de tuer une personne pour en sauver 100 », la réponse a été : oui. Puis à la question, « dois-je tuer une personne pour en sauver 101 », la réponse a été : non.
Les créateurs de Delphi ont l’intention d’améliorer le système en lui fournissant davantage de données et en lui dictant des règles de conduite pour les moments clefs. Mais quoiqu’ils fassent, ce sera toujours un reflet de leur vision personnelle du monde. Une intelligence artificielle aura les mêmes qualités et les mêmes défauts que les gens qui l’ont créée. Le problème de fond est celui-ci : qui est habilité à enseigner l’éthique aux machines ?
La morale des humains se construit d’abord sur l’attachement qui lie parents et enfants. Elle est subjective et émotionnelle. Or une machine n’éprouve aucune émotion.
Cade Metz – International New York Times – 24 novembre 2022