À la rencontre de Norman, une IA psychopathe
Décrite comme la “première intelligence artificielle psychopathe au monde” par les chercheurs qui l’ont élaborée, “Norman” a suscité de vives réactions lors de sa récente présentation. Ce nom, choisi en référence au personnage Norman Bates dans Psychose d’Alfred Hitchcock, vise en effet à sensibiliser l’opinion publique face à la menace que représente une intelligence artificielle conçue avec des données perçues négativement par l’être humain.
Mettre en garde “Norman” contre les dérives d’un apprentissage biaisé
L’objectif principal de l’expérience était de démontrer que le processus d’apprentissage d’une intelligence artificielle, nommé “machine learning“, exerce une influence considérable sur son comportement. Les humains forment ces machines à associer un élément d’entrée à un élément de sortie par le biais d’un algorithme. Il est ainsi possible d’inciter une intelligence artificielle à ne proposer que des conclusions noires ou macabres en réaction à ce qu’elle perçoit. En cause, les données utilisées pour former la machine à identifier des concepts à partir de son observation du monde.
Bienvenue en 2077 !!
L’exemple du test de Rorschach
L’expérience des chercheurs a consisté à comparer les résultats de Norman et ceux d’une intelligence artificielle dite “normale” après que les deux machines ont été soumises au test de Rorschach. Ce fameux test, élaboré par un psychanalyste éponyme, est supposé indiquer l’état psychologique d’une personne à partir de sa description d’une série de taches d’encres. Les deux machines, censées énoncer ce qu’elles percevaient, ont ainsi fourni des réponses très différentes pour chacune des taches. Par exemple, là où l’IA “normale” identifiait un vase avec des fleurs, Norman décrivait un homme se faisant abattre. La tache numéro 3 est, sans doute, encore plus éloquente. Norman a y a “vu” un homme se jetant par une fenêtre. Tandis que son homologue affirmait y observer un couple, l’un se tenant face à l’autre.
Un enjeu éthique de grande ampleur
Si cette expérience peut fournir un enseignement principal,ce n’est pas celui auquel on pense. Mais c’est bien que les êtres humains peuvent transmettre leur vision du monde aux machines qu’ils conçoivent.
D’emblée, ce constat nous avertit d’un risque majeur.
Imaginons que des individus mal intentionnés se trouvaient en capacité de concevoir une machine. Celle-ci formée à développer uniquement une perception “noire” de son milieu extérieur ! Il serait d’autant plus aisé de la programmer à exécuter des actions malfaisantes. Et ce quels que soient les éléments avec lesquels elle entrerait en contact. Le site officiel du projet propose d’ailleurs aux internautes d’effectuer le test de Rorschach. Cecu afin de fournir à Norman des données plus “normales”.
Cela dit, il restera toujours des otakus pour aimer de véritables stars “virtuelles” !!!
