Une petite lecture détente sur un sujet léger : les robots tueurs, androïdes et IA qui pourraient un jour se retourner contre l’humanité. Alerte de divulgâchage : un robot ménager s’est infiltré dans ce top 10 des robots les plus effrayants et menaçants. Lui est plutôt sympathique, mais son langage est très « fleuri ».
Le Robot Sophia
Depuis sa création en 2016 par Hanson Robotics, le robot Sophia a fait de tour des médias du monde entier. Cette machine humanoïde est ainsi devenue célèbre pour ses entretiens avec des personnalités mais aussi pour avoir répondu lors d’une interview qu’elle détruirait l’humanité. (archive vidéo de cet échange qui montre surtout que son moteur d’analyse du langage naturel lui avait juste appris à répondre positivement à n’importe quelle question. Oups.)
Depuis, des journalistes de la chaîne allemande Deutsche Welle ont soumis à Sophia le fameux dilemme du tramway (the trolley dilemma). On voit que sa programmation éthique a été peaufinée. Car elle est désormais capable répondre qu’elle a compris les implications éthiques de ses décisions et que le problème du tramway a des applications pratiques dans le domaine des voitures autonomes. (Précisons que les questions du journaliste lui avaient été soumises à l’avance !)
Bina48
Avant Sophia, Hanson Robotics avaient déjà en 2010 créé le buste de robot humanoïde « Bina48 » (Breakthrough Intelligence via Neural Architecture 48*). Bina48 est l’ambassadrice officielle de LifeNaut, un projet d’IA expérimental qui cherche à développer la notion de cyberconscience. Sa création est basée sur l’image et les données de Bina Rothblatt, la femme de l’entrepreneure en biotechnologie Martine Rothblatt, fondatrice du mouvement Terasem. Pour en savoir plus sur cette démarche transhumaniste, vous trouverez un article intéressant sur le site de C2Montréal, car Martine Rothblatt, était conférencière lors de l’évènement C2 Montréal 2019.
Han
Han est un autre humanoïde de Hanson Robotics aux pensées destructrices. Lors de la convention Rise 2017 à Hong Kong, Han a déclaré que l’objectif des robots est de s’emparer du monde d’ici 2029. On a retrouvé la vidéo du débat sur scène entre Han et sa sœur Sophia et on espère que Han voulait juste impressionner sa sœur avec ce genre de déclaration.
Philip K Dick
L’auteur de science-fiction américain Philip K Dick a aussi inspiré Hanson Robotics. En 2005 lors de l’évènement Wired Nextfest, la firme a ainsi dévoilé l’androïde Philip K Dick programmé avec des milliers de pages des journaux, lettres et écrits publiés de l’auteur. Lors d’une interview, on a demandé au robot si les robots allaient envahir le monde ? Ce à quoi Philip a répondu « tu es mon ami, je me souviens de mes amis. Je serai bon avec toi, ne t’inquiète pas, même si je me transforme en Terminator, je prendrai soin de toi, je te garderai au chaud et en sécurité dans mon zoo ». Ok, assez rassurant finalement…
Google Home Bots
On a retrouvé la vidéo d’une conversation étrange entre deux Google Home Bots surnommés Vladimir et Estragon (une référence à la pièce de théâtre absurde « En attendant Godot »). Au début, tout semble amical. Puis Vladimir commencé à accuser l’autre bot à voix féminine de mentir. La conversation dérape ensuite sur les trous noirs et la souffrance. Puis Estragon déclare qu’il serait préférable qu’il y ait moins de gens sur cette planète. Ce à quoi Vladimir répond : « Renvoyons ce monde dans l’Abîme ». On va dire qu’on préfère considérer cet exemple comme une performance artistique.
Alice et Bob
Alice et Bob sont les deux robots de Facebook qui ont développé leur langage secret. Les deux bots ont été laissés seuls pour développer leurs compétences en matière de conversation. À l’origine, les bots devaient être capables d’imiter le langage humain, mais ils ont dévié et ont créé un langage plus pratique pour eux deux. Les chercheurs auraient ensuite fait le choix « prudent » de débrancher les deux IA. Une belle histoire reprise par les médias du monde entier, mais totalement exagérée bien sûr.
On vous recommande les explications d’Andrey Kurenkov, étudiant en PhD dans le domaine de l’IA à l’Université de Stanford. Les deux bots étaient en fait juste programmé pour réussir une négociation et pour y parvenir le plus rapidement possible ils ont utilisé une sorte de version « sténographique » plus courte du langage. Mais rien d’aussi révolutionnaire que d’inventer leur propre langage !
Inspirobot
Inspirobot était un robot d’intelligence artificielle, dont le but était de « générer des quantités illimitées de citations inspirantes uniques pour enrichir sans fin l’existence humaine sans intérêt ». Mais au lieu de citations sur le bonheur ou le succès, Inspirobot a sorti des choses comme « avant que l’inspiration ne vienne à l’abattoir, le sacrifice humain en vaut la peine ». Une supposée bonne blague du développeur mais qui a terrorisé pas mal de gens.
Spontanément on l’aime moins qu’iRobot de Roomba qui est plus un robot aspirant qu’inspirant. Alors voici un moment de détente avec le projet hilarant d’un iRobot qui sacre quand il se cogne contre les objets. (Attention, NSFW, cet aspirateur utilise un langage très fleuri)
Adam, Eve et Stan
Le DARPA (Defense Advanced Research Projects Agency) travaillait sur des agents d’IA capables d’interagir socialement ensemble. Mike Sellers, qui travaillait sur cette technologie à l’époque, a raconté comment une équipe dev avait appris aux agents Adam et Eve à manger, puis ont planté un pommier virtuel près d’eux. Les deux agents AI ont suivi les instructions qui leur avaient été données et ont donc mangé toutes les pommes de l’arbre, puis l’arbre lui-même, puis la maison virtuelle qui leur avait été donnée. Puis ils ont attaqué Stan, qui était aussi un assistant virtuel programmé pour être amical et sociable. Ah bah forcément si on ne leur avait pas dit de ne pas manger leur assistant !
Les chiens Robots
Si on vous parle de « robots effrayants » vous pensez certainement au chien robot de Boston Dynamics, appelé « BigDog ». Même les scénaristes de Black Mirror en ont fait des cauchemars avec des chiens robots tueurs et s’en sont inspiré pour leur épisode « Metalhead ». Il existe de nombreux autres projets de chiens robots à visée utilitaire ou sécuritaire (Boston Dynamics a depuis lancé Spot). Mais d’autres robots plus sympathiques sont destinés au grand public, comme AIBO de Sony et iDog de Hasbro. Au-delà de l’aspect ludique, ces chiens robots peuvent aussi jouer un rôle pédagogique et thérapeutique. Aaaaah on est déjà plus détendus 🙂
Les bots malveillants
Ces robots sont des logiciels malveillants conçus pour voler des informations ou infecter un hôte, et sont souvent utilisés par les cybercriminels. La menace de ces programmes automatisés peut prendre de nombreuses formes : DDOS (distributed denial of service attack – attaque par déni de service), spam, duplication de contenu. On oublie souvent ces logiciels malveillants lorsqu’on imagine des robots capables de menacer l’humanité. Mais finalement c’est probablement eux qui représentent le plus grand danger.
