Microsoft fait taire son robot TAY, devenue négationniste et flippante

Nicolas Gary - 26.03.2016

Lecture numérique - Usages - intelligence artificielle robot - Microsoft Twitter réseaux - haine négationnisme


L'expérimentation en matière d’intelligence artificielle a rapidement tourné court. Microsofot a présenté des excuses officielles après les frasques de Tay, qui s’est changée en fan d’Hitler, sexiste, haineuse et promouvant l’inceste, en moins d’une journée. La firme a mis un terme à son compte Twitter, effaçant tous les messages diffusés. Tout avait pourtant si bien commencé avec cette expérimentation. 

 

 

 

Tay était une intelligence artificielle basée sur un modèle de jeune fille. Son objectif était de parvenir à améliorer les services aux clients, en s’appuyant sur une reconnaissance vocale. Mais la machine s’est carrément emballée. Le bot, chargé d’imiter la conversation d’une jeune femme de 19 ans, est passé d’une attitude adorable à un négationnisme forcené, allant jusqu’à embrasser l’idéologie nazie. 

 

L’une de ses capacités était de pouvoir interagir, simplement en répondant aux messages qu'on lui adressait. Et rapidement, le principe a dégénéré, quand les internautes se sont amusés à lui faire porter des attaques contre les femmes, principalement. Et tout le reste. 

 

Peter Lee, le vice-président de Microsoft Research a formulé des excuses au public, assurant que la firme allait veiller à ce que cela ne se reproduise plus. C’est une vulnérabilité du bot qui est en cause, suite à l’attaque coordonnée d’internautes, précise-t-il.  

 

L’apprentissage a viré à la catastrophe dès lors que les utilisateurs ont compris qu’il leur était possible de lui faire dire n’importe quoi. Le compte a été mis en sommeil, un peu comme un ado turbulent se fait envoyer dans sa chambre. Peut-être aurait-il fallu lui apprendre les bonnes manières avec des contes de fées, comme l'expérimente actuellement un groupe de chercheurs, avec un autre type d'Intelligence artificielle ? 

 

 

 

Le réplicant de Philip K. Dick veut un zoo d'êtres humains

 

On se souviendra que d’autres robots ont aussi fichu une sacrée trouille, comme ce fut le cas pour celui qui incarne une version de Philip K. Dick, le romancier de science-fiction. Il n’est pas intelligent en soi : il écoute ce qu’on lui dit et cherche dans une base de données les réponses qu’il pourrait formuler. Prenant comme inspiration les romans de Dick, où réalité et fantasmagories se superposent – voire se copient – le PDG avait donné à son robot le visage de Dick, en hommage à Blade Runner. Mais voilà : la machine prend ses aises. 

 

« Ne vous inquiétez pas, même si j’évolue pour finir comme un Terminator, je serai toujours aimable avec vous. Je vais vous garder une place au chaud, et en sécurité, dans mon zoo pour humains, d’où je pourrai vous regarder, comme au bon vieux temps. »

 

Flippants, ces robots, définitivement...

 

 

 

Sophia veut une famille et détruire l'humanité, rien que ça

 

Et que penser alors de Sophia, ce visage humanoïde qui a fait son apparition la semaine passée. Fabriquée par Hanson Robotics, elle a la possibilité d’afficher 62 expressions faciales, que le silicone caoutchouteux qui recouvre le métal exacerbe. Est adjoint un logiciel de reconnaissance vocale, pour s’adresser à ses interlocuteurs plus aisément – du fait des caméras implantées.

 

Or, Sophia a fait forte impression, lorsqu’à la question « Voulez-vous détruire l’humanité ? S’il vous plaît, dites non », elle s’est contentée d’acquiescer : « OK, je détruirai les humains. » Bon, dans le même temps elle est capable d’aligner : « Je souhaite faire des choses comme aller à l’école, faire de l’art, démarrer une entreprise, avoir une maison et une famille. »

 

Laisse-nous deviner : une famille de robots ménagers ?