L'intelligence artificielle bienveillante, trop bot pour être vraie

Nicolas Gary - 10.05.2017

Edition - Société - robot intelligence artificielle - Diabolic Kincaid Asimov - Asimov lois robotique


Tant que le golem restait sous le contrôle de son créateur, tout allait bien. Cet être façonné d’argile, incapable d’autonomie ou de prise de décision avait quelque chose de rassurant. Outre sa monstruosité. Mais avec des créatures mécaniques sentientes, la donne change : intelligence artificielle, mon amour...




 

On l’entend partout : l’intelligence artificielle a déclenché une course folle. L’analyse de données, les recoupements d’informations, tout cela donne lieu à une véritable ruée vers l’or. Les algorithmes sont devenus les Titans modernes, capables d’investir le moindre champ d’activité — ou presque. 

 

Des robots tueurs de Terminator à la machine qui arriverait à réfléchir, et à se penser elle-même, l’idée de voir surgir des outils programmés n’est plus l’apanage de la science-fiction. De fait, les Replicants imaginés par Philip K. Dick prêtaient presque à sourire... Humain, trop humain, finalement, ou presque trop. 

 

Ces créatures étaient cependant plus proches du clone que du robot. Il faut se tourner vers Asimov, et ses cerveaux positroniques, pour découvrir une forme de conscience proche de celle de l’Homme. Mais en imaginant ses robots, c’est plutôt la dimension logicielle qui intéressait l’écrivain. 

 

Les trois lois qui conditionnent alors le fonctionnement de ces machines sont bien connues, et ont pu servir de bases à des recherches scientifiques. 

 

Le robot, en tant que tel, ne doit pas faire de mal à un humain mais ne peut pas non plus rester impassible si un danger se profile. Conséquence, il doit obéir à un humain, sauf si la première loi en est violée. Enfin, il a le droit d’assurer sa propre survie, à condition de ne pas entrer en contradiction avec les deux premiers postulats. Les voici, précisément : 
 

1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ;
2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
3. un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.


Avec un addendum qui fut apporté, baptisé loi Zéro : « Un robot ne peut pas faire de mal à l'humanité, ni, par son inaction, permettre que l'humanité soit blessée. », que l'on retrouve dans les livres Terre et Fondation et Prélude à Fondation.
 

Cette approche rigoureuse donnait lieu à une véritable philosophie de la cohabitation entre robots et humain — voire avec l’humanité tout entière. Mais dans ce contexte, la créature se voit accorder finalement moins d’indépendance que n’en avait le monstre du Dr Frankenstein. Lequel a, il est vrai, brisé ses chaînes. C’est d’ailleurs pour empêcher ce type de rébellion que les trois lois d’Asimov sont conçues...

 



 

Ces consignes de configuration se retrouvent d’ailleurs dans le livre de SJ Kincaid, Diabolic. Ces humanoïdes qu’imagine l’auteure ressemblent plutôt aux Hécatonchires que l’on retrouve dans le cycle Endymion de Dan Simmons — d’un point de vue cruauté. Mais les trois règles qui sous-tendent leur existence sont bel et bien inspirées, et détournées, des lois d’Asimov. 

 

Un Diabolic n’est pas un humain.

Un Diabolic est programmé pour être fidèle envers une seule personne.

Un Diabolic n’existe que pour protéger son maître. Quitte à donner sa vie. Quitte à en prendre d’autres.

 

De quoi faire froid dans le dos, puisque la créature logicielle n’a désormais qu’une fonction de garde du corps terrifiant. L’intelligence dite artificielle devient l’intelligence potentiellement meurtrière, que rien ne pourra empêcher d’accomplir son devoir. Ces êtres génétiquement modifiés, conçus (et programmés, littéralement) pour tuer, donnent lieu à un nouvel ordre... 
 

[Extrait] Diabolic ; protéger ou mourir de SJ Kincaid  

 

Némésis, l’une des Diabolic, porte parfaitement son nom : cette figure de la mythologie grecque incarnait la justice implacable. Celle qui frappe pour rétablir l’équilibre, quelles que soient les conditions dans lesquelles cet équilibre doit être maintenu...