La robotique s'emploie à apprendre à obéir à nos commandes. Pourtant, si l'on veut aller plus loin et doter le robot d'une forme d'intelligence, celui-ci doit pouvoir être en mesure de désobéir. C'est précisément ce que commencent à inculquer aux machines certains chercheurs... pour leur propre sécurité uniquement.

Shafer et Dempster sont deux robots humanoïdes comme il en existe déjà tant. Les chercheurs Gordon Briggs et le Dr Matthais Scheutz de la Tufts University dans le Massachusetts, États-Unis, leur ont pourtant inculqué quelques nouvelles règles, les rendant ainsi très semblables à Sonny, dans I, Robot - avec Will Smith -.

« À mesure que les capacités des agents autonomes se développent, il y a une communauté grandissante qui s'intéresse à l'éthique de la machine, à doter les agents autonomes de la possibilité de raisonner de manière éthique envers leurs propres actions.«

Ces deux robots comprennent parfaitement les instructions comme « debout » ou « assis » de la part d'un humain. Mais lorsqu'on leur demande de marcher dans un obstacle, ou vers le bord d'une table, par exemple, ils refusent poliment : « Désolé, je ne peux pas faire cela, il n'y a plus de sol devant. » Si on tente de le forcer, « Mais, c'est dangereux. » Et si l'humain le rassure en lui disant qu'il le rattrapera s'il venait à tomber, le robot fait confiance et avance. Pour parvenir à ce genre de « conscience », les chercheurs ont doté Shafer et Dempster de mécanismes de raisonnement.

Cependant, ces travaux ne respectent pas les célèbres lois de la robotique établies par l'auteur de science-fiction Isaac Asimov, lesquelles indiquent qu'un robot doit obéir aux ordre donnés par un humain - et qu'ils ne doivent pas blesser un humain et qu'ils ne peuvent protéger leur existence que si cela n'entre pas en conflit avec les deux premières lois -.

https://www.youtube.com/watch?v=SkAAl7ERZPo

De nombreux experts de l'intelligence artificielle s'accordent à dire que les robots doivent respecter ces lois, la capacité de désobéir pourrait en effet avoir de fâcheuses conséquences.

Dans le film I, Robot, Sonny outrepasse ses prérogatives et désobéit. Pourtant, selon les deux chercheurs, « il y a encore beaucoup à faire pour rendre ces mécanismes de raisonnement et de dialogue plus performants et généralisés« .

https://www.youtube.com/watch?v=7YxmdpS5M_s