"Donnons des droits aux robots"

Kate Darling n'aime pas torturer Pleo, un petit dinosaure robotique, mignon, du genre à n'avoir jamais fait de mal à une mouche. Pourtant, au cours de l'atelier que la chercheuse en propriété intellectuelle et en politique de l'innovation au Massachusetts Institute of Technology (MIT) de Boston organisait début février à Genève, lors de la conférence sur les nouvelles technologies Lift 13, elle a demandé aux participants de maltraiter la créature jusqu'à ce que mort s'ensuive. Le but était de sonder ensuite le ressenti de chacun. C'est du malaise provoqué chez elle par les mauvais traitements infligés au petit engin qu'est née sa réflexion sur le droit des robots.

Pour beaucoup, la question d'accorder des droits aux robots reste de la science-fiction. Pensez-vous que nous soyons déjà arrivés à un niveau technologique qui soulève ce genre de question ? La loi est toujours très en retard sur la technologie, les deux domaines ne se parlent pas. Les gens qui développent ces technologies ne pensent pas aux implications légales et éthiques de leur travail. Je ne parle pas de robots futuristes qui seraient aussi intelligents que nous, mais de robots qui existent déjà.

Nous sommes toujours davantage entourés par une technologie qui interagit avec nous au niveau social, qui essaie de se "brancher" sur nos émotions. Cela va des jouets pour enfants aux robots de compagnie, comme ceux qui sont utilisés à des fins médicales ou dans des foyers pour personnes âgées. Ils vont devenirbeaucoup plus sophistiqués, et il y a des questions qu'il faut que nous nous posions dès maintenant.

Lesquelles ?

Des études montrent que, bien que sachant que ces robots sont des objets, nous avons tendance à les traiter comme s'ils étaient vivants, en projetant des émotions sur eux et en créant des liens affectifs avec eux. On observe que les gens ont beaucoup plus de peine à éteindre ce type de robot que les autres. Cette technologie pourrait être utilisée de manière abusive. Si les compagnies exploitent cet attachement à des fins de marketing, par exemple.

La protection de la vie privée pourrait aussi être menacée. On peut imaginer que ces robots amènent leurs utilisateurs à divulguer des choses. Certaines personnes estiment que l'on devrait restreindre la recherche dans le domaine des technologies qui jouent avec nos émotions.

Et vous ?

Je ne crois pas que ce soit responsable. Cette technologie est utile pour beaucoup de choses, dans le domaine éducatif ou de la santé, notamment. Et puis : nous aimons nous attacher à ces robots, penser que leurs émotions sont réelles, que ce sont nos amis. De toute façon, je ne pense pas que ce serait possible, l'industrie du jouet a trop de pouvoir.

Quels droits devrions-nous donner à ces robots ?

Je pense que les projections que nous faisons sur les robots sociaux et les liens que nous créons avec eux pourraient nous amener à vouloir leur donner uneforme de protection juridique. Je ne parle pas d'une sorte de droit à la vie, qu'on n'ait pas le droit de les éteindre, etc. Je parle plutôt de quelque chose comme les lois qui protègent les animaux. A eux non plus, on n'accorde pas le droit à la vie, mais on a édicté des lois pour les protéger contre la maltraitance. A mon avis, pas tant à cause de la douleur qu'ils peuvent ressentir qu'en raison de la réaction que leur douleur suscite chez nous.

Ce n'est pas pour rien que nous protégeons beaucoup plus les animaux que nous trouvons attachants ou auxquels nous pouvons nous identifier. Lorsque Pleo est sorti, des gens ont mis en ligne des vidéos où ils le torturaient : ils testaient ses limites. Les réactions ont été extrêmes, les internautes étaient bouleversés, bien que - comme moi-même d'ailleurs - ils sachent très bien qu'il s'agit d'un robot.Regarder cette chose se tordre de douleur provoque en nous des réactions qui vont bien au-delà de ce qu'il y a dans l'engin. D'où l'idée de donner aux robots des droits de "second ordre", dans le sens où ils ne leur sont pas vraiment inhérents. Ils existent plus pour notre bien et celui de la société.

Comment cela ? La loi a tendance à réguler aussi notre comportement d'un point de vue éthique et à décourager des agissements qui peuvent se révéler nocifs dans un autre contexte. En décourageant la maltraitance des robots sociaux, on promeut des valeurs que l'on juge bonnes pour notre société, comme bien traitertoutes les choses et les tous êtres.

Si un enfant donne des coups de pied dans son jouet robotique, il le fera peut-être aussi à un chat ou à un autre enfant. Dans certains pays, lorsqu'un cas de maltraitance d'animaux est découvert, cela déclenche automatiquement uneenquête sur d'éventuelles maltraitances envers les enfants. Parce que ce genre de comportement a tendance à se transférer.

Mais les animaux sont des êtres vivants, pas les robots. Comment définit-on la vie ? Et pourquoi est-ce important ?

Est-ce que la réponse ne varie pas selon les cultures ?

En effet. Dans la tradition shintoïste japonaise, chaque objet a une âme. Et cela explique dans une certaine mesure pourquoi la culture japonaise accepte mieux les compagnons robotiques. Elle ne divise pas les choses entre "vivant" et "non-vivant", comme dans la culture occidentale.

Comment définit-on le périmètre ? Est-ce que mon toaster serait aussi protégé ? La ligne de séparation sera de toute façon floue et arbitraire. Mais les systèmes légaux sont habitués à ça. Des études ont montré que ce qui suscite le plus de réaction émotionnelle chez nous sont les robots qui combinent plusieurs facteurs : ils doivent être incarnés, autonomes, et interagir socialement avec nous. On pourrait se baser là-dessus.

Il y a des gens qui sont attachés à leur voiture. C'est vrai. Les militaires américains ont testé un robot qui désamorçait les mines. Il avait l'air d'une araignée géante, à six pattes. Chaque fois qu'il passait sur une mine, il en perdait une. Le colonel qui était en charge du projet l'a interrompu en arguant que c'était inhumain, qu'il ne pouvait pas supporter la vue de ce robot qui se traînait sur ses pattes restantes.

Cela montre que la ligne est floue, que l'on s'identifie même à des choses qui ne sont pas anthropomorphes. Le fait que ce robot ressemblait vaguement à un animal, même s'il n'avait pas été conçu pour, suffit. Et donc, lorsque c'est fait à dessein, cela va beaucoup plus loin.

Dans les films de science-fiction, les robots prennent le contrôle de la planète. Pensez-vous que si nous leur accordons des droits, ils nous en accorderont en retour ? C'est mon plan (rires). Sérieusement, je pense que nous sommes très loin d'atteindre ce niveau technologique.

Source : Le Monde.