Looking for Isaac
Publié le Dimanche 11 octobre 2009 par Paolo dans la rubrique FOCUS
Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la seconde loi
Ce sont les 3 lois de la robotiques, énoncées par Isaac Asimov dès 1940. Le souci avec de telles lois, c’est qu’Asimov dans tous ses écrits, à toujours supposé qu’elles concernaient des robots assez intelligents pour les appliquer, et se rendre compte des conséquences de leurs actions.
Je ne veux pas vous parler de SF aujourd’hui, ni vous sembler alarmiste, mais je suis tombé sur une étude intéressante, menée par 5 étudiants de l’Université de Washington, à Seattle, USA concernant la sécurité des robots actuellement sur la marché.
Un certain nombre de robots, assez simples, en tout cas si on les compare aux robots d’Asimov, sont vendus comme jouets, pour enfants ou adultes depuis quelques années déjà. Parmi ces robots, certains sont équipés de caméras, de micros, peuvent se déplacer, voire attraper de petits objets. Or, afin de pouvoir exploiter les caméras et micros, les constructeurs ont prévu que ces robots puissent, via une connexion wifi, être reliés au net.
Pour les rendre encore plus utiles et pratiques, ils ont également prévu qu’on puisse les contrôler à distance via internet.
Cette étude, dont vous pouvez voir l’original ici, effectuée sur 3 modèles de robots du marché, tels qu’ils étaient vendus en octobre 2008, montre que ces robots ne sont pas tout à fait des modèles de sécurité. Sans rentrer dans les détails, pour lesquels je vous renvoie à la lecture du rapport complet, ils ont la fâcheuse tendance de transmettre leurs flux vidéo et audio en clair, sans cryptage, celle d’utiliser des mots de passe non cryptés ou très faciles à décrypter, celle de répondre aux demandes de contrôle à distance même quand ils sont éteints si ils sont relies à leur base, et celle d’autoriser la personne qui en prend le contrôle à distance à désactiver le signal d’alerte qu’ils émettent normalement dans de telles situations.
Concrètement cela veut dire quoi? Comme toujours pour les questions de sécurité, dans 99% des cas rien du tout: vous avez un robot, il n’est pas sécurisé à 100%, mais comme personne n’a vraiment un grand intérêt à vous espionner, ça n’a pas de grosses conséquences. Toutefois, il est important d’avoir ces informations présentes à l’esprit lorsque vous déciderez si en acheter un, car l’idée que n’importe quel hacker puisse avoir des yeux et des oreilles chez vous n’est pas vraiment alléchante. Imaginez les risques d’invasion de votre sphère privée, diffusion de vidéos où vous regardez vos chers DVDs de Benny Hill, streaming MP3 de vos chansons sous la douche etc etc…
Plus sérieusement, on peut imaginer qu’un tel robot soit utilise pour regarder où vous cachez vos bijoux, le code que vous tapez pour désactiver votre alarme, ou tout simplement pour savoir si vous êtes chez vous ou pas.
En conclusion, ceci n’est pas une invitation à jeter le robot que vous avez offert à vos enfants à Noël dernier, ni à renoncer à l’achat d’un robot dans un futur proche, mais une invitation à être attentif, à bien se renseigner sur les capacités du robot en question, aux options offertes pour le sécuriser et à être conscients que sa présence dans la maison est un tout petit peu moins anodine que celle de la voiture radio-commandée ou des Bratz de vos enfants.
Paolo
Liens:
A Spotlight on Security and Privacy Risks with Future Household Robots: Attacks and Lessons:
FAQ – Etude complète (pdf) -Traduction Google
Paris, ascendant rive droite.
L’union fait la force.
Genève, option air pur.
C'est l'occasion de laisser le premier commentaire!