Les robots aspirateurs ont toujours semblé être des petits gars serviables et amicaux, mais c’est peut-être parce que je ne les ai pas beaucoup utilisés. J’aime l’idée d’un petit gars qui court partout, se cogne et rend ma maison plus propre. L’idée semble moins charmante maintenant que j’ai découvert qu’ils peuvent prendre des photos de vous sur les toilettes et ensuite les télécharger sur les réseaux sociaux sans que vous le sachiez. C’est un niveau d’intimidation bizarre que je ne veux pas de mon valet mécanicien.
Eileen Guo Examen de la technologie MIT (s’ouvre dans un nouvel onglet) s’est penché sur la façon dont de telles photos d’aspirateurs Roomba d’iRobot, avec les visages des utilisateurs clairement visibles, ont pris tout leur sens chemin vers les réseaux sociaux (s’ouvre dans un nouvel onglet). Les photos contiennent des images très franches de personnes faisant des choses personnelles chez elles, y compris des images de femmes et d’enfants dans les toilettes. Guo a également fait un excellent Fil Twitter (s’ouvre dans un nouvel onglet) avec plus d’explications et des liens utiles.
Les images sensibles ont clairement été prises depuis la position du robot aspirateur, ce qui aurait été fait dans l’intérêt de la collecte de données. S’adressant à MIT Technology Review, un utilisateur concerné a expliqué qu’il était testeur de produit pour la série iRobot Roomba J, ce qui signifiait laisser le robot parcourir la maison pour collecter des informations dans l’espoir d’améliorer le produit.
S’attendre à ce que vos informations soient renvoyées à une entreprise sécurisée qui souhaite former son IA de nettoyage est une chose, et découvrir que ces images seront également téléchargées sur les réseaux sociaux en est une autre. MIT Technology Review a constaté que lorsque iRobot collecte toutes ces données, il les transmet aux entreprises pour l’annotation des données. L’une de ces entreprises était Scale AI, qui embauche des sous-traitants externes pour aider à examiner les données non censurées.
Cela a conduit les travailleurs à partager des images entre eux sur les réseaux sociaux, qui ont bien sûr trouvé leur chemin vers le reste du monde. De nombreux utilisateurs ont estimé qu’il s’agissait d’une violation de leur confiance, voire de leur contrat de testeurs. Il y a au moins 15 images qui ont fait leur chemin, mais beaucoup d’autres sont susceptibles d’être partagées. De manière appropriée, iRobot ne fonctionne plus avec Scale AI.
Malheureusement, iRobot ne fait pas grand-chose de plus pour aider les personnes touchées ou regagner la confiance. Le PDG Colin Angle a répondu au rapport MIT Technology Review dans un Message LinkedIn (s’ouvre dans un nouvel onglet) qui n’a reconnu aucun problème ou danger lié à la fourniture de ces images non censurées aux travailleurs des concerts. Avec peu de responsabilité ou de recours, cela semble être une idée dangereuse.
Angle passe la première partie du post Linked In à parler de la qualité des Roombas de l’entreprise, en l’attribuant aux données collectées auprès de ces types de testeurs, puis les jette sous le bus, en disant qu’ils n’ont pas de consommateurs et ont consenti à avoir leurs données collectées.
Il est bon de savoir que cela ne se produit pas avec les produits iRobot grand public, mais le manque de responsabilité envers les testeurs ne me donne pas envie de prendre un Roomba de si tôt.
La publication de LinkedIn reproche également au MIT Technology Review d’avoir partagé des versions censurées des images dans son article, ce qui n’a pas beaucoup de sens étant donné qu’iRobot partageait déjà volontairement des versions non censurées avec des inconnus qui se sont retrouvés en ligne.