Info

Assistant vocal et vie privée : deux sénateurs américains demandent des comptes à Jef Bezos

L'assistant numérique "Alexa" de l'enceinte intelligente "Echo" d'Amazon est très zélé : au point de pouvoir enregistrer les conversations des usagers et de les envoyer à leurs amis. D'elle-même, sans qu'on lui donne l'ordre de le faire…

Une femme américaine équipée de l'assistant vocal numérique "Echo" vendu par Amazon a été enregistrée par sa machine et sa conversation audio envoyée à l'un de ses contacts… à son insu. Les assistants numériques sont par essence des espions qui livrent notre vie intime à leurs concepteurs et potentiellement à nos connaissances : deux sénateurs interpellent le PDG de la firme Amazon Jef Bezos pour en savoir plus sur le sujet. 

dans

L'enregistrement d'une conversation d'une femme américaine de Portland envoyé à un membre de sa liste de contacts —  par son assistant numérique — est un cas d'école qui lance un débat nécessaire : celui des objets connectés et de la protection de la vie privée. L'assistant vocal "intelligent" Echo — une enceinte connectée au réseau d'intelligences artificielles d'Amazon et censé obéir aux ordres de son propriétaire — vient de démontrer les limites du "tout connecté" et des dérives possibles qu'il peut engendrer. Particulièrement en termes de respect et de protection de la vie privée.


Comment Echo écoute-t-il ses utilisateurs et où stocke-t-il ces conversations ?

L'une des questions posées par les sénateurs Flake et Coons à Jef Bezos, PDG d'Amazon

Mais un paradoxe persiste : un assistant vocal — comme celui de Google, Amazon et bientôt Apple —, pour pouvoir bien fonctionner, doit pouvoir écouter toutes les conversations de ses propriétaires, suivre toutes leurs activités numériques : l'apprentissage automatique des algorithmes qui régissent ces appareils est basé sur le traitement du maximum de données afin de "progresser" pour mieux comprendre les demandes humaines mais aussi les anticiper et soumettre ses "propres choix" basés sur l'analyse des comportements. L'assistant, pour pouvoir vous assister, doit tout connaître de vous.

Ce qu'il s'est passé avec cette Américaine — un enregistrement de l'une de ses conversations envoyé à l'un de ses contacts qui l'a ensuite prévenue — est spectaculaire, mais ne doit pas occulter le problème central que ces technologies domestiques soulève : l'écoute de toutes nos activités est une nécessité intrinsèque pour qu'elles puissent fonctionner. Jusqu'à quel point cette obligation technologique est-elle compatible avec la protection de notre vie privée, et surtout dans le cas des assistant vocaux, de notre intimité ? Peut-on alors parler d'espionnage "nécessaire" ?

Deux sénateurs montent au créneau et interpellent Jef Bezos

Le sénateur républicain Jeff Flake et son collègue démocrate Chris Coons ayant appris la déconvenue de l'utilisatrice d'Echo ont envoyé ce jeudi 14 juin 2018 un courrier au patron d'Amazon, Jeff Bezos. Jeff Flake dirige le sous comité judiciaire sur le droit et la vie privée dans les technolgies dont Chris Coons est membre.


Cet incident démontre clairement que nous ne comprenons pas pleinement les risques pour la vie privée que nous prenons avec cette technologie
Le sénateur Chris Coon, à propos de "l'incident" de Portland

Les deux sénateurs, dans leur courrier, posent une trentaine de questions auxquelles le magazine Wired a eu accès. Parmi celles-ci, certaines sont particulièrement perspicace et intéressent tout un chacun, dont les propriétaires d'assistant personnelles au premier chef : "Comment Echo écoute-t-il ses utilisateurs et où stocke-t-il ces conversations ? Comment Amazon compte-t-elle protéger ces informations sensibles des utilisateurs contre des usages malhonnêtes ?

L'histoire de Portland serait dûe à une fonction classique d'enregistrement déclenchée par l'énonciation du mot "Alexa" dans la conversation avec une autre personne, par sa propriétaire. Puis d'autres mots clés au sein de la même conversation auraient "incité" la machine à envoyer l'enregistrement audio à une personne de la liste de contacts de cette même propriétaire, selon les deux sénateurs. Ces derniers insistent sur le fait que cette technologie n'est pas défaillante dans le cas d'espèce, mais  est au contraire très précise, et n'a en réalité fait qu'une seule chose : très bien "écouter" ce qu'il se passait dans la pièce et agir en conséquence. Une sorte de zèle numérique.

"Cet incident démontre clairement que nous ne comprenons pas pleinement les risques pour la vie privée que nous prenons" [avec cette technologie], a souligné le sénateur Chris Coons qui demande instamment, avec son président de sous-comité, qu'Amazon "indique le nombre de plaintes qu'elle a reçu pour des problème d'interprétation des commandes vocales par des utilisateurs, des détails sur la fréquence à laquelle l'enceinte vocale envoie ses données audio aux serveurs d'Amazon, combien de temps elles sont stockées, comment elles sont anonymisées".

Plus précisément encore, les deux sénateurs demandent à Amazon "de partager ses informations sur la durée d'enregistrement d'Echo après qu'un utilisateur prononce le mot "Alexa" et s'il a la possibilité d'effacer ces enregistrements".

Au delà des seuls assistants vocaux "intelligents", l'affaire de Portland renvoie à l'énorme problématique de la collecte des données personnelles par les firmes Internet, à la sécurité de "l'Internet des Objets" (IoT, Internet of things) et à la possibilité ou non pour chacun de conserver son droit à l'intimité — la protection de la vie privée devenant un lointain souvenir aux vues des pratiques révélées depuis quelques années — au XXIème siècle. Le sénateur Flake résume la situation actuelle sur ces sujets par une phrase — liée aux révélations sur les données des 87 millions de comptes Facebook utilisées par Cambridge Analytica pour influencer la campagne électorale de Donald Trump — : "l'âge de l'innoncence est révolu".

L'assistant vocal Google Home commercialisé depuis août 2017 a été la vedette des cadeaux de Noël dans l'hexagone et l'enceinte intelligente Echo d'Amazon avec son ssistant Alexa est arrivée en France depuis hier, ce jeudi 14 juin 2018. "L'âge de l'innocence" va-t-il continuer en France sur ces sujets, les élus de la nation pensant avoir résolu le problème avec le RGDP ? La question n'est en tout pas encore à l'ordre du jour de ce côté-ci de l'Atlantique. Espérons qu'elle le sera rapidement.