Enceintes connectées : notre vie privée est-elle réellement à l’abri?

Accusées d’écouter continuellement les conversations du public, les enceintes connectées sont considérées par certains consommateurs comme de véritables mouchards à éviter à tout prix. Mais doit-on réellement s’en faire pour sa vie privée?

Désormais bien implantées chez les consommateurs, les enceintes connectées sont régulièrement accusées d’enregistrer des conversations privées. Il y a quelques semaines, Amazon était ainsi épinglé par la presse spécialisée suite à la publication d’un rapport qui établissait qu’elles enregistraient les conversations des utilisateurs en permanence.

Le fonctionnement des enceintes connectées de Google, Apple et Amazon repose sur l’usage d’une commande vocale, censée activer l’enregistrement. En principe, aucune information n’est transmise aux serveurs des GAFA sauf quand l’enceinte reconnaît la formule qui l’active – “OK Google” dans le cas du Google Assistant et “Alexa” dans le cas des enceintes d’Amazon. La commande de l’utilisateur est alors transmise aux serveurs de l’entreprise, qui génèrent alors une réponse. L’intégralité de l’interaction repose sur l’usage du cloud.

Les échanges avec Alexa et le Google Assistant sont également enregistrés et utilisés par les GAFA pour améliorer leur technologie.

Mais le géant de la vente en ligne se garde bien de préciser les conditions réelles pour y parvenir. C’est en effet des milliers d’employés étudient les enregistrements, parfois jusqu’à 9 heures par jour, en apportant des annotations sur ce qu’ils entendent.

Contrairement à Apple avec Siri ou à Google avec son Assistant, qui assurent de leur côté rendre anonymes leurs enregistrements, Amazon permettrait à ses employés d’accéder à ces informations parfois privées.

Bloomberg rapporte ainsi des trouvailles surprenantes des employés d’Amazon, qui auraient mis la main sur des enregistrements qui pourraient être utilisés dans des affaires criminelles. Selon Bloomberg, il ne serait pas rare que ces types d’enregistrements soient partagés dans un chat entre employés. Dans la pratique, rien n’empêcherait donc un employé des GAFA d’enregistrer vos ébats sexuels et de s’en amuser avec ses collègues. Mais quid d’un usage criminel? Pourrait-on véritablement imaginer un cas de figure où un employé des GAFA exige une rançon en échange d’un enregistrement d’une conversation confidentielle? En théorie, non, car ils n’ont pas accès aux données des clients. Dans la pratique toutefois, les employés des GAFA ne sont pas non plus censés avoir accès à ces enregistrements précédant une interaction avec l’assistant virtuel…

Une employée de Microsoft a fait état d’un cas similaire il y a quelques mois. Une jeune femme chargée de corriger les erreurs de transcription de Cortana (la technologie de reconnaissance vocale de Microsoft) a témoigné à La Quadrature du net qu’elle écoutait les enregistrement audio des utilisateurs et qu’elle devait rectifier le cas échéant un texte lui montrant ce que Cortana avait compris. Elle a ainsi entendu à l’insu des utilisateurs des informations sensibles (des numéros de sécurité sociale, par exemple).

Si elles ne sont “que” des machines, les enceintes connectées bénéficient de l’aide d’êtres humains pour apprendre à interpréter correctement les requêtes et répondre aux habitudes des utilisateurs. Ces transcripteurs d’intelligence artificielle trient vos requêtes et écoutent les propos pour parfaire le service. Il est donc question de faire aveuglément confiance à ces travailleurs de l’ombre payés par des entreprises spécialisées et qui sont parfois situés dans votre pays, ou dans d’autres pays disposant de travailleurs précaires francophones comme la Tunisie, le Maroc ou Madagascar.

Plus gênant encore, il n’est pas rare que des bugs affectent le service.

Aux États-Unis par exemple, Alexa Amazon a enregistré une conversation à l’insu de sa propriétaire et l’a envoyé à l’un de ses contacts. Un cas isolé lié à une mauvaise perception d’un mot qui a réveillé l’enceinte et a ensuite, par un enchaînement de quiproquos, envoyé un mail à un tiers.