Google Assistant : les conversations écoutées par des employés de Google

Après l'assistant personnel d'Amazon, c'est au tour de Google Assistant d'être sous les projecteurs. Une attention qui ne souligne pas ses exploits, mais plutôt l'intrusion de celui-ci et de la firme de Mountain View dans l'intimité de leurs utilisateurs.

Nos collègues de la VRT se sont intéressés au traitement réservé aux conversations enregistrées par l'assistant personnel de Google. Une enquête qui s'est révélée particulièrement fructueuse puisque le média belge a établi que des employés de la firme américaine écoutaient et étudiaient des conversations enregistrées par Google Assistant.

Une pratique qui pose de nombreuses questions, notamment en termes de respect de la vie privée, mais qui est pourtant légale. En effet, celle-ci est indiquée dans les conditions d'utilisation de l'assistant personnel et en utilisant l'intelligence artificielle, les utilisateurs acceptent ces conditions.

Améliorer Google Assistant

L'objectif de ces écoutes est d'améliorer l'intelligence artificielle de Google Assistant. Les employés qui analysent ces enregistrements se concentreraient davantage sur la manière dont les utilisateurs s'adressent à l'AI, plutôt que sur le contenu des interactions. C'est en tout cas ce qu'a affirmé un sous-traitant de Google à la VRT.

La mission des sous-traitants professionnels est d'analyser et de retranscrire chaque son perçu par Google Assistant, que ça soit via un Google Home ou l'application mobile. En détaillant les enregistrements qu'ils écoutent, notamment les différents bruits captés (une toux, un objet qui tombe, un klaxon) et les particularités des voix (homme, femme, enfants), les employés permettent à l'intelligence artificielle de s'améliorer. Elle prend en compte ses informations, les assimile et pourra mieux réagir lorsqu'elle sera de nouveau confrontée à ce genre d'information, par exemple ignorer des bruits non pertinents.

Comme on pouvait s'en douter, il n'a pas fallu longtemps à Google pour réagir aux révélations de la VRT. La firme de Mountain View a confirmé les révélations de la VRT et a précisé au média belge que « ce genre de travail est crucial pour le développement de nouvelles technologies comme le Google Assistant ».

Intrusion dans la vie privée ?

Si les employés n'écoutent que des parties d'enregistrements et que les noms des utilisateurs sont remplacés par des chiffres aléatoires, leur anonymat ne peut être garanti à 100%. En effet, en fonction des informations échangées au cours d'une conversation, il est possible de retrouver l'identité d'une personne. La VRT en a fait la démonstration.

Le média belge a réussi à mettre la main sur un millier de conversations partagées avec Google Assistant provenant de Belgique et des Pays-Bas. Dans certains enregistrements, des adresses ou des noms évoqués ont permis aux journalistes de retrouver l'identité des utilisateurs. Certains de ceux-ci ont pu écouter leurs enregistrements et ont reconnu leur voix.

Si les journalistes ont pu retrouver les auteurs des messages, on peut en conclure que non, l'anonymat n'est pas garanti.

Une écoute permanente de Google Assistant

Cerise sur le gâteau, il semblerait que l'enregistrement des conversations se fasse même lorsque les utilisateurs ne s'adressent pas à l'assistant personnel de Google. Au cours des écoutes du millier d'enregistrements sur lesquels la VRT a mis la main, il s'est avéré que 153 fichiers audio avaient été sauvegardés alors que les utilisateurs n'avaient pas activé leur Google Home ou application mobile.

Normalement, il faut adresser l'injonction « Ok, Google » à Google Assistant pour qu'il se réveille. Mais il semblerait que l'AI ait enregistré des conversations par « erreur ». Dès que l'AI entend des mots qui ressemblent à « Ok, Google », celle-ci se lance et enregistre. Il n'est pas rare de voir son smartphone s'allumer alors qu'on n'a pas prononcé les mots magiques.

L'un des sous-traitants interrogés par la VRT a confirmé la situation et a précisé qu'il avait déjà été témoin de conversations professionnelles contenant des informations confidentielles, mais aussi intimes. Le sous-traitant indique avoir écouté l'enregistrement d'« une femme qui était clairement dans une situation angoissante qui impliquait peut-être de la violence physique ». Or, Google n'a jamais donné de consignes claires pour gérer ce genre de situation.

Justification de la part de Google

Sur son blog, la firme de Mountain View a confirmé les révélations de la VRT concernant l'écoute de certains enregistrements par des sous-traitants, mais elle a précisé que cela ne concernait qu'une infirme partie des utilisateurs.

« Nous appliquons un large éventail de mesures de protection pour protéger la vie privée des utilisateurs tout au long du processus de révision. Les experts en langue examinent seulement environ 0,2% de tous les extraits audio. Les extraits sonores ne sont pas associés aux comptes d'utilisateur dans le cadre du processus de révision », peut-on lire sur le blog de Google.

Quant aux enregistrements réalisés par erreur, la firme assure enquêter sur le sujet afin de régler le problème.

Si vous souhaitez éviter que vos conversations ne soient étudiées, vous pouvez désactiver l'enregistrement de celles-ci, on vous explique comment faire ici. Vous pourrez également vous faire une idée de ce que Google conserve de vos interactions avec son assistant.