Des humains peuvent écouter ce que vous dites à Alexa. Faut-il s’inquiéter?

Beaucoup de gens sont inquiets à l’idée d’avoir un assistant vocal qui écoute en permanence leurs conversations. Un article de Bloomberg comme quoi des employés d’Amazon écoutaient les conversations qu’on avait avec Alexa (l’assistant vocal des appareils Echo) ne va pas les rassurer!

Somme-nous vraiment espionnés? Avant de s’inquiéter ou de le débrancher, ça vaut la peine d’en savoir un peu plus.

Ce billet est un complément de ma chronique à l’émission Les éclaireurs du 17 avril 2019. Vous pouvez l’écouter en suivant ce lien.

Si la plupart des gens sont maintenant à l’aise avec l’idée qu’une machine anonyme puisse analyser le contenu de ses messages – ce que fait Google pour vous aider à compléter automatiquement vos phrases, mais aussi proposer de la publicité ciblée, on peut être surpris que des humains écoutent nos échanges avec notre assistant personnel pour améliorer la qualité de la reconnaissance vocale…

Ce qu’on apprend dans l’article de Bloomberg

• Des milliers d’employés d’Amazon écoutent les extraits audios captés par Alexa, l’assistant vocal utilisé dans les appareils Echo (mais aussi d’autres appareils comme des téléviseurs), avec qui on peut depuis peu parler en français au Québec. Contrairement à ce qu’on pourrait imaginer, l’apprentissage machine ne suffit pas!
• Si les extraits sont transcrits et analysés par des humains, c’est pour améliorer la compréhension et valider les réponses aux commandes. Les humains peuvent mieux qu’une machine reconnaître ce qui a été dit et son sens, même avec des bruits de fond, si la prononciation n’est pas super claire, si le volume est trop bas ou trop faible. Par exemple, si quelqu’un réclame « Taylor Swift », c’est probablement pour écouter l’artiste Taylor Swift, pas pour avoir les coordonnées d’un tailleur (… tailor en anglais) qui s’appelle Swift!
• Les employés et contractuels d’Amazon peuvent écouter jusqu’à 1000 enregistrements par quart de travail!
• Les employés n’ont pas accès aux informations personnelles, mais peuvent quand même voir le numéro de compte et le prénom de son propriétaire.
• Les extraits soumis aux employés sont aléatoires, et ne représentent qu’un minuscule échantillon des interactions. L’écoute par des humains n’est pas systématique, et – jusqu’à preuve du contraire – on n’écoute pas les d’individus ciblés.
• Les employés peuvent entendre des drôles de choses (quelqu’un qui fausse dans la douche); ils en discutent même dans un forum. Ça peut être simplement des mots incompréhensibles, mais aussi des appels à l’aide, ce qui est plus troublant. Ces messages seraient « escaladés » à des supérieurs… Même si des employés rapportent que ça s’arrêtait là.
• Des procédures de sécurité seraient en place pour que les extraits ne puissent être partagés à l’extérieur de l’entreprise. Si un employé entend des informations sensibles, il doit le signaler et passer au prochain extrait.
• Les employés seraient basés aux États-Unis, en Inde, au Costa Rica et en Roumanie – donc pas à côté. (On peut toutefois imaginer que le service étant déployé en France et en version canadienne-française, qu’il y a peut-être une équipe francophone qui écoute les conversations quelque part?)
• Google, Microsoft et Apple emploient aussi des humains pour améliorer la reconnaissance vocale de leurs assistants respectifs. Là aussi, les employés n’ont pas directement accès aux informations personnelles. Chez Google, le son est même brouillé.

Que faire pour diminuer les risques?

On peut limiter les chances d’être écoutés par des humains à son insu.

L’utilisation des assistants vocaux ne va pas diminuer. Desjardins permet depuis peu d’utiliser l’Assistant Google pour avoir le solde de son compte, des informations qui pourraient être intéressantes pour des employés malhonnêtes (même si on ne peut pas faire de transactions)!

• Dans l’application Amazon Alexa, on peut désactiver l’utilisation des enregistrements vocaux pour aider à concevoir de nouvelles fonctionnalités et améliorer la reconnaissance, mais l’option est plutôt bien cachée. Il faut aller dansParamètres -> Compte Alexa -> Alexa et vos informations personnelles -> Gérer la façon dont vos données aident à améliorer Alexa.
• Dans l’application des assistants personnels, (Amazon Alexa, Google Home) on peut aussi voir la liste des commandes vocales captées par son assistant dans la section « Activité ». On peut effacer les extraits… Ou l’application elle-même
• Les assistants vocaux ont un interrupteur pour couper les micros. Dans les appareils Echo, l’appareil aura un anneau rouge très visible pour indiquer qu’il ne peut pas nous entendre (même s’il pourra toujours diffuser de la musique, par exemple): cet interrupteur coupe l’alimentation électrique des micros. On peut prendre l’habitude de désactiver le micro par défaut.
• Oui, les micros écoutent en permanence, mais le système ne s’active qu’après avoir entendu le mot d’activation de l’assistant (Dis Siri, Ok Google, Alexa, Hé Cortana…), mais aussi quand l’assistant croit avoir entendu son mot d’activation. Jusqu’à 10% des extraits viendraient d’activations par erreur! En français, la phrase « avec sa » – peut démarrer son assistant par mégarde. Heureusement, ce mot d’activation peut être changé dans les paramètres de l’application.
• Il faudra bien y penser avant d’utiliser un assistant vocal dans les endroits sensibles. On pense aux bureaux d’avocats ou de médecin, mais ça peut aussi être dans la chambre à coucher!

Des oreilles (et des yeux!) partout

Il ne faut pas oublier qu’il est possible de transformer son téléphone en assistant personnel avec Google Home ou Siri. Que beaucoup de téléviseurs et de jouets ont des commandes vocales pour nous faciliter la vie.

Dans un futur proche, les assistants vocaux pourraient même faire partie de réunions d’affaires – pour prendre des notes et ajouter automatiquement des tâches dans son agenda!

Ça vaut la peine d’apprendre comment désactiver les fonctions si cela nous préoccupe. À la limite, en couper complètement le micro et en cacher la caméra!

L’avantage de faire affaire avec de grandes entreprises, c’est que des mises à jour sont faites régulièrement pour améliorer la sécurité de nos produits. En tant que consommateur, il faudra y penser en achetant un nouvel appareil. Il n’y a pas que le prix et la qualité d’un produit à considérer, mais aussi sa sécurité informatique. Quelque chose d’intangible, mais qui en vaut la peine!

Et ça vaut aussi pour les vidéos… Les images des sonnettes Ring (propriété d’Amazon) sont aussi vérifiées par des humains pour améliorer la reconnaissance d’images, et ainsi mieux détecter les véhicules et les personnes…

P.

• Des employés d’Amazon écoutent des enregistrements d’Alexa (ICI Radio-Canada)
• Amazon Workers Are Listening to What You Tell Alexa (Bloomberg)
• Get Ready: Voice Assistants Are Coming to Your Conference Room (PC Mag)
• Amazon écoute-t-il vraiment nos discussions grâce à l’enceinte Alexa ?