Assistants vocaux: Les 4 scandales survenus en 2019

2019 a été une année phare à bien des égards pour la technologie vocale et les assistants vocaux. L’étendue et la portée de l’industrie se sont développées dans de nouvelles formes et verticales à un rythme qui semble toujours croissant. Les succès, cependant, ne sont pas arrivés sans difficultés. Les entreprises à l’origine de ces triomphes ont trébuché plus d’une fois au cours des 12 derniers mois.

Nous voulions lister dans cet article les 4 plus importantes controverses rencontrées dans le domaine du vocal en 2019, tant pour la façon dont elles ont façonné le paysage que pour ce qu’elles peuvent laisser présager pour l’année à venir.

L’écoute de vos conversations privées

La question de savoir qui écoute les enregistrements des assistants vocaux et ce qu’ils entendent est l’une des controverses les plus anciennes auxquelles les développeurs d’assistants vocaux ont été confrontés cette année. En avril, des rapports ont été publiés sur le fait qu’Amazon partageait des enregistrements d’Alexa avec des entrepreneurs dans le cadre de son programme de contrôle et d’amélioration de la qualité. Le problème était que beaucoup d’utilisateurs n’étaient pas au courant.

En plus de cela, des réveils accidentels signifiaient que l’assistant vocal enregistrait parfois des informations privées qu’il n’était pas censé entendre. Des révélations similaires en juillet sur l’assistant Google ont suivi, tout comme celles sur le Siri d’Apple, l’assistant vocal Cortana de Microsoft et l’assistant Clova de Naver. Depuis lors, la plupart des entreprises ont au moins mis en pause leurs programmes de sous-traitance et ont révisé leur mode de fonctionnement sous une forme ou une autre. Mais, si les nouvelles conditions de service et les ajustements dans le fonctionnement des programmes de contrôle de la qualité peuvent améliorer la transparence globale des assistants vocaux, ils ne signifient pas nécessairement que les gens leur feront à nouveau confiance. La protection de la vie privée est souvent citée comme étant importante pour les utilisateurs actuels et futurs des assistants vocaux, de sorte que ces histoires peuvent s’attarder et causer des problèmes aux fabricants d’assistants vocaux à l’avenir.

Une sécurité vulnérable

Lorsque Security Research Labs (SR Labs) a fait part à Amazon et Google de certaines vulnérabilités de sécurité dans les Skills d’Alexa et Google Actions au cours de l’été, les deux entreprises ont pris des mesures pour corriger le problème. Pour une raison quelconque, cela a conduit à la suppression de milliers d’Actions dans le monde entier pendant plusieurs jours. La disparition, qui s’est produite sans avertissement ni explication, a provoqué une fureur dans la communauté des développeurs.

Alors que la raison était d’améliorer la sécurité, les circonstances ont conduit à beaucoup de critiques négatives envers Google, d’autant plus qu’Alexa a clos les problèmes de sécurité sans qu’il y ait un problème apparent correspondant. La sécurité des assistants vocaux est une réelle préoccupation, mais la démocratisation réussie des assistants vocaux signifie que des problèmes comme celui-ci sont plus importants qu’auparavant, et la façon dont ils sont traités importe davantage.

Amazon poursuivi pour atteinte à la vie privée des enfants

Les débats sur la vie privée et les assistants vocaux se sont déplacés dans la salle d’audience cette année, lorsque Amazon s’est retrouvé confrontée à deux poursuites de parents alléguant qu’Alexa violait la vie privée de leurs enfants. Les poursuites intentées en Californie et dans l’État de Washington font valoir que les enregistrements effectués par Alexa sont faits sans le consentement des parents et violent donc les lois sur la protection de la vie privée. Amazon n’a commencé à proposer du contenu Alexa destiné aux enfants qu’après que la FTC eut mis à jour la loi sur la protection de la vie privée des enfants en ligne (COPPA) en 2017, mais les poursuites allèguent que les enregistrements conservés par Amazon ne sont pas consentis par les parents. Les deux procès ont été intentés au moment où Amazon lançait sa nouvelle édition d’Echo Dot Kids.

Google Duplex et sa fausse IA

Google a misé très gros sur sa nouvelle fonctionnalité Duplex à la fin de l’année dernière, l’étendant à 43 états américains en mars. Google Duplex est censé utiliser une IA vocale pour appeler et faire des réservations ou poser des questions aux entreprises au nom de l’utilisateur.

Il s’avère qu’il y avait souvent des humains qui faisaient l’appel, comme on l’a vu en mai de cette année. Le fait que Google ne pouvait pas faire confiance à l’IA de Duplex pour traiter tous les appels était déjà un aveu d’échec, mais le fait de cacher que des humains prenaient en charge la fonction a donné à l’entreprise une apparence de duplicité. Une fois de plus, l’erreur portait sur la confiance et la transparence, et sur le fait que l’absence de l’une ou l’autre de ces qualités donne une mauvaise image des développeurs d’assistants vocaux.