Hey Siri : les assistants virtuels écoutent les enfants et utilisent les données

Dans de nombreux ménages occupés à travers le monde, il n’est pas rare que les enfants crient des directives à Siri d’Apple ou à Alexa d’Amazon. Ils peuvent faire un jeu en demandant à l’assistant personnel activé par la voix (VAPA) quelle heure il est ou en demandant une chanson populaire. Bien que cela puisse sembler être une partie banale de la vie domestique, il se passe beaucoup plus. Les VAPA écoutent, enregistrent et traitent en permanence les événements acoustiques dans un processus qui a été surnommé « écoute clandestine », un portemanteau d’écoute clandestine et d’exploration de données. Cela soulève des inquiétudes importantes concernant les questions de confidentialité et de surveillance, ainsi que la discrimination, car les traces sonores de la vie des gens deviennent datafiées et scrutées par des algorithmes.

Ces préoccupations s’intensifient à mesure que nous les appliquons aux enfants. Leurs données sont accumulées tout au long de leur vie d’une manière qui va bien au-delà de ce qui a jamais été collecté sur leurs parents, avec des conséquences considérables que nous n’avons même pas commencé à comprendre.

toujours à l’écoute

L’adoption des VAPA se poursuit à un rythme effréné car elle s’étend aux téléphones portables, aux haut-parleurs intelligents et aux produits de plus en plus nombreux qui sont connectés à Internet. Ceux-ci incluent des jouets numériques pour enfants, des systèmes de sécurité à domicile qui écoutent les cambriolages et des sonnettes intelligentes qui peuvent capter les conversations sur le trottoir.

Il existe des problèmes urgents qui découlent de la collecte, du stockage et de l’analyse des données sonores en ce qui concerne les parents, les jeunes et les enfants. Des alarmes ont été déclenchées dans le passé – en 2014, les défenseurs de la vie privée ont exprimé des inquiétudes quant à la quantité d’écoute d’Amazon Echo, aux données collectées et à la manière dont les données seraient utilisées par les moteurs de recommandation d’Amazon.

Et pourtant, malgré ces inquiétudes, les VAPA et autres systèmes d’écoute clandestine se sont propagés de façon exponentielle. Des études de marché récentes prédisent que d’ici 2024, le nombre d’appareils à commande vocale explosera pour atteindre plus de 8,4 milliards.

Enregistrer plus qu’un simple discours

Il y a plus que de simples déclarations prononcées, car les VAPA et autres systèmes d’écoute clandestine surprennent les caractéristiques personnelles des voix qui révèlent involontairement des attributs biométriques et comportementaux tels que l’âge, le sexe, la santé, l’intoxication et la personnalité.

Des informations sur les environnements acoustiques (comme un appartement bruyant) ou des événements sonores particuliers (comme le bris de verre) peuvent également être glanées grâce à une « analyse de scène auditive » pour porter des jugements sur ce qui se passe dans cet environnement.

Les systèmes d’écoute clandestine ont déjà une expérience récente en matière de collaboration avec les forces de l’ordre et d’assignation à comparaître pour des données dans le cadre d’enquêtes criminelles. Cela soulève des inquiétudes quant à d’autres formes de surveillance rampante et de profilage des enfants et des familles.

Par exemple, les données des haut-parleurs intelligents peuvent être utilisées pour créer des profils tels que « ménages bruyants », « styles parentaux disciplinaires » ou « jeunes en difficulté ». Cela pourrait, à l’avenir, être utilisé par les gouvernements pour dresser le profil de ceux qui se connectent à l’aide sociale ou des familles en crise avec des conséquences potentiellement désastreuses.

Il existe également de nouveaux systèmes d’écoute clandestine présentés comme une solution pour assurer la sécurité des enfants appelés « détecteurs d’agression ». Ces technologies consistent en des systèmes de microphone chargés de logiciels d’apprentissage automatique, affirmant de manière douteuse qu’ils peuvent aider à anticiper les incidents de violence en écoutant les signes d’augmentation du volume et des émotions dans les voix, et d’autres sons tels que le bris de verre.

Surveillance des écoles

Les détecteurs d’agression sont annoncés dans les magazines de sécurité scolaire et lors des conventions d’application de la loi. Ils ont été déployés dans des espaces publics, des hôpitaux et des lycées sous prétexte de pouvoir anticiper et détecter des fusillades de masse et d’autres cas de violence mortelle.

Mais l’efficacité et la fiabilité de ces systèmes posent de sérieux problèmes. Une marque de détecteur a mal interprété à plusieurs reprises les signaux vocaux des enfants, notamment la toux, les cris et les acclamations, comme indicateurs d’agressivité. Cela soulève la question de savoir qui est protégé et qui sera rendu moins sûr par sa conception.

Certains enfants et jeunes subiront un préjudice disproportionné par cette forme d’écoute sécurisée, et les intérêts de toutes les familles ne seront pas uniformément protégés ou servis. Une critique récurrente de la technologie activée par la voix est qu’elle reproduit les préjugés culturels et raciaux en appliquant des normes vocales et en méconnaissant les formes de discours culturellement diverses en ce qui concerne la langue, l’accent, le dialecte et l’argot.

Nous pouvons prévoir que le discours et les voix des enfants et des jeunes racialisés seront interprétés de manière disproportionnée comme des sons agressifs. Cette prédiction troublante ne devrait pas surprendre car elle suit les histoires profondément ancrées de la suprématie coloniale et blanche qui contrôlent constamment une «ligne de couleur sonore». Politique saine Eavesmining est un site riche d’informations et de surveillance car les activités sonores des enfants et des familles sont devenues de précieuses sources de données à collecter, surveiller, stocker, analyser et vendre à l’insu du sujet à des milliers de tiers. Ces entreprises sont axées sur le profit, avec peu d’obligations éthiques envers les enfants et leurs données.

En l’absence d’obligation légale d’effacer ces données, les données s’accumulent au cours de la vie des enfants, pouvant durer éternellement. On ne sait pas combien de temps et jusqu’où ces traces numériques suivront les enfants à mesure qu’ils vieillissent, à quel point ces données seront partagées ou dans quelle mesure ces données seront recoupées avec d’autres données. Ces questions ont de sérieuses implications sur la vie des enfants à la fois actuellement et à mesure qu’ils vieillissent.

Il existe une myriade de menaces posées par l’écoute clandestine en termes de vie privée, de surveillance et de discrimination. Des recommandations individualisées, telles que l’éducation à la confidentialité des informations et la formation à la littératie numérique, seront inefficaces pour résoudre ces problèmes et placeront une trop grande responsabilité sur les familles pour développer les compétences nécessaires pour contrer l’écoute clandestine dans les espaces publics et privés.

Nous devons envisager l’avancement d’un cadre collectif qui combat les risques et les réalités uniques de l’écoute clandestine. Peut-être que le développement de principes de pratique d’écoute équitable – une version auditive des «principes de pratique d’information équitable» – aiderait à évaluer les plates-formes et les processus qui ont un impact sur la vie sonore des enfants et des familles.