Des témoins de la maison Intel témoignent sur la désinformation

Des témoins experts expliquent au House Intelligence Committee la meilleure façon de lutter contre la «désinformation» en ligne avec davantage de restrictions de contenu sur les médias sociaux et la collecte de données posthumes à partir de comptes interdits.

Aujourd’hui, le Comité permanent sur le renseignement de la Chambre a tenu une rare audience publique sur le thème de la «désinformation et des théories du complot en ligne» où des témoins experts ont témoigné sur les meilleures pratiques de censure du contenu.

Vers la fin de l’audience, le président Adam Schiff a posé une question particulière dont la réponse laisse entrevoir un avenir où il y aura encore plus de censure et de plus grandes quantités de données récoltées sur les comptes de médias sociaux.

«En tant que chercheurs, en tant qu’analystes, l’une des choses les plus importantes pour nous est d’obtenir les données sur le contenu, les comptes, les pages et tout ce qui a été supprimé» – Cindy Otis

Schiff a demandé à Cindy Otis, vice-présidente d’analyse du groupe Alethea, quelles données les entreprises de médias sociaux ne partagent pas qu’elles devraient partager afin d’aider les analystes à faire leur travail.

Otis a répondu que l’accès aux données à partir de contenus déjà supprimés serait «extrêmement utile» pour effectuer des autopsies numériques afin de découvrir les stratégies, méthodes et tactiques des mouvements des médias sociaux.

«En tant que chercheurs, en tant qu’analystes, l’une des choses les plus importantes pour nous est d’obtenir les données sur le contenu, les comptes, les pages et tout ce qui a été supprimé», a déclaré Otis.

«Sur Facebook, par exemple, vous recevez une annonce chaque semaine ou toutes les deux semaines sur le contenu qui a été supprimé. Nous obtenons peut-être quelques captures d’écran. Nous obtenons peut-être un compte, peut-être un nom de page – ce genre de chose – mais c’est après que le contenu a été supprimé. «

«Ce type de données serait extrêmement utile alors que nous examinons des éléments tels que les menaces actuelles qui modifient leurs opérations, quelles nouvelles tactiques utilisent-ils, comment cela se manifeste sur la plate-forme» – Cindy Otis

Otis a ajouté: «À moins que nous ne suivions particulièrement cette menace ou que nous ne fassions partie de cette analyse pour commencer, nous ne sommes pas en mesure de revenir en arrière et d’identifier les tactiques et les procédures qui ont été utilisées par les acteurs de la menace pour mener cette campagne en premier lieu.

«Et ce type de données serait donc extrêmement utile lorsque nous examinons des éléments tels que les menaces actuelles qui modifient leurs opérations, quelles nouvelles tactiques utilisent-elles, comment cela se manifeste sur la plate-forme.

Alors qu’Otis a appelé à la collecte de données à titre posthume à partir de comptes interdits tels que les autopsies numériques, Melanie Smith, responsable de l’analyse chez Graphika Inc., a déclaré que les grandes plates-formes technologiques devraient continuer à restreindre le contenu, de sorte que des mouvements comme Qanon soient contraints à des plates-formes alternatives avec un public plus restreint. .

«La meilleure solution possible, ici, lorsque nous restreignons le contenu sur les médias sociaux grand public, c’est que Qanon se retire en marge, et ne puisse donc pas être exposé à de nouveaux publics et de nouvelles communautés qui pourraient être touchés» – Melanie Smith

Elle a fait valoir que sur les plates-formes dites alternatives, il y aurait moins de possibilités de pollinisation croisée des idées.

«La meilleure solution possible, ici, lorsque nous restreignons le contenu sur les médias sociaux grand public, c’est que Qanon se retire en marge, et ne puisse donc pas être exposé à de nouveaux publics et de nouvelles communautés qui pourraient être touchés», a témoigné Smith.

Mais cela ne s’est pas arrêté avec les grandes entreprises technologiques. Smith a déclaré au comité qu’il devrait également y avoir plus de pression sur les plates-formes alternatives pour restreindre le contenu après qu’il ait déjà été repoussé «en marge».

«Nous devons parler à davantage de plates-formes alternatives de restreindre le contenu et de faire un effort concerté dans cet espace», a déclaré Smith.

«Je pense également qu’il pourrait y avoir des changements dans l’ingénierie des plates-formes pour limiter l’exposition de nouveaux publics au renforcement algorithmique de certaines de ces idées», a-t-elle ajouté.

Si vous combinez les stratégies de Smith et d’Otis, vous obtenez plus de censure, puis une fois qu’un utilisateur ou un groupe est banni, les données sont récoltées à titre posthume pour découvrir leurs tactiques.

«Nous devons parler à davantage de plates-formes alternatives pour restreindre le contenu et faire un effort concerté dans cet espace» – Melanie Smith

Alors que les grandes entreprises de technologie purgent des milliers de comptes pour avoir diffusé des soi-disant théories du complot, les analystes pourraient avoir accès à de nombreuses données personnelles s’ils le faisaient et si les plates-formes avaient l’obligation de transmettre ces données.

Les données pourraient ensuite être utilisées pour suivre où les utilisateurs iront ensuite, et le potentiel d’abus de la vie privée est énorme, quelle que soit la bonne intention de l’idée.

Pourquoi le président du House Intelligence Committee demanderait-il aux analystes de données ce dont ils auraient besoin s’il ne réfléchissait pas déjà à un moyen d’obtenir ces données?

Si l’analyse des données récoltées à partir de comptes interdits était si «extrêmement utile», y aurait-il une incitation à interdire encore plus de comptes, afin de collecter davantage de données?

Où cela finirait-il?