Le Twitter d’Elon Musk s’appuie fortement sur l’automatisation pour modérer le contenu, supprimant certaines révisions manuelles et favorisant les restrictions de distribution plutôt que de supprimer purement et simplement certains discours, a déclaré à Reuters son nouveau responsable de la confiance et de la sécurité.
Twitter restreint également de manière plus agressive les hashtags et les résultats de recherche propices aux abus dans des domaines tels que l’exploitation des enfants, quels que soient les impacts potentiels sur les « utilisations bénignes » de ces termes, a déclaré la vice-présidente de Twitter, Trust and Product Safety, Ella Irwin.
« La plus grande chose qui a changé, c’est que l’équipe est pleinement habilitée à agir rapidement et à être aussi agressive que possible », a déclaré Irwin jeudi, dans la première interview qu’un dirigeant de Twitter a donnée depuis l’acquisition par Musk de la société de médias sociaux fin octobre.
Ses commentaires interviennent alors que les chercheurs signalent une augmentation des discours de haine sur le service de médias sociaux, après que Musk a annoncé une amnistie pour les comptes suspendus sous la direction précédente de l’entreprise qui n’avaient pas enfreint la loi ou se sont livrés à des « spams flagrants ».
La société a été confrontée à des questions pointues sur sa capacité et sa volonté de modérer les contenus préjudiciables et illégaux depuis que Musk a réduit la moitié du personnel de Twitter et lancé un ultimatum pour travailler de longues heures, ce qui a entraîné la perte de centaines d’employés supplémentaires.
Et les annonceurs, principale source de revenus de Twitter, ont fui la plate-forme en raison de préoccupations concernant la sécurité de la marque.
Vendredi, Musk a promis « un renforcement significatif de la modération des contenus et de la protection de la liberté d’expression » lors d’une rencontre avec le président français Emmanuel Macron.
Irwin a déclaré que Musk a encouragé l’équipe à moins s’inquiéter de la façon dont leurs actions affecteraient la croissance des utilisateurs ou les revenus, affirmant que la sécurité était la priorité absolue de l’entreprise. « Il insiste sur cela chaque jour, plusieurs fois par jour », a-t-elle déclaré.
L’approche de la sécurité décrite par Irwin reflète au moins en partie une accélération des changements qui étaient déjà prévus depuis l’année dernière autour de la gestion par Twitter des comportements haineux et d’autres violations de la politique, selon d’anciens employés familiers avec ce travail.
Une approche, capturée dans le mantra de l’industrie « la liberté d’expression, pas la liberté d’accès », consiste à laisser certains tweets qui violent les politiques de l’entreprise mais à les empêcher d’apparaître dans des endroits comme la chronologie de la maison et la recherche.
Twitter a depuis longtemps déployé de tels outils de « filtrage de la visibilité » autour de la désinformation et les avait déjà intégrés dans sa politique officielle de conduite haineuse avant l’acquisition de Musk. L’approche permet un discours plus libre tout en réduisant les dommages potentiels associés au contenu viral abusif.
Le nombre de tweets contenant du contenu haineux sur Twitter a fortement augmenté la semaine avant que Musk ne tweete le 23 novembre que les impressions, ou vues, de discours haineux étaient en baisse, selon le Center for Countering Digital Hate – dans un exemple de chercheurs soulignant la prévalence de ce contenu, tandis que Musk vante une réduction de la visibilité.
Les tweets contenant des mots anti-noirs cette semaine-là étaient le triple du nombre observé le mois précédant la prise de fonction de Musk, tandis que les tweets contenant une insulte gay ont augmenté de 31 %, ont déclaré les chercheurs.
« Plus de risques, bougez vite »
Irwin, qui a rejoint l’entreprise en juin et occupait auparavant des postes de sécurité dans d’autres entreprises, notamment Amazon.com et Google, a repoussé les suggestions selon lesquelles Twitter n’avait pas les ressources ou la volonté de protéger la plate-forme.
Elle a déclaré que les licenciements n’avaient pas d’impact significatif sur les employés à temps plein ou les sous-traitants travaillant dans ce que l’entreprise appelait ses divisions « Santé », y compris dans des « domaines critiques » comme la sécurité des enfants et la modération de contenu.
Deux sources proches des coupes ont déclaré que plus de 50% de l’unité d’ingénierie de la santé avait été licenciée. Irwin n’a pas immédiatement répondu à une demande de commentaire sur l’affirmation, mais a précédemment nié que l’équipe de santé ait été gravement touchée par les licenciements.
Elle a ajouté que le nombre de personnes travaillant sur la sécurité des enfants n’avait pas changé depuis l’acquisition et que le chef de produit de l’équipe était toujours là. Irwin a déclaré que Twitter avait remplacé certains postes pour les personnes qui avaient quitté l’entreprise, bien qu’elle ait refusé de fournir des chiffres précis sur l’ampleur du chiffre d’affaires.
Elle a déclaré que Musk se concentrait sur l’utilisation accrue de l’automatisation, arguant que l’entreprise avait par le passé fait erreur en utilisant des examens humains chronophages et laborieux des contenus préjudiciables.
« Il a encouragé l’équipe à prendre plus de risques, à aller vite, à sécuriser la plate-forme », a-t-elle déclaré.
En ce qui concerne la sécurité des enfants, par exemple, Irwin a déclaré que Twitter était passé à la suppression automatique des tweets signalés par des personnalités de confiance ayant fait leurs preuves en signalant avec précision les publications nuisibles.
Carolina Christofoletti, chercheuse en renseignement sur les menaces chez TRM Labs, spécialisée dans le matériel d’abus sexuels sur des enfants, a déclaré qu’elle avait récemment remarqué que Twitter supprimait du contenu aussi vite que 30 secondes après l’avoir signalé, sans accuser réception de son rapport ni confirmation de sa décision.
Dans l’interview de jeudi, Irwin a déclaré que Twitter avait supprimé environ 44 000 comptes impliqués dans des violations de la sécurité des enfants, en collaboration avec le groupe de cybersécurité Ghost Data.
Twitter restreint également les hashtags et les résultats de recherche fréquemment associés à des abus, comme ceux visant à rechercher de la pornographie « adolescente ». Les inquiétudes passées concernant l’impact de ces restrictions sur les utilisations autorisées des termes ont disparu, a-t-elle déclaré.
L’utilisation de « journalistes de confiance » était « quelque chose dont nous avons discuté dans le passé sur Twitter, mais il y avait une certaine hésitation et franchement juste un peu de retard », a déclaré Irwin.
« Je pense que nous avons maintenant la capacité d’aller de l’avant avec des choses comme ça », a-t-elle déclaré.
© Thomson Reuters 2022
Discussion about this post