De nouveaux outils de clonage de voix IA ont le potentiel de diffuser de fausses informations sur les réseaux sociaux

<p> &lbrack;ad&lowbar;1&rsqb;<br &sol;>&NewLine;<&sol;p>&NewLine;<div>&NewLine;<p>Dans une vidéo d&rsquo&semi;un reportage du 25 janvier&comma; le président Joe Biden parle de chars&period; Mais une version trafiquée de la vidéo a amassé des centaines de milliers de vues cette semaine sur les réseaux sociaux&comma; ce qui donne l&rsquo&semi;impression qu&rsquo&semi;il a prononcé un discours qui attaque les personnes transgenres&period;<&sol;p>&NewLine;<p>Les experts en criminalistique numérique affirment que la vidéo a été créée à l&rsquo&semi;aide d&rsquo&semi;une nouvelle génération d&rsquo&semi;outils d&rsquo&semi;intelligence artificielle&comma; qui permettent à quiconque de générer rapidement un son simulant la voix d&rsquo&semi;une personne en quelques clics sur un bouton&period; Et tandis que le <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&sol;gadgets360&period;com&sol;tags&sol;biden" target&equals;"&lowbar;blank">Biden<&sol;a> clip sur les réseaux sociaux n&rsquo&semi;a peut-être pas réussi à tromper la plupart des utilisateurs cette fois&comma; le clip montre à quel point il est désormais facile pour les gens de générer des vidéos « deepfake » haineuses et remplies de désinformation qui pourraient faire du mal dans le monde réel&period;<&sol;p>&NewLine;<p>« Des outils comme celui-ci vont essentiellement ajouter plus de carburant au feu »&comma; a déclaré Hafiz Malik&comma; professeur de génie électrique et informatique à l&rsquo&semi;Université du Michigan&comma; qui se concentre sur la criminalistique multimédia&period; « Le monstre est déjà en liberté&period; »<&sol;p>&NewLine;<p>Il est arrivé le mois dernier avec la phase bêta de la plate-forme de synthèse vocale d&rsquo&semi;ElevenLabs&comma; qui permettait aux utilisateurs de générer un son réaliste de la voix de n&rsquo&semi;importe quelle personne en téléchargeant quelques minutes d&rsquo&semi;échantillons audio et en tapant n&rsquo&semi;importe quel texte à dire&period;<&sol;p>&NewLine;<p>La startup affirme que la technologie a été développée pour dupliquer l&rsquo&semi;audio dans différentes langues pour les films&comma; les livres audio et les jeux afin de préserver la voix et les émotions de l&rsquo&semi;orateur&period;<&sol;p>&NewLine;<p>Les utilisateurs des médias sociaux ont rapidement commencé à partager un échantillon audio généré par l&rsquo&semi;IA d&rsquo&semi;Hillary Clinton lisant le même texte transphobe présenté dans le clip de Biden&comma; ainsi que de faux clips audio de <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&sol;gadgets360&period;com&sol;tags&sol;bill-gates" target&equals;"&lowbar;blank">Bill Gates<&sol;a> soi-disant disant que le vaccin COVID-19 cause le SIDA et l&rsquo&semi;actrice Emma Watson aurait lu le manifeste d&rsquo&semi;Hitler « Mein Kampf »&period;<&sol;p>&NewLine;<p>Peu de temps après&comma; ElevenLabs a tweeté qu&rsquo&semi;il voyait « un nombre croissant de cas d&rsquo&semi;utilisation abusive du clonage de la voix » et a annoncé qu&rsquo&semi;il explorait maintenant des garanties pour lutter contre les abus&period; L&rsquo&semi;une des premières étapes a consisté à rendre la fonctionnalité disponible uniquement pour ceux qui fournissent des informations de paiement&period; Au départ&comma; les utilisateurs anonymes pouvaient accéder gratuitement à l&rsquo&semi;outil de clonage vocal&period; La société affirme également qu&rsquo&semi;en cas de problème&comma; elle peut retracer tout son généré jusqu&rsquo&semi;au créateur&period;<&sol;p>&NewLine;<p>Mais même la capacité de suivre les créateurs n&rsquo&semi;atténuera pas les dommages de l&rsquo&semi;outil&comma; a déclaré Hany Farid&comma; professeur à l&rsquo&semi;Université de Californie à Berkeley&comma; qui se concentre sur la criminalistique numérique et la désinformation&period;<&sol;p>&NewLine;<p>« Le mal est fait »&comma; a-t-il dit&period;<&sol;p>&NewLine;<p>À titre d&rsquo&semi;exemple&comma; Farid a déclaré que de mauvais acteurs pourraient faire bouger le marché boursier avec un faux son d&rsquo&semi;un PDG de premier plan disant que les bénéfices sont en baisse&period; Et déjà il y a un clip dessus <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&sol;gadgets360&period;com&sol;tags&sol;youtube" target&equals;"&lowbar;blank">Youtube<&sol;a> qui a utilisé l&rsquo&semi;outil pour modifier une vidéo afin de la faire apparaître&period; Biden a déclaré que les États-Unis lançaient une attaque nucléaire contre la Russie&period;<&sol;p>&NewLine;<p>Des logiciels gratuits et open-source avec les mêmes capacités ont également émergé en ligne&comma; ce qui signifie que les paywalls sur les outils commerciaux ne sont pas un obstacle&period; À l&rsquo&semi;aide d&rsquo&semi;un modèle en ligne gratuit&comma; l&rsquo&semi;AP a généré des échantillons audio pour ressembler aux acteurs Daniel Craig et Jennifer Lawrence en quelques minutes seulement&period;<&sol;p>&NewLine;<p>« La question est de savoir où pointer du doigt et comment remettre le génie dans la bouteille &quest; » dit Malik&period; « Nous ne pouvons pas le faire&period; »<&sol;p>&NewLine;<p>Lorsque les deepfakes ont fait la une des journaux il y a environ cinq ans&comma; ils étaient assez faciles à détecter car le sujet ne clignait pas des yeux et le son semblait robotique&period; Ce n&rsquo&semi;est plus le cas à mesure que les outils deviennent plus sophistiqués&period;<&sol;p>&NewLine;<p>La vidéo modifiée de Biden faisant des commentaires désobligeants sur les personnes transgenres&comma; par exemple&comma; combinait l&rsquo&semi;audio généré par l&rsquo&semi;IA avec un véritable clip du président&comma; extrait d&rsquo&semi;une émission en direct de CNN le 25 janvier annonçant l&rsquo&semi;envoi américain de chars en Ukraine&period; La bouche de Biden a été manipulée dans la vidéo pour correspondre à l&rsquo&semi;audio&period; Alors que la plupart des utilisateurs de Twitter ont reconnu que le contenu n&rsquo&semi;était pas quelque chose que Biden était susceptible de dire&comma; ils ont néanmoins été choqués de voir à quel point il semblait réaliste&period; D&rsquo&semi;autres semblaient croire que c&rsquo&semi;était réel – ou du moins ne savaient pas quoi croire&period;<&sol;p>&NewLine;<p>Les studios hollywoodiens ont longtemps été capables de déformer la réalité&comma; mais l&rsquo&semi;accès à cette technologie s&rsquo&semi;est démocratisé sans tenir compte des implications&comma; a déclaré Farid&period;<&sol;p>&NewLine;<p>« C&rsquo&semi;est une combinaison de la technologie basée sur l&rsquo&semi;IA très&comma; très puissante&comma; de la facilité d&rsquo&semi;utilisation&comma; et du fait que le modèle semble l&rsquo&semi;être &colon; mettons-le sur Internet et voyons ce qui se passera ensuite »&comma; a déclaré Farid&period;<&sol;p>&NewLine;<p>L&rsquo&semi;audio n&rsquo&semi;est qu&rsquo&semi;un domaine où la désinformation générée par l&rsquo&semi;IA constitue une menace&period;<&sol;p>&NewLine;<p>Générateurs d&rsquo&semi;images AI en ligne gratuits comme <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&sol;gadgets360&period;com&sol;tags&sol;midjourney" target&equals;"&lowbar;blank">À mi-parcours<&sol;a> et <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&sol;gadgets360&period;com&sol;tags&sol;dall-e" target&equals;"&lowbar;blank">DALLE<&sol;a> peut produire des images photoréalistes de la guerre et des catastrophes naturelles dans le style des médias traditionnels avec une simple invite de texte&period; Le mois dernier&comma; certains districts scolaires aux États-Unis ont commencé à bloquer <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&sol;gadgets360&period;com&sol;tags&sol;chatgpt" target&equals;"&lowbar;blank">ChatGPT<&sol;a>qui peut produire du texte lisible &&num;8211&semi; comme des dissertations d&rsquo&semi;étudiants &&num;8211&semi; à la demande&period;<&sol;p>&NewLine;<p>ElevenLabs n&rsquo&semi;a pas répondu à une demande de commentaire&period;<&sol;p>&NewLine;<hr &sol;>&NewLine;<div class&equals;"downloadtxt"><i>Des liens d&rsquo&semi;affiliation peuvent être générés automatiquement &&num;8211&semi; consultez notre déclaration d&rsquo&semi;éthique pour plus de détails&period;<&sol;i><&sol;div>&NewLine;<&sol;div>&NewLine;<p>&lbrack;ad&lowbar;2&rsqb;<br &sol;>&NewLine;<br &sol;><a href&equals;"https&colon;&sol;&sol;www&period;gadgets360&period;com&sol;internet&sol;features&sol;new-ai-voice-cloning-tools-potential-spread-misinformation-social-media-3773007&num;rss-gadgets-all">Source link <&sol;a><&sol;p>&NewLine;