Le déploiement « troublant » de l’IA expose ses défauts. À quel point devrions-nous être concernés ?

<p> &lbrack;ad&lowbar;1&rsqb;<br &sol;>&NewLine;<br &sol;><img alt&equals;"Le déploiement « troublant » de l'IA expose ses défauts&period; À quel point devrions-nous être concernés &quest;" src&equals;"https&colon;&sol;&sol;thebuzzly&period;com&sol;wp-content&sol;uploads&sol;2023&sol;04&sol;Le-deploiement-troublant-de-lIA-expose-ses-defauts&period;jpg" &sol;><&sol;p>&NewLine;<div itemprop&equals;"articleBody" id&equals;"article-body">&NewLine;<p>Le PDG de Google et Alphabet avertit que la société doit agir rapidement pour s&rsquo&semi;adapter à l&rsquo&semi;expansion rapide de l&rsquo&semi;intelligence artificielle &lpar;IA&rpar;&period; <&sol;p>&NewLine;<p>« Cela va avoir un impact sur tous les produits de toutes les entreprises »&comma; a déclaré Sundar Pichai le 16 avril&period; <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&period;cnbc&period;com&sol;2023&sol;04&sol;17&sol;google-ceo-sundar-pichai-warns-society-to-brace-for-impact-of-ai-acceleration&period;html" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;www&period;cnbc&period;com&sol;2023&sol;04&sol;17&sol;google-ceo-sundar-pichai-warns-society-to-brace-for-impact-of-ai-acceleration&period;html"><u>dans une interview à « 60 Minutes<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span>&period;  » Le mois dernier&comma; Google a sorti son chatbot&comma; Bard &&num;8211&semi; un concurrent de ChatGPT&comma; le chatbot largement connu produit par OpenAI &&num;8211&semi; malgré des critiques cinglantes lors de tests internes&comma; selon <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;futurism&period;com&sol;the-byte&sol;google-staff-warned-ai-pathological-liar" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;futurism&period;com&sol;the-byte&sol;google-staff-warned-ai-pathological-liar"><u>L&rsquo&semi;octet<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span>&period; <&sol;p>&NewLine;<aside class&equals;"hawk-nest" data-render-type&equals;"fte" data-skip&equals;"dealsy" data-widget-type&equals;"seasonal"&sol;>&NewLine;<p>Des programmes comme ChatGPT et Bard peuvent produire un texte de confiance en réponse aux requêtes des utilisateurs&comma; et ils trouvent déjà un pied dans certaines tâches&comma; telles que le codage&comma; a déclaré <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;cs&period;nyu&period;edu&sol;~davise&sol;" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;cs&period;nyu&period;edu&sol;~davise&sol;"><u>Ernest Davis<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span>&comma; informaticien à l&rsquo&semi;université de New York&period; Cependant&comma; ils oublient souvent les faits de base et « hallucinent »&comma; ce qui signifie qu&rsquo&semi;ils inventent des informations&period; Dans un exemple récent&comma; ChatGPT <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&period;washingtonpost&period;com&sol;technology&sol;2023&sol;04&sol;05&sol;chatgpt-lies&sol;" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;www&period;washingtonpost&period;com&sol;technology&sol;2023&sol;04&sol;05&sol;chatgpt-lies&sol;"><u>inventé un scandale de harcèlement sexuel<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span> et a nommé un vrai professeur de droit comme auteur&comma; avec des citations d&rsquo&semi;articles de journaux inexistants sur l&rsquo&semi;affaire&period; <&sol;p>&NewLine;<p>La puissance de ces programmes&comma; combinée à leurs imperfections&comma; inquiète les experts quant au déploiement rapide de l&rsquo&semi;IA&period; Alors qu&rsquo&semi;une situation « Terminator » Skynet est encore loin&comma; les programmes d&rsquo&semi;IA ont la capacité d&rsquo&semi;amplifier les préjugés humains&comma; de rendre plus difficile la distinction des informations vraies des fausses et de perturber l&&num;8217&semi;emploi&comma; ont déclaré des experts à Live Science&period; <&sol;p>&NewLine;<p><strong>En rapport&colon; <&sol;strong><u><strong>DeepMind AI a découvert la structure de presque toutes les protéines connues de la science<&sol;strong><&sol;u> <&sol;p>&NewLine;<h2 id&equals;"benefit-or-bias-3">Bénéfice ou biais &quest;<&sol;h2>&NewLine;<p>Au cours de la discussion « 60 minutes »&comma; l&rsquo&semi;intervieweur Scott Pelley a qualifié les capacités du chatbot Bard de « dérangeantes » et a déclaré que « Bard semble réfléchir »&period; <&sol;p>&NewLine;<p>Cependant&comma; les grands modèles de langage tels que Bard ne sont pas sensibles&comma; a déclaré <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;thebulletin&period;org&sol;biography&sol;sara-goudarzi&sol;" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;thebulletin&period;org&sol;biography&sol;sara-goudarzi&sol;"><u>Sara Goudarzi<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span>&comma; rédacteur en chef adjoint des technologies de rupture pour le Bulletin of the Atomic Scientists&period; « Je pense que cela doit vraiment être clair »&comma; a déclaré Goudarzi&period; <&sol;p>&NewLine;<p>Ces chatbots IA produisent une écriture à consonance humaine en faisant des inférences statistiques sur les mots susceptibles de venir ensuite dans une phrase&comma; après avoir été formés sur d&rsquo&semi;énormes quantités de texte préexistant&period; Cette méthode signifie que même si l&rsquo&semi;IA peut sembler sûre de tout ce qu&rsquo&semi;elle dit&comma; elle ne le comprend pas vraiment&comma; a déclaré <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;dsba&period;charlotte&period;edu&sol;damien-williams" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;dsba&period;charlotte&period;edu&sol;damien-williams"><u>Damien Williams<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span>professeur adjoint à la School of Data Science de l&rsquo&semi;Université de Caroline du Nord qui étudie la technologie et la société&period; <&sol;p>&NewLine;<p>Ces chatbots IA « n&rsquo&semi;essaient pas de vous donner les bonnes réponses&comma; ils essaient de vous donner une réponse que vous aimez »&comma; a déclaré Williams à Live Science&period; Il a donné un exemple d&rsquo&semi;un panel récent sur l&rsquo&semi;IA auquel il a participé &colon; le conférencier introductif a demandé à ChatGPT de produire une biographie pour <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&period;ed&period;ac&period;uk&sol;profile&sol;shannon-vallor" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;www&period;ed&period;ac&period;uk&sol;profile&sol;shannon-vallor"><u>Shannon Vallor<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span>une éthicienne de l&rsquo&semi;IA à l&rsquo&semi;Université d&rsquo&semi;Édimbourg au Royaume-Uni&period; Le programme a tenté de donner à Vallor une formation plus prestigieuse qu&rsquo&semi;elle n&rsquo&semi;en avait réellement&comma; car il n&rsquo&semi;était tout simplement pas statistiquement probable qu&rsquo&semi;une personne de sa stature dans le domaine aille dans un collège communautaire et un public université&period; <&sol;p>&NewLine;<p>Il est facile pour l&rsquo&semi;IA non seulement de copier mais d&rsquo&semi;amplifier les biais humains qui existent dans les données d&rsquo&semi;entraînement&period; Par exemple&comma; en 2018&comma; Amazon a abandonné un outil de tri de CV basé sur l&rsquo&semi;IA qui montrait des préjugés persistants contre les femmes&period; L&rsquo&semi;IA a classé les résumés avec des noms à consonance féminine comme moins qualifiés que ceux avec des noms à consonance masculine&comma; a déclaré Williams&period;<&sol;p>&NewLine;<p>« C&rsquo&semi;est parce que les données sur lesquelles il avait été formé étaient le tri sommaire des êtres humains »&comma; a déclaré Williams&period; <&sol;p>&NewLine;<p>Les programmes d&rsquo&semi;IA comme ChatGPT sont programmés pour essayer d&rsquo&semi;éviter les réponses racistes&comma; sexistes ou autrement indésirables&period; Mais la vérité est qu&rsquo&semi;il n&rsquo&semi;existe pas d&rsquo&semi;IA « objective »&comma; a déclaré Williams&period; L&rsquo&semi;IA inclura toujours des valeurs humaines et des préjugés humains&comma; car elle est construite par des humains&period; <&sol;p>&NewLine;<p>« D&rsquo&semi;une manière ou d&rsquo&semi;une autre&comma; il y aura une sorte de perspective qui sous-tendra la façon dont il sera construit »&comma; a déclaré Williams&period; « La question est&comma; voulons-nous laisser cela se produire accidentellement comme nous l&rsquo&semi;avons fait … ou voulons-nous être intentionnels à ce sujet&quest; » <&sol;p>&NewLine;<h2 id&equals;"building-ai-safeguards-xa0-3">Construire des garanties d&rsquo&semi;IA <&sol;h2>&NewLine;<p>Pichai a averti que l&rsquo&semi;IA pourrait augmenter l&rsquo&semi;ampleur de la désinformation&period; Déjà&comma; des vidéos générées par l&rsquo&semi;IA doublées « <u>faux faux<&sol;u>« sont de plus en plus convaincants et plus difficiles à discerner de la réalité&period; <u>animer la « Mona Lisa »<&sol;u> or <u>faire revivre Marie Curie<&sol;u>&quest; La technologie Deepfake peut déjà faire un travail convaincant&period; <&sol;p>&NewLine;<p>Pichai a déclaré que les sociétés doivent élaborer des réglementations et des traités de rédaction pour garantir que l&rsquo&semi;IA est utilisée de manière responsable&period; <&sol;p>&NewLine;<p>« Ce n&rsquo&semi;est pas à une entreprise de décider »&comma; a déclaré Pichai à « 60 Minutes »&period; « C&rsquo&semi;est pourquoi je pense que le développement de cela doit inclure non seulement des ingénieurs&comma; mais aussi des spécialistes des sciences sociales&comma; des éthiciens&comma; des philosophes&comma; etc&period; »<&sol;p>&NewLine;<p>Jusqu&rsquo&semi;à présent&comma; les réglementations relatives à l&rsquo&semi;IA relèvent en grande partie de lois conçues pour couvrir les technologies plus anciennes&comma; a déclaré Williams&period; Mais il y a eu des tentatives pour une structure réglementaire plus complète&period; En 2022&comma; le Bureau de la politique scientifique et technologique de la Maison Blanche &lpar;OSTP&rpar; a publié le « <a rel&equals;"nofollow noopener" href&equals;"https&colon;&sol;&sol;www&period;whitehouse&period;gov&sol;ostp&sol;ai-bill-of-rights&sol;" target&equals;"&lowbar;blank" data-url&equals;"https&colon;&sol;&sol;www&period;whitehouse&period;gov&sol;ostp&sol;ai-bill-of-rights&sol;"><u>Charte des droits de l&rsquo&semi;IA<&sol;u><&sol;a><span class&equals;"sr-only"> &lpar;s&rsquo&semi;ouvre dans un nouvel onglet&rpar;<&sol;span>« &comma; un plan destiné à promouvoir le développement de l&rsquo&semi;IA éthique et centré sur l&rsquo&semi;humain&period; Le document couvre les questions d&rsquo&semi;équité et de dommages possibles&comma; a déclaré Williams&comma; mais il laisse de côté certains problèmes préoccupants&comma; tels que le développement et le déploiement de l&rsquo&semi;IA par les forces de l&rsquo&semi;ordre et l&rsquo&semi;armée&period; &period; <&sol;p>&NewLine;<p>De plus en plus&comma; a déclaré Williams&comma; les candidats politiques pour les agences et les ministères fédéraux sont choisis parmi des personnes qui ont une idée des coûts et des avantages de l&rsquo&semi;IA&period; Alvaro Bedoya&comma; l&rsquo&semi;actuel commissaire de la Federal Trade Commission&comma; a été le directeur fondateur du Georgetown Law Center for Privacy and Technology et possède une expertise en technologie et en éthique&comma; a déclaré Williams&comma; tandis qu&rsquo&semi;Alondra Nelson&comma; ancienne directrice par intérim de l&rsquo&semi;OSTP&comma; a eu un longue carrière dans les sciences&comma; la technologie et les inégalités&period; Mais il reste un long chemin à parcourir pour développer la culture technologique parmi les politiciens et les décideurs&comma; a déclaré Williams&period; <&sol;p>&NewLine;<p>« Nous en sommes encore à laisser diverses grandes entreprises diriger le développement et la distribution de ce qui pourrait être des technologies très puissantes&comma; mais des technologies qui sont opaques et qui sont intégrées dans notre vie quotidienne d&rsquo&semi;une manière sur laquelle nous n&rsquo&semi;avons aucune contrôle »&comma; a-t-il déclaré&period;<&sol;p>&NewLine;<&sol;div>&NewLine;<p>&lbrack;ad&lowbar;2&rsqb;<br &sol;>&NewLine;<br &sol;><a href&equals;"https&colon;&sol;&sol;www&period;livescience&period;com&sol;technology&sol;artificial-intelligence&sol;ais-unsettling-rollout-is-exposing-its-flaws-how-concerned-should-we-be">Source link <&sol;a><&sol;p>&NewLine;