« L’explicabilité de l’intelligence artificielle est associée à des enjeux organisationnels et politiques majeurs »

<p> &lbrack;ad&lowbar;1&rsqb;<br &sol;>&NewLine;<&sol;p>&NewLine;<div id&equals;"">&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph "><strong>Tribune&period;<&sol;strong> Au cœur de la nouvelle révolution industrielle et sociale se trouvent des questions éthiques sur l&rsquo&semi;intelligence artificielle &lpar;IA&rpar; et ses applications&period;<&sol;p>&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph ">Actuellement&comma; les débats les plus fréquents et les plus vifs concernent les biais&comma; réels ou perçus&comma; que l&rsquo&semi;IA peut reproduire ou générer&period; Ces préjugés&comma; qu&rsquo&semi;ils soient de sexe&comma; d&rsquo&semi;ascendance&comma; de croyances religieuses ou d&rsquo&semi;opinions politiques&comma; sont d&rsquo&semi;autant plus scrutés qu&rsquo&semi;ils résonnent avec des questions politiques épineuses&period;<&sol;p>&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph ">Parallèlement aux questions sur les biais&comma; ou plutôt les questions qui les incluent&comma; se pose un autre problème éthique en IA &colon; le problème de l&rsquo&semi;explicabilité des systèmes algorithmiques&period; La capacité des organisations à expliquer en permanence les systèmes qu&rsquo&semi;elles développent et utilisent peut rapidement devenir un enjeu politique majeur&period;<&sol;p>&NewLine;<h2 class&equals;"article&lowbar;&lowbar;sub-title">Comprendre et communiquer<&sol;h2>&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph ">En effet&comma; il peut être difficile de reconstituer le chemin qui mène aux solutions offertes par les systèmes contenant des algorithmes d&rsquo&semi;apprentissage&comma; notamment le deep learning comme les réseaux de neurones&period; Cependant&comma; c&rsquo&semi;est cette famille d&rsquo&semi;IA&comma; plus précisément la « boîte noire »&comma; qui connaît un succès significatif dans des tâches telles que la reconnaissance d&rsquo&semi;images et de textes utilisées dans les véhicules autonomes&comma; <em>robots de discussion<&sol;em>diagnostic médical&&num;8230&semi;<&sol;p>&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph ">Si sur le papier&comma; ex ante&comma; leur fonctionnement est plus ou moins clair&comma; alors la complexité des multiples correspondances qui se forment dans le processus d&rsquo&semi;apprentissage échappe à la rationalité limitée des personnes&comma; même si elles sont des spécialistes&period; Comprendre pourquoi une telle décision a été prise dans un tel cas devient rapidement un défi&comma; surtout lorsqu&rsquo&semi;il existe plusieurs systèmes d&rsquo&semi;IA imbriqués&period; En témoigne l&rsquo&semi;incertitude persistante quant aux causes ultimes des accidents de voiture récents&comma; malgré de nombreux efforts d&rsquo&semi;enquête sur le sujet&period;<&sol;p>&NewLine;<section class&equals;"catcher catcher--inline"><span class&equals;"catcher&lowbar;&lowbar;title"> Lire aussi <&sol;span><span class&equals;"catcher&lowbar;&lowbar;desc"> <span class&equals;"icon&lowbar;&lowbar;premium"><span class&equals;"sr-only">Article réservé à nos abonnés<&sol;span><&sol;span> « La question n&rsquo&semi;est pas dans l&rsquo&semi;intelligence artificielle&comma; qui remplace l&rsquo&semi;expert&comma; mais dans le fait qu&rsquo&semi;elle l&rsquo&semi;aide » <&sol;span> <&sol;section>&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph ">Il est donc nécessaire d&rsquo&semi;expliquer pour&comma; d&rsquo&semi;une part&comma; comprendre&comma; améliorer l&rsquo&semi;algorithme&comma; améliorer sa fiabilité et anticiper ses lacunes&comma; et d&rsquo&semi;autre part&comma; rendre compte à de nombreux acteurs externes &lpar;régulateurs&comma; utilisateurs&rpar;&period; &comma; partenaires&rpar; ou au sein de l&rsquo&semi;organisation &lpar;managers&comma; chefs de projet&rpar;&period;<&sol;p>&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph ">Pour résoudre ce problème&comma; un nouveau domaine a émergé &colon; l&rsquo&semi;Intelligence Artificielle eXplainable &lpar;XAI&rpar;&comma; qui propose des outils explicatifs&period; Cependant&comma; malgré les réponses qu&rsquo&semi;il donne&comma; deux questions principales demeurent&period;<&sol;p>&NewLine;<h2 class&equals;"article&lowbar;&lowbar;sub-title">L&rsquo&semi;explication n&rsquo&semi;est pas une excuse<&sol;h2>&NewLine;<p class&equals;"article&lowbar;&lowbar;paragraph ">Le premier est la définition de la portée de l&rsquo&semi;explication qu&rsquo&semi;il convient de préserver &colon; les outils XAI permettent de comprendre certaines fonctionnalités&comma; mais en masquent d&rsquo&semi;autres considérées comme non prioritaires&period;<&sol;p>&NewLine;<p><strong>Il vous reste 58&comma;83&percnt; de cet article à lire&period; De plus uniquement pour les abonnés&period;<&sol;strong><&sol;p>&NewLine;<&sol;p><&sol;div>&NewLine;<p>&lbrack;ad&lowbar;2&rsqb;<br &sol;>&NewLine;<br &sol;><a href&equals;"https&colon;&sol;&sol;www&period;lemonde&period;fr&sol;idees&sol;article&sol;2022&sol;03&sol;28&sol;a-l-explicabilite-de-l-intelligence-artificielle-sont-associes-des-enjeux-organisationnels-et-politiques-majeurs&lowbar;6119403&lowbar;3232&period;html">Source link <&sol;a><&sol;p>&NewLine;