• About Us
  • Privacy Policy
  • Terms of Use
  • Cookies Policy
samedi, 26 juillet 2025
TheBuzzly News | Dernières nouvelles | Rapports originaux
  • ACCUEIL
  • COMMENT FAIRE
    • All
    • SEO
    • WINDOWS 10
    • WINDOWS 11
    Bloquer l'accès à certains sites web avec le fichier hosts

    Bloquer l’accès à certains sites Web avec le fichier hosts

    Définir Google Chrome comme navigateur web par défaut sur Windows 11

    Définir Chrome comme navigateur par défaut sur Windows 11

    Un outil de peinture gratuit pour Windows, macOS et Linux

    Paw : Gestionnaire de mots de passe

    un gestionnaire de mots de passe simple et axé sur la confidentialité

    MediCat

    la meilleure boîte à outils pour le dépannage informatique

    Stasher

    masquer les dossiers sensibles sous Windows

    Installer macOS Sonoma sur PC avec VMware

    Installez macOS Sonoma sur un PC Windows avec VMware

    5 Expert Ways: How to Screenshot on Chromebook with Ease

    5 Expert Ways: How to Screenshot on Chromebook with Ease

    Right-Click Uninstall

    Désinstallez les applications sous Windows par un simple clic droit

    • WINDOWS 11
    • SEO
  • TECH
    • All
    • Apps
    • Mobile
    Sora : le générateur de vidéos par IA d’OpenAI

    Sora : la création de vidéos par intelligence artificielle d’OpenAI

    Micron to Start Plant Construction in August, Domestic Microchip Production to Begin by 2024-End: Report

    Micron commencera la construction de l’usine en août, la production nationale de micropuces commencera d’ici 2024-fin : rapport

    Twitter to Discontinue Newsletter Product Revue in 2023 Amid Elon Musk

    Twitter limite le nombre de tweets que les utilisateurs gratuits et vérifiés peuvent lire, aucun accès sans compte

    iPhone Supplier Foxconn to Invest $250 Million for EV Components Unit in Vietnam

    Le fournisseur d’iPhone Foxconn investira 250 millions de dollars dans une unité de composants EV au Vietnam

    • CRYPTO-MONNAIES
  • DIVERTISSEMENT
    • All
    • FILM
    • Gaming
    • Musique
    Chrissy Teigen a répondu à un commentaire Instagram qui interrogeait son « nouveau visage ».

    Chrissy Teigen a répondu à un commentaire Instagram qui interrogeait son « nouveau visage ».

    Eva Green - Getty Images

    Eva Green marquée après une scène de s*xe violente

    Exit Kim Kardashian, Taylor Swift est la nouvelle reine d'Instagram

    Adieu Kim Kardashian, Taylor Swift devient la nouvelle reine d’Instagram

    6 incroyables mystères historiques découverts par les utilisateurs de Reddit

    6 incroyables mystères historiques découverts par les utilisateurs de Reddit

    • CINÉMA
    • FILM
    • Musique
    • Gaming
  • MODE DE VIE
    • All
    • Mode
    • Santé
    8 caractéristiques communes d'un modèle de rôle

    8 caractéristiques communes d’un modèle de rôle

    Cinq conseils pour protéger votre espace personnel

    Cinq conseils pour protéger votre espace personnel

    7 histoires de réussite inspirantes en matière de finances personnelles d'utilisateurs de Reddit - Apprenez les secrets de la liberté financière !

    7 histoires de réussite inspirantes en matière de finances personnelles d’utilisateurs de Reddit – Apprenez les secrets de la liberté financière !

    8 histoires inspirantes sur l'autonomisation et la réussite des femmes - préparez-vous à être motivée !

    8 histoires inspirantes sur l’autonomisation et la réussite des femmes – préparez-vous à être motivée !

    • Voyage
    • Mode
  • BEAUTÉ
    rouge à lèvres MAC

    Rouge à Lèvres MAC : Découvrez les Derniers Ajouts à la Collection

    Leighton Meester Patrick Heusinger dans Gossip Girl

    Jennifer Lopez est le Blair Waldorf des Hamptons en fleurs et une ceinture massive

    6 options pour le redressement des dents adultes

    6 options pour le redressement des dents adultes

    J'ai fait Glastonbury sobre et voici ce que j'ai appris

    J’ai fait Glastonbury sobre et voici ce que j’ai appris

  • English Story

    How a Boy’s Kindness Touched an Elderly Man

    I Attended My Husband’s Office Party for the First Time, but I Never Expected to See His Other ‘Wife’ There

    The Man, the Mystery, and the Cable: A Medical Case That Stunned a Hospital

    A Nurse, a Photograph, and a Lifelong Memory: Amanda’s Search for the Woman Who Comforted Her

    A Nurse, a Photograph, and a Lifelong Memory: Amanda’s Search for the Woman Who Comforted Her

    A Gallon of Kindness: A Boston Officer’s Quiet Act of Compassion Amid Chaos

    A Gallon of Kindness: A Boston Officer’s Quiet Act of Compassion Amid Chaos

    From Near Death to New Life: A $8,000 Journey of Hope for These Rescued Dogs

    One Month With Our Miracle: An Update on Lily Grace

    The World’s Richest Royal Family You’ve Never Heard Of: Inside the Lavish Life of the House of Saud

    An Unexpected Blessing on the Side of the Road

    The Girl in the Photograph: A Heartbreaking Glimpse into Auschwitz

    The Frozen Mystery of Everest: The Day Conrad Anker Found George Mallory

    A Stranger’s Kindness in a Walmart Parking Lot: How One Man Changed My Son’s Day

    Trending Tags

    • Story
    • Family
    • Boy
    • Doctor
No Result
View All Result
TheBuzzly News | Dernières nouvelles | Rapports originaux
No Result
View All Result
Home TECH

Calmons-nous à propos du « risque d’extinction » de l’IA

Let’s All Calm Down About AI’s ‘Extinction Risk’

#post_seo_title

Partager sur FacebookPartager sur TwitterPartager sur WhatsApp

[ad_1]

Pendant une minute chaude la semaine dernière, il semblait que nous étions déjà au bord d’une IA tueuse.

Plusieurs organes de presse ont rapporté qu’un drone militaire avait attaqué son opérateur après avoir décidé que l’humain faisait obstacle à son objectif. Sauf qu’il s’est avéré que c’était une simulation. Et puis il s’est avéré que la simulation elle-même ne s’est pas produite. Un colonel de l’Air Force avait décrit par erreur une expérience de pensée comme réelle lors d’une conférence.

Même ainsi, les mensonges voyagent à l’autre bout du monde avant que la vérité ne lace ses bottes et l’histoire ne manquera pas de s’infiltrer dans nos inquiétudes collectives et inconscientes concernant la menace de l’IA pour la race humaine, une idée qui a pris de l’ampleur grâce aux avertissements de deux « parrains ». » de l’IA et deux lettres ouvertes sur le risque existentiel.

Des craintes profondément ancrées dans notre culture concernant les dieux et les machines en fuite sont déclenchées – mais tout le monde doit se calmer et regarder de plus près ce qui se passe vraiment ici.

Tout d’abord, reconnaissons la cohorte d’informaticiens qui croient depuis longtemps que les systèmes d’IA, comme ChatGPT, doivent être plus soigneusement alignés sur les valeurs humaines. Ils proposent que si vous concevez l’IA pour suivre des principes comme l’intégrité et la gentillesse, ils sont moins susceptibles de faire demi-tour et d’essayer de tous nous tuer à l’avenir. Je n’ai aucun problème avec ces scientifiques.

Mais au cours des derniers mois, l’idée d’une menace d’extinction est devenue tellement ancrée dans le discours public que vous pourriez en parler lors d’un dîner avec vos beaux-parents et que tout le monde approuve l’importance de la question.

A première vue, c’est ludique. C’est également une excellente nouvelle pour les grandes entreprises d’IA, pour deux raisons :

1) Cela crée le spectre d’un système d’IA tout-puissant qui finira par devenir si impénétrable que nous ne pouvons pas espérer le comprendre. Cela peut sembler effrayant, mais cela rend également ces systèmes plus attrayants dans la ruée actuelle vers l’achat et le déploiement de systèmes d’IA. La technologie pourrait peut-être un jour anéantir la race humaine, mais cela n’illustre-t-il pas à quel point elle pourrait avoir un impact puissant sur votre entreprise aujourd’hui ?

Ce genre de propagande paradoxale a fonctionné dans le passé. Le prestigieux laboratoire d’IA DeepMind, largement considéré comme le principal concurrent d’OpenAI, a commencé sa vie en tant que laboratoire de recherche avec l’objectif ambitieux de construire une AGI, ou une intelligence générale artificielle qui pourrait dépasser les capacités humaines. Ses fondateurs Demis Hassabis et Shane Legg n’avaient pas peur de la menace existentielle de cette technologie lorsqu’ils se sont adressés pour la première fois à de grands investisseurs en capital-risque comme Peter Thiel pour rechercher des financements il y a plus de dix ans. En fait, ils ont parlé ouvertement des risques et ont obtenu l’argent dont ils avaient besoin.

Mettre en lumière les capacités de destruction du monde de l’IA de manière vague nous permet de combler les vides avec notre imagination, attribuant à l’IA future des capacités et une puissance infinies. C’est un stratagème marketing magistral.

2) Cela détourne l’attention d’autres initiatives qui pourraient nuire aux activités des principales entreprises d’IA. Quelques exemples : L’Union européenne vote ce mois-ci une loi, appelée AI Act, qui obligerait OpenAI à divulguer tout matériel protégé par le droit d’auteur utilisé pour développer ChatGPT. (Sam Altman d’OpenAI a initialement déclaré que son entreprise « cesserait ses activités » dans l’UE à cause de la loi, puis a fait marche arrière.) Un groupe de défense a également récemment exhorté la Federal Trade Commission des États-Unis à lancer une enquête sur OpenAI et à pousser l’entreprise les exigences de l’agence pour que les systèmes d’IA soient « transparents, explicables [and] équitable. »

La transparence est au cœur de l’éthique de l’IA, un domaine dans lequel les grandes entreprises technologiques ont investi plus massivement entre 2015 et 2020. À l’époque, Google, Twitter et Microsoft avaient tous de solides équipes de chercheurs explorant comment des systèmes d’IA comme ceux qui alimentent ChatGPT pourraient perpétuer par inadvertance préjugés à l’encontre des femmes et des minorités ethniques, portent atteinte à la vie privée des personnes et nuisent à l’environnement.

Pourtant, plus leurs chercheurs creusaient, plus leurs modèles commerciaux semblaient faire partie du problème. Un article de 2021 des chercheurs de Google AI, Timnit Gebru et Margaret Mitchell, a déclaré que les grands modèles linguistiques construits par leur employeur pourraient avoir des préjugés dangereux pour les groupes minoritaires, un problème aggravé par leur opacité, et qu’ils étaient vulnérables aux abus. Gebru et Mitchell ont ensuite été licenciés. Microsoft et Twitter ont également démantelé leurs équipes d’éthique de l’IA.

Cela a servi d’avertissement à d’autres chercheurs en éthique de l’IA, selon Alexa Hagerty, anthropologue et affiliée à l’Université de Cambridge. « ‘Vous avez été embauché pour soulever des problèmes d’éthique' », dit-elle, caractérisant le point de vue des entreprises technologiques, « mais ne soulevez pas ceux que nous n’aimons pas ».

Le résultat est maintenant une crise de financement et d’attention pour le domaine de l’éthique de l’IA, et la confusion quant à l’endroit où les chercheurs devraient aller s’ils veulent auditer les systèmes d’IA est d’autant plus difficile que les grandes entreprises technologiques deviennent plus secrètes sur la façon dont leurs modèles d’IA sont façonné.

C’est un problème même pour ceux qui s’inquiètent du désastre. Comment les gens du futur devraient-ils contrôler l’IA si ces systèmes ne sont pas transparents et si les humains n’ont pas l’expertise nécessaire pour les examiner ?

L’idée de démêler la boîte noire de l’IA – souvent présentée comme presque impossible – n’est peut-être pas si difficile. Un article de mai 2023 dans les Actes de l’Académie nationale des sciences (PNAS), une revue à comité de lecture de l’Académie nationale des sciences, a montré que le soi-disant problème d’explicabilité de l’IA n’est pas aussi irréaliste que de nombreux experts le pensaient jusqu’à présent. .

Les technologues qui mettent en garde contre les risques catastrophiques de l’IA, comme le PDG d’OpenAI, Sam Altman, le font souvent en termes vagues. Pourtant, si de telles organisations croyaient vraiment qu’il y avait ne serait-ce qu’une infime chance que leur technologie puisse anéantir la civilisation, pourquoi la construire en premier lieu ? Cela entre certainement en conflit avec les mathématiques morales à long terme des constructeurs d’IA de la Silicon Valley, qui disent qu’un risque minime avec un coût infini devrait être une priorité majeure.

Regarder de plus près les systèmes d’IA maintenant, plutôt que de se tordre les mains à propos d’une vague apocalypse du futur, est non seulement plus sensé, mais cela place également les humains dans une position plus forte pour empêcher qu’un événement catastrophique ne se produise en premier lieu. Pourtant, les entreprises technologiques préféreraient de loin que nous nous inquiétions de cette perspective lointaine plutôt que de pousser à la transparence autour de leurs algorithmes.

En ce qui concerne notre avenir avec l’IA, nous devons résister aux distractions de la science-fiction de l’examen plus approfondi qui est nécessaire aujourd’hui.

© 2023 Bloomberg LP


Le Motorola Edge 40 a récemment fait ses débuts dans le pays en tant que successeur du Edge 30 lancé l’année dernière. Devriez-vous acheter ce téléphone à la place du Nothing Phone 1 ou du Realme Pro+ ? Nous en discutons et plus encore sur Orbital, le podcast thebuzzly. Orbital est disponible sur Spotify, Gaana, JioSaavn, Podcasts Google, Podcast Apple, Amazon Musique et partout où vous obtenez vos podcasts.
Des liens d’affiliation peuvent être générés automatiquement – consultez notre déclaration d’éthique pour plus de détails.

[ad_2]

Source link

Related Posts

OnePlus Buds Pro 2 Will Launch in Early 2023, Company Starts Production In Europe, Asia: Report
TECH

OnePlus Buds Pro 2 sera lancé au début de 2023, la société démarre la production en Europe et en Asie : rapport

13/11/2022
Amazon Said to End Two EU Antitrust Probes by Year-End to Avoid Fine
TECH

Amazon a déclaré mettre fin à deux enquêtes antitrust de l’UE d’ici la fin de l’année pour éviter une amende

27/11/2022
EU Lawmakers Struggle to Finalise Law to Regulate ChatGPT and Generative AI
TECH

Les législateurs de l’UE luttent pour finaliser la loi visant à réglementer ChatGPT et l’IA générative

30/04/2023
Realme Pad X, Watch 3, Buds Air 3 Neo, More to Launch in India Today at 12pm: How to Watch Livestream
TECH

Realme Pad X, Watch 3, Buds Air 3 Neo, plus à lancer en Inde aujourd’hui à 12h: comment regarder le livestream

26/07/2022
Load More
English Story

Babysitter Hears Noise Upstairs So Dad Checks Hidden Camera And Captures A Nightmare In His Kitchen

01/12/2024
English Story

After a Life-Threatening Childbirth, My Husband Wants to Kick Me and Our Baby Out Because of His Mother

10/03/2025
  • About Us
  • Privacy Policy
  • Terms of Use
  • Cookies Policy

© 2018-2024 TheBuzzly

Welcome Back!

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In

Add New Playlist

No Result
View All Result
  • ACCUEIL
  • COMMENT FAIRE
    • WINDOWS 11
    • SEO
  • TECH
    • CRYPTO-MONNAIES
  • DIVERTISSEMENT
    • CINÉMA
    • FILM
    • Musique
    • Gaming
  • MODE DE VIE
    • Voyage
    • Mode
  • BEAUTÉ
  • English Story

© 2018-2024 TheBuzzly

This website uses cookies. By continuing to use this website you are giving consent to cookies being used. Visit our Privacy and Cookie Policy.