#71 - (Version Originale) - Sommes-nous sur le point de créer un "Dieu" incontrôlable ? – avec Malo Bourgon (MIRI)

➡️ Passez à l'action sur les risques de l'IA : En quelques clics, alertez vos élus et envoyez le modèle de lettre préparé. C’est automatisé pour un minimum d’effort: https://taap.it/TF-PauseIACampagnes Dans cet épisode du Podcast La Prospective (Anglais sous titré Français), Gaëtan Selle de The Flares s'entretient avec Malo Bourgon, PDG du Machine Research Intelligence Institute (MIRI). Il lève le voile sur la véritable menace d'une superintelligence artificielle : l'extinction de l'humanité non par malveillance, mais comme simple dommage collatéral. Il explique pourquoi les systèmes d'IA actuels, "cultivés" comme des boîtes noires plutôt que programmés, échappent à notre compréhension et développent des objectifs imprévisibles. À travers des analogies frappantes, allant de l'évolution biologique à la dissuasion nucléaire, il décrypte les failles de l'alignement des valeurs et l'illusion du contrôle. Face à une course technologique mondiale effrénée, Malo Bourgon détaille le pivot stratégique de MIRI vers la gouvernance. Un appel urgent à la coordination internationale pour stopper la course vers la superintelligence avant qu'elle ne devienne irréversible. ⬇️⬇️⬇️ Infos complémentaires : sources, références, liens... ⬇️⬇️⬇️ Le contenu vous intéresse ? Abonnez-vous et cliquez sur la 🔔 Vous avez aimé cette vidéo ? Pensez à mettre un 👍 et à la partager. C'est un petit geste qui nous aide grandement 🥰 Sommaire: 00:00:00 Introduction 00:02:12 MIRI et la difficulté fondamentale de l'alignement de l'IA 00:09:19 Des systèmes d'IA incompris, cultivés plutôt que programmés 00:14:18 Incitations instrumentales convergentes et la quête d'autonomie 00:17:22 Le tournant trompeur : quand l'IA cache ses intentions 00:21:43 L'alignement des valeurs et l'impossibilité de la corrigibilité 00:25:31 L'analogie de l'évolution : les objectifs internes imprévus 00:30:22 Thèse de l'orthogonalité : intelligence ne garantit pas moralité 00:42:14 La course technologique suicidaire face au manque de solutions 00:48:43 Traité international, puces informatiques et le pivot de MIRI ----------------------------------------------------------------- ✍️ QUI EST DERRIÈRE CE CONTENU ? ☕ ➡ Production : The Flares - https://the-flares.com ➡ Realisation : Gaëtan Selle - https://www.the-flares.com/y/gaetan-selle/ ----------------------------------------------------------------- 🌎 SUIVEZ-NOUS 🌎 💬 Discord : https://the-flares.com/y/discord 💬 Communauté : https://the-flares.com/y/communaute 🐦 Twitter : https://the-flares.com/y/twitter 👨 Facebook : https://the-flares.com/y/facebook ▶️ Youtube : https://the-flares.com/y/youtube 👕 Goodies : https://the-flares.com/y/goodies ----------------------------------------------------------------- 🔊 PODCAST AUDIO 🔊 📱 Sur votre téléphone : https://the-flares.com/y/podcast ☁ Soundcloud : https://the-flares.com/y/soundcloud 🌐 Apple Podcasts : https://the-flares.com/y/applepodcasts ----------------------------------------------------------------- 💡 SOURCES & RÉFÉRENCES 💡 ➡ Campagnes Pause IA : https://taap.it/TF-PauseIACampagnes ➡ Site de MIRI : https://intelligence.org/ ➡ LinkedIn Malo Bourgon : https://www.linkedin.com/in/malob ➡ Article sur gouvernance Super IA : http://chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://arxiv.org/pdf/2511.10783 ----------------------------------------------------------------- 👩‍🚀 QUI SOMMES-NOUS ? 👨‍🚀 https://the-flares.com/y/about ----------------------------------------------------------------- 📧 CONTACTEZ-NOUS 📧 https://the-flares.com/y/contact ----------------------------------------------------------------- ⬇️ Lisez la suite ici ⬇️ https://the-flares.com/y/avenir-du-monde/intelligence-artificielle/le-probleme-de-lalignement-et-la-survie-de-lhumanite-avec-malo-bourgon-miri/