[SOLO] Pourquoi on adore regarder la fin du monde ?

Nouvel épisode solo comme toutes les 2 semaines. C'est la version longue et parlée de ma newsletter, celle où je prends le temps d'aller au bout de ce que l'écrit ne fait qu'ouvrir. Vous avez sans doute vu passer l'histoire de ce chercheur qui a démissionné d'Anthropic en expliquant que l'IA pourrait mener à la destruction de l'humanité. Son message a été vu plus de 150 millions de fois. Quelques heures plus tard, le responsable de l'équipe chargée précisément d'éviter ça écrivait qu'il estimait ce risque à plus de dix pour cent dans la décennie. Pendant quelques jours, j'ai regardé les débats tourner, et j'ai fini par remarquer une chose qui m'a franchement surpris : personne ne demandait comment. Par quel enchaînement concret un logiciel tuerait-il huit milliards de personnes ? Cette question m'en a ouvert une autre, beaucoup plus personnelle. Pourquoi est-ce que je passe mes soirées devant Walking Dead, Je suis une légende ou L'Armée des 12 singes, et pourquoi suis-je incapable de citer dix films à succès qui montrent un avenir désirable ? Dans cet épisode, nous parlons du seul scénario un peu construit de toute cette séquence, celui d'Annie Jacobsen, et de la raison pour laquelle il occupe 0 % de la conversation. Du mot apocalypse, qui voulait dire « révélation » avant de vouloir dire « tout s'arrête ». Des quatre récits de fin du monde qui nourrissent chacun un appétit différent : la faute, la chasse, le dévoilement et le contre-modèle. De Frankenstein, qui raconte en réalité le danger d'abandonner ce qu'on a créé. De la curiosité morbide, qui nous entraîne à survivre et nous rend en même temps plus perméables au complot. De Nick Bostrom, qui nous a expliqué que nous vivons probablement dans une simulation et que l'IA allait probablement nous tuer. Et de la raison pour laquelle nous préférons une tragédie dont nous sommes les héros à une lente décomposition sans dénouement. Je me suis questionné sur ce que ces récits nous autorisent à ne pas faire, sur le doomisme devenu plus répandu que le climatoscepticisme, et sur ce que la joie rebelle peut opposer à un sombre qui n'offre aucune prise. Et j'ai fini par une conviction : le vrai risque existentiel, c'est peut-être une civilisation qui ne sait plus fabriquer d'images de ce qu'elle veut. À la fin, je vous demande un service. Envoyez-moi une histoire d'avenir désirable, un film, un roman, une série. J'en fais une liste et je la publie. Citations marquantes« Entre deux versions d'un même danger, nous choisissons systématiquement celle qui a un auteur. » « Nous avons pris un mot qui voulait dire "enfin on voit" et nous en avons fait un mot qui veut dire "tout s'arrête". » « Le crime de Victor n'est pas d'avoir fabriqué la créature, c'est d'avoir refusé de s'en occuper. » « Un scénario précis se discute, se conteste, se réfute tandis qu'un scénario vague se partage. » « Une civilisation qui ne sait plus produire d'images de ce qu'elle veut ne peut plus le vouloir collectivement. » (Bonus si besoin d'extraits supplémentaires pour les réseaux) « Le sens revient au moment exact où la vie s'en va. » « Une extinction se combat alors qu'une irréalité, non. » Idées centrales discutées 1. Le vrai risque est ennuyeux, donc invisible≈ 04:15 Le seul scénario construit d'extinction par l'IA repose sur des infrastructures fragiles et bricolées, gérées depuis trente ans par des gens fatigués sous contrainte budgétaire. Aucune créature, aucun coupable, aucun moment où la machine ouvre les yeux. Pourquoi ça compte : c'est le risque dont on peut se prémunir assez facilement, et c'est celui dont personne ne parle. Notre attention va systématiquement à la version du danger qui a un auteur. 2. Apocalypse veut dire dévoilement≈ 08:15 Apokalupsis, c'est décrocher le voile. Le glissement vers l'anéantissement est tardif. Et l'hypothèse de la simulation le prouve par l'absurde : un dévoilement pur, sans aucune destruction, qui fascine autant que les récits de fin du monde. Pourquoi ça compte : ce que nous cherchons dans ces histoires, c'est le moment où le voile tombe. La destruction n'est que le véhicule le plus disponible, ce qui ouvre la porte à d'autres véhicules. 3. Quatre récits, quatre appétits≈ 10:30 La faute (Frankenstein) donne de la clarté morale. La chasse (Terminator, les zombies) donne un entraînement. Le dévoilement (Matrix) donne une révélation. Le contre-modèle (Avatar) donne un modèle. Pourquoi ça compte : la grille permet de regarder sa propre consommation de récits et de voir ce qu'on y cherche. Et relu de près, Frankenstein transforme la question « faut-il arrêter ? » en une question politique traitable : qui s'occupe de ce qu'on a créé ? 4. Une histoire qu'on reconnaît avant de l'examiner≈ 16:40 Le récit de la créature qui se retourne contre son créateur date de 1818, l'expression « intelligence artificielle » de 1956. Asimov a décrit le complexe de Frankenstein comme une disposition qui précède le danger. Et ce récit circule dans un dispositif qui a intérêt à le faire circuler. Pourquoi ça compte : l'absence de mécanisme technique devient la condition même de la diffusion. Un scénario précis se réfute, un scénario vague se partage. 5. La curiosité morbide entraîne et rend crédule≈ 19:00 Les fans de films d'apocalypse montrent une meilleure résilience et une meilleure préparation concrète, c'est la simulation de menace. Mais la même curiosité morbide est liée aux croyances complotistes, parce qu'elle consiste à aller chercher l'information sur la menace. Pourquoi ça compte : mes choix de fiction révèlent précisément ce que je redoute. Et le récit de l'IA destructrice active le même mécanisme que le complot. 6. L'apocalypse rend lisible un monde illisible≈ 23:45 Un récit apocalyptique donne une direction, des rôles clairs, un bien et un mal nets, et la promesse que le mal sera détruit. Exactement ce qui manque à une époque où l'on n'a jamais été aussi informés et où tout est devenu illisible. Et une fin auto-infligée nous garde dans le rôle principal. Pourquoi ça compte : entre une tragédie dont nous sommes les héros et une lente décomposition par petits arbitrages, nous préférons la tragédie. La seconde est pourtant beaucoup plus probable. 7. Le sombre sans prise démobilise, et l'offre d'avenir s'est tarie≈ 45:05 Percevoir un risque fait agir, croire qu'il est inéluctable fait renoncer. Aux États-Unis, le doomisme est devenu le premier argument contre l'action climatique. Et le public n'a jamais refusé les récits désirables : Avatar est le plus gros succès de l'histoire, Ecotopia s'est vendu à des centaines de milliers d'exemplaires sans jamais être adapté. Pourquoi ça compte : une civilisation peut encore avoir peur ensemble sans plus savoir désirer ensemble. Et c'est réparable, ce qui en fait la meilleure nouvelle de l'épisode. Questions structurantes de l'épisode(Format solo : ce sont les questions que je me pose à voix haute et qui portent le récit. Utilisables telles quelles pour les chapitres, les descriptions courtes ou les relances sur les réseaux.) - Par quel enchaînement concret un logiciel pourrait-il tuer huit milliards de personnes ?- Pourquoi le scénario le plus réaliste occupe-t-il 0 % de la conversation ?- Pourquoi est-ce que je passe mes soirées à regarder la fin du monde ?- Que cherche-t-on dans un récit de fin : un coupable, un entraînement, une révélation ou un modèle ?- Et si Frankenstein racontait le danger d'abandonner ce qu'on crée plutôt que celui de créer ?- Pourquoi une peur peut-elle exister deux siècles avant son objet ?- Mes films préférés disent-ils ce que je redoute vraiment ?- Qu'est-ce qui rend un récit apocalyptique si confortable dans un monde illisible ?- Peut-on dire une chose sincère qui sert en même temps les intérêts de son employeur ?- Qu'est-ce que l'hypothèse de la simulation nous autorise à ne pas faire ?- Pourquoi préférons-nous être les auteurs de notre propre fin ?- Sommes-nous encore capables de raconter un avenir où ça tient debout ?Références citées dans l'épisodeActualité et acteurs de l'IAJacob Coxon, chercheur démissionnaire d'Anthropic (00:00). Le message vu plus de 150 millions de fois qui déclenche l'épisode. Evan Hubinger, Anthropic (01:00 et 31:00). Le responsable de l'équipe chargée de la sécurité : « nous croyons sincèrement que l'IA pourrait tuer tous les humains ! », plus de 10 % dans la décennie. Wired (04:15). Le journaliste qui pose enfin la question du « comment » à Coxon. Annie Jacobsen, autrice spécialiste de la sécurité nucléaire et biologique (05:15). Le seul scénario construit : pirater les laboratoires qui stockent des agents biologiques dangereux. Ian Bogost, The Atlantic (06:30, 29:00 et 39:10). L'infrastructure « si fragile et si bricolée », puis l'intérêt des entreprises d'IA à paraître menaçantes, puis le fantasme d'assister à sa propre fin. Anthropic et OpenAI, introductions en bourse (29:00). Le soupçon de coup de communication. Le moratoire sur l'IA (29:45). Des acteurs qui demandent tous à ralentir, « plus un cartel qu'autre chose ». Elon Musk (34:45). Cofondateur d'OpenAI, une chance sur des milliards que nous vivions dans la réalité de base. Recherches et étudesNatacha Vas-Deyres, chercheuse en littérature, imaginaires du futur (16:45). La chronologie : 1818 pour le récit, 1956 pour l'expression « intelligence artificielle ». Étude sur la curiosité morbide (1 370 personnes) (19:05). La motivation à chercher de l'information sur les phénomènes dangereux. Coltan Scrivner, chercheur (19:45). Résilience des fans d'horreur, résilience et préparation des fans d'apocalypse, zombies et invasions extraterrestres. La théorie de la simulation de menace (20:15). La fiction effrayante comme simulateur de vol. « L'apocalypse verte » (21:05). Récits militants de catastrophe climatique et perte de capacité d'agir. Trois études de 2023 sur curiosité morbide et complotisme (22:15). Plus la curiosité morbide est élevée, plus les croyances conspirationnistes le sont. Étude sur les croyances en la fin du monde (plus de 3 000 personnes) (23:55). Un tiers des Américains pensent que le monde finira de leur vivant, et ces croyances prédisent la tolérance au risque et le soutien à des actions extrêmes. James Hughes, sociologue (28:05). Le millénarisme comme forme mentale, y compris séculière. Amanda Lagerkvist et sa collègue, la « mémoire prophétique » (30:30). L'industrie de l'IA rejoue la structure des écrits apocalyptiques juifs anciens. Travaux sur perception du risque climatique et inéluctabilité (45:10). La perception du risque mobilise, la croyance dans l'inarrêtable démobilise. Le doomisme aux États-Unis (46:10). Plus répandu que le climatoscepticisme, première raison invoquée contre l'action climatique. Philosophes et penseursThomas Hobbes (13:15). « L'homme est un loup pour l'homme », leçon des films de zombies, mal comprise. Jean Baudrillard, Simulacres et simulation (14:00). Le livre dans lequel Neo cache ses disquettes, lu par les acteurs avant le tournage. Nick Bostrom, l'argument de la simulation (2003) et Superintelligence (2014) (33:15 et 34:00). Le trilemme dont la première branche est l'extinction, puis le livre fondateur du risque existentiel lié à l'IA. Sigmund Freud, la pulsion de mort (1920) (40:00). « Le but de toute vie est la mort ». David Benatar, l'argument misanthropique (40:15). Pourquoi agir différemment quand l'espèce destructrice est la nôtre ?. L'éco-nihilisme (40:50). Inéluctabilité, égalitarisme moral radical, culpabilité collective. Peter Paik (41:35). Le nombre croissant de chercheurs et de producteurs de culture qui demandent si la Terre se porterait mieux sans nous. Prométhée (43:45). Le récit Coxon comme Prométhée moderne. LivresL'Apocalypse de Jean (Nouveau Testament), Revelation en anglais (08:45). Le sens originel du mot. Mary Shelley, Frankenstein (1818) (10:45). Le récit de la faute, et le crime d'abandon. Karel Čapek, R.U.R. (1920) (17:00). L'origine du mot robot, de robota, la corvée. Isaac Asimov, le complexe de Frankenstein (17:30). La peur de l'altérité appliquée aux machines. George Orwell et Aldous Huxley (48:30). La dystopie classique comme critique politique. Ernest Callenbach, Ecotopia (1975) (50:00). Refusé par plusieurs éditeurs, publié par l'auteur à Berkeley, des centaines de milliers d'exemplaires, jamais adapté. Isaac Asimov, L'Homme bicentenaire (1976) (53:20). Un robot qui renonce à son invulnérabilité par amour de l'humanité. Films et sériesBlade Runner, Je suis une légende, The Walking Dead, L'Armée des 12 singes (02:45). Mes soirées dystopiques. Matrix (09:25 et 14:00). Pilule rouge ou bleue, l'apocalypse au sens propre. Terminator (09:30 et 12:45). Le récit de la chasse, sans révélation. Avatar (14:45 et 47:00). Le contre-modèle, et le film le plus rentable de l'histoire du cinéma. La Belle Verte, Coline Serreau (50:00). Une de mes références d'utopie. Vlan!Loïc Hecht, épisode Vlan! sur l'hypothèse de la simulation (32:40). Diffusé la même semaine, son enquête qui conclut vers la conscience plutôt que vers la preuve. Ma newsletter sur la nuance (43:00). « Il n'existe pas de monstres, il existe des gens qui font des choses monstrueuses ». La joie rebelle (45:10). Mon concept : regarder la tristesse du monde, refuser d'être réduit par elle, agir à son niveau. Timestamps clés00:00 · Personne ne demande comment 02:30 · Pourquoi je regarde autant la fin du monde 04:15 · Le seul scénario réaliste, et pourquoi il ennuie tout le monde 08:15 · Apocalypse veut dire révélation 10:30 · Frankenstein, ou le crime d'abandon 12:45 · La chasse, le dévoilement, le contre-modèle 16:40 · Une peur plus vieille que l'IA 19:00 · La curiosité morbide nous entraîne 22:10 · Et nous rend crédules 23:45 · Un tiers des Américains attendent la fin du monde 27:00 · Orphelins de la guerre froide 29:00 · Les prophètes ont un business plan 32:40 · Bostrom, la simulation et l'extinction 35:15 · Le dévoilement sans la fin 39:05 · Et si nous voulions que ça finisse ? 43:15 · La tragédie plutôt que la décomposition 45:05 · La joie rebelle contre le doomisme 47:00 · Où sont passées les histoires qui finissent bien ? 51:40 · Ce que je garde, et ce que je vous demande Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.