« Ce truc de l’intelligence artificielle qui va nous remplacer, ça n’a aucun sens. Ce n’est pas même une information, juste une croyance », s’agace Thibault Prévost. Le journaliste, auteur de l’ouvrage de référence les Prophètes de l’IA. Pourquoi la Silicon Valley nous vend l’apocalypse (Lux éditeur, 2024), est comme de nombreux spécialistes de la tech : las. Depuis plusieurs semaines, les alertes sur les risques d’une IA « superintelligente », « hors de contrôle » et capable de provoquer la fin de l’humanité font la une. Problème : aucun consensus scientifique ne vient attester cette thèse, qui s’apparente à une théorie du complot.
Emballement médiatique
Rembobinons. Durant l’été, Hugging Face, une entreprise spécialisée dans l’IA ouverte (un système d’IA dont le code est mis à disposition du public pour être téléchargé, modifié et utilisé librement), annonce avoir été victime d’une attaque informatique organisée par un système d’IA autonome (un système d’IA capable de percevoir son environnement, de planifier des actions et de les exécuter de manière indépendante pour atteindre un objectif précis, sans intervention humaine à chaque étape).
Malgré une situation directement imputable à des erreurs humaines, la crise déclenche un débat médiatique d’ampleur sur les risques d’une intelligence artificielle parfaitement « autonome ». Le 9 septembre, rebelote. La démission fracassante de Jacob Coxon, jeune chercheur d’Anthropic, persuadé que l’IA peut « tous nous tuer d’ici à la fin de la décennie », remet une pièce dans la machine. Le récit médiatique s’emballe : les unes des journaux sur les risques fantasmées d’une IA hors de contrôle se multiplient.
Aucune preuve scientifique
Le 23 septembre, c’est l’apothéose. Sam Altman et Dario Amodei, respectivement dirigeants d’OpenAI et Anthropic, les deux plus grandes entreprises états-uniennes d’IA générative, sont accueillis par le Conseil de sécurité de l’Organisation des nations unies pour évoquer les « risques existentiels » posés par l’intelligence artificielle. Parmi leurs propositions : réguler l’IA à l’échelle internationale pour éviter, à les entendre, rien de moins que la fin du monde.
Chez les chercheurs en IA comme chez les observateurs du secteur, c’est la stupeur. L’idée de la superintelligence est un vieux fantasme, régulièrement agité par les industriels du secteur et systématiquement réfuté par les spécialistes qui rappellent, inlassablement, l’absence de littérature scientifique sérieuse accréditant la thèse d’une IA apocalypse. « Il n’y a rien de scientifique qui soutient ce chiffre de 10 % », expliquait sur France Info, le 15 septembre 2026, Anne Bouverot, présidente du Conseil de l’intelligence artificielle et du numérique, en référence à la déclaration d’Evan Hubinger, collègue de Jacob Coxon chez Anthropic, qui estimait « personnellement à plus de 10 % le risque que l’IA tue toute l’humanité dans la prochaine décennie ».
« Le récit de l’extinction sert les entreprises d’intelligence artificielle », analysait, dans la même veine, Virginia Dignum, l’une des plus grandes spécialistes des risques éthiques de l’IA, dans les colonnes du Monde quelques jours plus tard, expliquant au passage que le récit d’une IA autonome permettait surtout de déresponsabiliser ceux qui les créent et les utilisent.
Une nouvelle panique morale
Pour Thibault Prévost, cette nouvelle panique morale doit d’abord être analysée sous le prisme des croyances. « Ce discours fait partie des deux modes de discours dominants de la Silicon Valley. Le premier, c’est le techno-optimisme : l’idée selon laquelle l’IA va positivement et radicalement changer le monde, nous sortir du travail, prolonger la vie, résoudre la crise climatique… Le second, c’est une vision techno-apocalyptique, qui prédit l’apocalypse avec l’IA. »
Largement documentée par la recherche, cette idéologie est indissociable des intérêts économiques de l’industrie et de l’économie de la promesse au cœur du business de la tech. À quelques mois de l’entrée en Bourse d’Anthropic et d’OpenAI, pour ces deux entreprises américaines leaders du marché, la croyance en une superintelligence s’aligne parfaitement avec leurs intérêts économiques. « Dire que l’IA va conduire au paradis ou à l’enfer permet de survendre l’efficacité des logiciels, détaille Thibault Prévost. Les industriels se rendent essentiels et se positionnent comme les seuls suffisamment experts pour contrôler la machine qu’ils ont directement créée. »
« On est dans une stratégie de capture cognitive et normative », abonde Irénée Régnauld, doctorant à l’EHESS et auteur de la Sommation technologique au temps des catastrophes, paru au début de septembre aux éditions La Fabrique. Dans la foulée des premières « alertes » sur les risques existentiels de l’IA, Dario Amodei, le patron d’Anthropic, Sam Altman, celui d’OpenAI, Demis Hassabis, dirigeant de Google DeepMind, mais aussi Elon Musk – derrière le réseau social X mais aussi aux commandes de l’entreprise d’intelligence artificielle, SpacexAI – ont appelé à mettre en place des législations internationales pour « ralentir » la course à l’IA. « Une régulation conçue pour leur donner un avantage sur leurs concurrents », répondait Arthur Mensch, co-fondateur de la start-up d’intelligence artificielle française Mistral AI.
Une régulation par ailleurs largement dénoncée comme étant une stratégie législative opportuniste. « En concentrant l’attention sur les prétendus risques existentiels de l’intelligence artificielle, on en vient à avoir un débat sur des seuils, des standards, des limites à poser à la puissance des modèles, plutôt que d’évoquer les impacts concrets de ces technologies », détaille Irénée Régnauld. Une stratégie classique des industriels de la tech, dont les déclarations sur la superintelligence avaient déjà entraîné des débats similaires en 2014 et 2021.
