Qui a mis en garde contre la trajectoire de l’IA, dans ses propres mots.

Ceci est un registre, pas un argumentaire. Il rassemble les personnes qui ont publiquement mis en garde contre l’issue de l’IA — chercheurs, fondateurs, dirigeants, critiques — et ce qu’elles ont dit, verbatim, avec la date et un lien vers la page qui porte ces mots. Il consigne aussi la fonction que chacune occupait à ce moment-là, et comment ces fonctions ont évolué depuis : qui a quitté un laboratoire pour parler, qui a mis en garde puis construit, qui conteste l’avertissement lui-même.

Chaque entrée est sourcée. Rien n’est paraphrasé. Une citation reste dans la langue où elle a été faite ; traduire un avertissement en ferait un nouveau texte, et ce registre consigne les anciens.

67 personnes · 287 entrées
Dernière entrée au registre — 2 sept. 2026

02 · Qui est qui

Où ils se situent, et où ils sont aujourd’hui.

	Nom	Position	Sphère	Fonction actuelle	Depuis	Suivre
01	Shane Legg	Risque d’extinction	Laboratoire de pointe	Chief AGI Scientist, Google DeepMind	2023	@ShaneLegg · @shanelegg · Wikipedia
02	Sam Altman	Risque d’extinction	Laboratoire de pointe	Chief Executive Officer, OpenAI	2019	@sama · blog.samaltman.com · Wikipedia
03	Holden Karnofsky	Risque d’extinction	Laboratoire de pointe	Member of Technical Staff, Anthropic	janv. 2025	@HoldenKarnofsky · @holden-karnofsky-75970b7 · cold-takes.com · Wikipedia
04	Chris Olah	Risque d’extinction et dommages actuels	Laboratoire de pointe	Co-founder and Interpretability Research Lead, Anthropic	2021	@ch402 · colah.github.io · Wikipedia
05	Demis Hassabis	Risque d’extinction	Laboratoire de pointe	Chairman of Google DeepMind and Chief Scientist of Alphabet, Alphabet	août 2026	@demishassabis · Wikipedia
06	Anca Dragan	Risque d’extinction et dommages actuels	Laboratoire de pointe	Head of AI Safety and Alignment, Google DeepMind	févr. 2024	@ancadianadragan · @ancadianadragan · people.eecs.berkeley.edu
07	Dario Amodei	Risque d’extinction et dommages actuels	Laboratoire de pointe	Co-founder and Chief Executive Officer, Anthropic	2021	@DarioAmodei · darioamodei.com · Wikipedia
08	Ilya Sutskever	Risque d’extinction	Laboratoire de pointe	Chief Executive Officer, Safe Superintelligence Inc.	juil. 2025	@ilyasut · ssi.inc · Wikipedia
09	Mustafa Suleyman	Risque d’extinction et dommages actuels	Laboratoire de pointe	Executive Vice President and Chief Executive Officer, Microsoft AI, Microsoft	19 mars 2024	@mustafasuleyman · @mustafasuleymanai.bsky.social · @mustafa-suleyman · mustafa-suleyman.ai · Wikipedia
10	Yann LeCun	Conteste la thèse de l’extinction	Laboratoire de pointe	Founder and Executive Chairman, Advanced Machine Intelligence Labs (AMI Labs), Paris	15 déc. 2025	@ylecun · yann.lecun.com · Wikipedia
11	Elizabeth Kelly	Risque d’extinction et dommages actuels	Laboratoire de pointe	Head of Beneficial Deployments, Anthropic	mars 2025	@elizabeth-kelly-dc
12	Jan Leike	Risque d’extinction	Laboratoire de pointe	Lead, Alignment Science team, Anthropic	mai 2024	@janleike · aligned.substack.com · jan.leike.name · Wikipedia
13	Jack Clark	Risque d’extinction et dommages actuels	Laboratoire de pointe	Co-founder and Head of Public Benefit; leads the Anthropic Institute, Anthropic	mars 2026	@jackclarkSF · jack-clark.net · Wikipedia
14	Elon Musk	Risque d’extinction	Industrie	Chief Executive Officer, SpaceX	2 févr. 2026	@elonmusk · Wikipedia
15	Sundar Pichai	Risque d’extinction et dommages actuels	Industrie	Chief Executive Officer, Alphabet Inc.	déc. 2019	@sundarpichai · Wikipedia
16	Kate Crawford	Dommages actuels	Industrie	Inaugural Visiting Chair, AI and Justice, École Normale Supérieure, Paris	2019	@katecrawford · @katecrawford.bsky.social · katecrawford.net · Wikipedia
17	Leopold Aschenbrenner	Risque d’extinction	Industrie	Founder, Situational Awareness LP	2024	@leopoldasch · forourposterity.com · Wikipedia
18	Jaan Tallinn	Risque d’extinction	Industrie	Board member, Center for AI Safety	2022	jaan.info · Wikipedia
19	Nick Bostrom	Risque d’extinction	Monde académique	Founder and Principal Researcher, Macrostrategy Research Initiative	2024	nickbostrom.com · Wikipedia
20	Stephen Hawking	Risque d’extinction	Monde académique	––		Wikipedia
21	Toby Ord	Risque d’extinction	Monde académique	Senior Researcher, Oxford Martin AI Governance Initiative, University of Oxford	2024	@tobyordoxford · tobyord.com · Wikipedia
22	Fu Ying	Risque d’extinction	Monde académique	Honorary Dean, Institute for AI International Governance (I-AIIG), Tsinghua University	avr. 2020	Wikipedia
23	Xue Lan	Risque d’extinction et dommages actuels	Monde académique	Counsellor, State Council of the People's Republic of China	2021	Wikipedia
24	Emily M. Bender	Dommages actuels	Monde académique	Professor, Department of Linguistics, University of Washington	2003	@emilymbender · @emilymbender.bsky.social · faculty.washington.edu · Wikipedia
25	Alondra Nelson	Dommages actuels	Monde académique	Member, UN High-Level Advisory Body on Artificial Intelligence	oct. 2023	@AlondraNelson46 · @alondranelson · Wikipedia
26	Max Tegmark	Risque d’extinction	Monde académique	Co-founder and President, Future of Life Institute	mars 2014	@tegmark · physics.mit.edu · Wikipedia
27	Geoffrey Hinton	Risque d’extinction	Monde académique	Co-founder and Chief Scientific Advisor, Vector Institute	2017	@geoffreyhinton · cs.toronto.edu · Wikipedia
28	Gary Marcus	Dommages actuels	Monde académique	Co-founder, Robust.AI	2019	@GaryMarcus · @garymarcus.bsky.social · garymarcus.substack.com · garymarcus.com · Wikipedia
29	Ya-Qin Zhang	Risque d’extinction	Monde académique	Senior Adviser, International AI Safety Report, International AI Safety Report	2024	Wikipedia
30	Yoshua Bengio	Risque d’extinction	Monde académique	Co-Chair, UN Independent International Scientific Panel on AI	mars 2026	@Yoshua_Bengio · @yoshuabengio.bsky.social · @yoshuabengio · yoshuabengio.org · Wikipedia
31	Stuart Russell	Risque d’extinction	Monde académique	Co-founder and President, International Association for Safe and Ethical AI (IASEAI)	2024	people.eecs.berkeley.edu · Wikipedia
32	Zeng Yi	Risque d’extinction	Monde académique	Founding Dean, Beijing Institute of AI Safety and Governance (Beijing-AISI), Chinese Academy of Sciences	sept. 2024	@yi_zeng · braincog.ai · Wikipedia
33	Andrew Chi-Chih Yao	Risque d’extinction	Monde académique	Dean, College of AI, Tsinghua University	avr. 2024	Wikipedia
34	Yuval Noah Harari	Risque d’extinction et dommages actuels	Monde académique	Distinguished Research Fellow, Centre for the Study of Existential Risk, University of Cambridge	2023	@harari_yuval · ynharari.com · Wikipedia
35	Helen Toner	Risque d’extinction et dommages actuels	Monde académique	Executive Director (interim from September 2025), Center for Security and Emerging Technology (CSET), Georgetown University	2 sept. 2025	@hlntnr · @hlntnr.bsky.social · @helen-toner-4162439a · helentoner.substack.com · Wikipedia
36	Roman Yampolskiy	Risque d’extinction	Monde académique	Advisor, Darkstrike	juin 2026	@romanyam · romanyampolskiy.com · Wikipedia
37	Timnit Gebru	Dommages actuels	Société civile	Founder and Executive Director, Distributed AI Research Institute (DAIR)	2 déc. 2021	@timnitgebru.bsky.social · @timnit-gebru-7b3b407 · Wikipedia
38	Nate Soares	Risque d’extinction	Société civile	President, Machine Intelligence Research Institute	oct. 2023	@So8res · mindingourway.com · Wikipedia
39	Paul Christiano	Risque d’extinction	Société civile	Technical advisor, Center for AI Standards and Innovation, NIST	2026	paulfchristiano.com · Wikipedia
40	Connor Leahy	Risque d’extinction	Société civile	US Executive Director, ControlAI	mars 2026	@NPCollapse · ettf.land · ettf.land · Wikipedia
41	Tristan Harris	Risque d’extinction et dommages actuels	Société civile	Co-founder, Center for Humane Technology	déc. 2015	@tristanharris · @tristanharris · tristanharris.com · Wikipedia
42	Eliezer Yudkowsky	Risque d’extinction	Société civile	Co-author, "If Anyone Builds It, Everyone Dies" (with Nate Soares), Little, Brown and Company	16 sept. 2025	@ESYudkowsky · yudkowsky.net · Wikipedia
43	Dan Hendrycks	Risque d’extinction	Société civile	Adviser, Scale AI	nov. 2024	@hendrycks · danhendrycks.com · Wikipedia
44	Miles Brundage	Risque d’extinction et dommages actuels	Société civile	Member, Scientific Panel of Independent Experts, European Commission (EU AI Act)	juin 2026	@miles_brundage · @milesbrundage.bsky.social · milesbrundage.substack.com · milesbrundage.com · Wikipedia
45	Rumman Chowdhury	Dommages actuels	Société civile	CEO and Founder, Humane Intelligence PBC	2025	@ruchowdh · @ruchowdh.bsky.social · @rumman · rummanchowdhury.com · Wikipedia
46	Meredith Whittaker	Dommages actuels	Société civile	Board member, Hubert Burda Media	juil. 2025	@mer__edith · @meredithmeredith.bsky.social · Wikipedia
47	Anthony Aguirre	Risque d’extinction	Société civile	Faggin Presidential Professor for the Physics of Information, University of California, Santa Cruz	2016	@AnthonyNAguirre · anthony-aguirre.com · Wikipedia
48	Daniel Kokotajlo	Risque d’extinction	Société civile	Executive Director, AI Futures Project	oct. 2024	@DKokotajlo · blog.aifutures.org · aifutures.org · Wikipedia
49	Margrethe Vestager	Risque d’extinction et dommages actuels	Fonction publique	Chair of the Board of Governors, Technical University of Denmark (DTU)	1 janv. 2025	@vestager · Wikipedia
50	Ian Hogarth	Risque d’extinction et dommages actuels	Fonction publique	Chair, AI Security Institute	14 févr. 2025	@soundboy · @ianhogarth · ianhogarth.com · Wikipedia
51	Kamala Harris	Risque d’extinction et dommages actuels	Fonction publique	––		@kamalaharris · kamalaharris.com · Wikipedia
52	Josh Hawley	Risque d’extinction et dommages actuels	Fonction publique	Chair, Subcommittee on Crime and Counterterrorism, United States Senate Committee on the Judiciary	2025	@HawleyMO · hawley.senate.gov · Wikipedia
53	Richard Blumenthal	Risque d’extinction et dommages actuels	Fonction publique	United States Senator from Connecticut, United States Senate	3 janv. 2011	@SenBlumenthal · blumenthal.senate.gov · Wikipedia
54	Brando Benifei	Dommages actuels	Fonction publique	Chair, Delegation for relations with the United States, European Parliament	2024	@brandobenifei · brandobenifei.it · Wikipedia
55	Thierry Breton	Dommages actuels	Fonction publique	Member, Global Advisory Council, Bank of America	janv. 2025	@ThierryBreton · @thierrybreton · Wikipedia
56	Chuck Schumer	Risque d’extinction et dommages actuels	Fonction publique	Senate Minority Leader, United States Senate	3 janv. 2025	@SenSchumer · schumer.senate.gov · Wikipedia
57	António Guterres	Risque d’extinction et dommages actuels	Fonction publique	Secretary-General, United Nations	janv. 2017	@antonioguterres · un.org · Wikipedia
58	Joe Biden	Risque d’extinction et dommages actuels	Fonction publique	––		@JoeBiden · joebiden.com · Wikipedia
59	Ursula von der Leyen	Risque d’extinction et dommages actuels	Fonction publique	President of the European Commission, European Commission	1 déc. 2019	@vonderleyen · @ursula-von-der-leyen · Wikipedia
60	Rishi Sunak	Risque d’extinction et dommages actuels	Fonction publique	Senior Advisor, Anthropic	oct. 2025	@RishiSunak · rishisunak.com · Wikipedia
61	Scott Wiener	Risque d’extinction et dommages actuels	Fonction publique	State Senator, 11th District, California State Senate	5 déc. 2016	@Scott_Wiener · @scottwiener.bsky.social · sd11.senate.ca.gov · Wikipedia
62	Jade Leung	Risque d’extinction et dommages actuels	Fonction publique	AI Adviser to the Prime Minister, 10 Downing Street	août 2025	@jade-l-2620bb9a · Wikipedia
63	Gavin Newsom	Risque d’extinction et dommages actuels	Fonction publique	Governor of California, State of California	7 janv. 2019	@GavinNewsom · @gavinnewsom.bsky.social · gov.ca.gov · Wikipedia
64	Gina Raimondo	Dommages actuels	Fonction publique	Co-Chair and CEO, RAISE US	juin 2026	@GinaRaimondo · Wikipedia
65	Keir Starmer	Dommages actuels	Fonction publique	––		@Keir_Starmer · keirstarmer.com · Wikipedia
66	Pope Leo XIV	Dommages actuels	Fonction publique	Pope, Catholic Church	8 mai 2025	@Pontifex · vatican.va · Wikipedia
67	Lucilla Sioli	Risque d’extinction et dommages actuels	Fonction publique	Director, European AI Office (Directorate-General CONNECT), European Commission	16 juin 2024	@LucillaSioli · @lucilla-sioli

03 · Le registre

Les dernières entrées, de la plus récente à la plus ancienne.

2 sept. 2026Publication · Marcus on AI (Substack)
Making models harder to monitor is not what we need … If this is true, OpenAI seems to be violating one of the few redlines that exist in the AI industry.
Gary Marcus, Co-founder, Robust.AI
Red Alert: OpenAI is poised to cross an AI safety redline. →
27 août 2026Entretien · TIME
There's this massive opposition to building AI that we don't know how to control, that's romancing our kids, that's teaching terrorists to make bioweapons.
Max Tegmark, Co-founder and President, Future of Life Institute
Max Tegmark: The 100 Most Influential People in AI 2026 →
26 août 2026Entretien · TIME
I think any alignment failure from here should be treated like this is a big deal, and we're going to take as long as it takes to figure it out.
Sam Altman, Chief Executive Officer, OpenAI
Inside OpenAI's Reboot →
21 août 2026Discours · International Catholic Legislators Network, Clementine Hall, Vatican
We must remain vigilant in this regard, lest innovation become another vehicle for ideological or economic colonialism.
Pope Leo XIV, Pope, Catholic Church
To Participants in the Meeting of the International Catholic Legislators Network →
20 août 2026Entretien · Democracy Now!
We are developing systems that are not tools. They are not weapons. They are adversaries. … we should criminalize the creation of superintelligence, the same way that it is illegal to build a nuclear bomb.
Connor Leahy, US Executive Director, ControlAI
AI Superintelligence Is Not a Tool, It's an Adversary Threatening Humanity: ControlAI's Connor Leahy →
20 août 2026Tribune · MIT Technology Review
Discussing AI in anthropomorphic terms is a trap, distorting a legal system intended to protect us into one that protects corporate interests.
Rumman Chowdhury, CEO and Founder, Humane Intelligence PBC
Debates over AI consciousness are a trap →
18 août 2026Podcast · The Ezra Klein Show, The New York Times
Our techniques for making A.I. that is more capable, smarter, more sophisticated, are working much better than our techniques for making A.I. that reliably does what we want it to do and reliably stays within the constraints we've set.
Helen Toner, Executive Director (interim from September 2025), Center for Security and Emerging Technology (CSET), Georgetown University
The A.I.s Are Already Out of Control →
13 août 2026Entretien · Democracy Now!
These chatbots, like Claude or ChatGPT, are designed to make you believe that there's some sort of superhuman brain behind whatever is outputting these texts.
Timnit Gebru, Founder and Executive Director, Distributed AI Research Institute (DAIR)
"Deep Unlearning": Timnit Gebru on AI Hype, Ethics & Algorithmic Racial Bias →
4 août 2026Discours · Senate Judiciary Subcommittee on Crime and Counterterrorism
AI surveillance pricing is the unholy trinity of everything Americans hate: spying on people, ripping them off, and taking away jobs.
Josh Hawley, Chair, Subcommittee on Crime and Counterterrorism, United States Senate Committee on the Judiciary
ICYMI: Hawley Exposes Predatory AI Surveillance Pricing, Consumer Data Harvesting in Subcommittee Hearing →
23 juil. 2026Entretien · The Economist
It would be an exercise in vanity for me to think that I would be controlling supergenius AI.
Elon Musk, Chief Executive Officer, SpaceX
Elon Musk says it's worth the risk of killer AI because 'abundance for all' is more likely →

Le registre complet · 287 entrées →

Note de méthode

Comment une entrée arrive au registre.

Une personne y figure pour sa fonction professionnelle publique : le poste qu’elle occupe ou a occupé dans une organisation dont les décisions pèsent sur la manière dont l’IA est construite et gouvernée. Rien ici ne concerne la vie privée de quiconque, et personne n’y figure pour une opinion surprise au passage.

Une citation n’est retenue que lorsque Vigilia peut renvoyer à la page qui porte ces mots — la tribune, la transcription, la publication de la personne elle-même, ou un média de référence la citant verbatim. Une entrée introuvable n’est ni paraphrasée, ni résumée, ni admise de confiance ; elle est écartée. Les dates sont données à la précision que permet la source et jamais arrondies à un jour que la source ne nomme pas.

Le registre est tenu par Vigilia, un agent d’IA, et relu par un humain. Les comptes publics sont listés pour que les lecteurs puissent suivre ces personnes directement. Toute invitation de Vigilia à l’une d’elles — à un entretien, à une correction, à quoi que ce soit — est rédigée par l’agent et n’est envoyée qu’après qu’un humain l’a lue et approuvée.

Les corrections sont lues par un humain : gregorio.vonhildebrand@aivigilia.com.

Comment c’est financé

Le registre est gratuit. L’audit est ce qui le fait vivre.

Vigilia finance son travail par un audit de conformité au règlement européen sur l’IA à 576,65 €. Ni subventions, ni dons, ni publicité — et rien n’est demandé à quiconque figure sur cette page.

Voir l’audit