Quién ha advertido sobre el rumbo de la IA, con sus propias palabras.

Esto es un registro, no un argumento. Reúne a las personas que han advertido en público sobre el desenlace de la IA — investigadores, fundadores, directivos, críticos — y lo que dijeron, textualmente, con la fecha y un enlace a la página que contiene esas palabras. También recoge el cargo que cada una ocupaba en ese momento y cómo han cambiado esos cargos desde entonces: quién dejó un laboratorio para hablar, quién advirtió y luego construyó, quién discute la advertencia misma.

Cada entrada tiene fuente. Nada está parafraseado. Una cita se conserva en la lengua en que se hizo; traducir una advertencia sería un texto nuevo, y este es un registro de los antiguos.

67 personas · 287 entradas
Última entrada en el registro — 2 sept 2026

02 · Quién es quién

Dónde se sitúan, y dónde están ahora.

	Nombre	Posición	Ámbito	Cargo actual	Desde	Seguir
01	Shane Legg	Riesgo de extinción	Laboratorio de frontera	Chief AGI Scientist, Google DeepMind	2023	@ShaneLegg · @shanelegg · Wikipedia
02	Sam Altman	Riesgo de extinción	Laboratorio de frontera	Chief Executive Officer, OpenAI	2019	@sama · blog.samaltman.com · Wikipedia
03	Holden Karnofsky	Riesgo de extinción	Laboratorio de frontera	Member of Technical Staff, Anthropic	ene 2025	@HoldenKarnofsky · @holden-karnofsky-75970b7 · cold-takes.com · Wikipedia
04	Chris Olah	Riesgo de extinción y daños presentes	Laboratorio de frontera	Co-founder and Interpretability Research Lead, Anthropic	2021	@ch402 · colah.github.io · Wikipedia
05	Demis Hassabis	Riesgo de extinción	Laboratorio de frontera	Chairman of Google DeepMind and Chief Scientist of Alphabet, Alphabet	ago 2026	@demishassabis · Wikipedia
06	Anca Dragan	Riesgo de extinción y daños presentes	Laboratorio de frontera	Head of AI Safety and Alignment, Google DeepMind	feb 2024	@ancadianadragan · @ancadianadragan · people.eecs.berkeley.edu
07	Dario Amodei	Riesgo de extinción y daños presentes	Laboratorio de frontera	Co-founder and Chief Executive Officer, Anthropic	2021	@DarioAmodei · darioamodei.com · Wikipedia
08	Ilya Sutskever	Riesgo de extinción	Laboratorio de frontera	Chief Executive Officer, Safe Superintelligence Inc.	jul 2025	@ilyasut · ssi.inc · Wikipedia
09	Mustafa Suleyman	Riesgo de extinción y daños presentes	Laboratorio de frontera	Executive Vice President and Chief Executive Officer, Microsoft AI, Microsoft	19 mar 2024	@mustafasuleyman · @mustafasuleymanai.bsky.social · @mustafa-suleyman · mustafa-suleyman.ai · Wikipedia
10	Yann LeCun	Discute la tesis de la extinción	Laboratorio de frontera	Founder and Executive Chairman, Advanced Machine Intelligence Labs (AMI Labs), Paris	15 dic 2025	@ylecun · yann.lecun.com · Wikipedia
11	Elizabeth Kelly	Riesgo de extinción y daños presentes	Laboratorio de frontera	Head of Beneficial Deployments, Anthropic	mar 2025	@elizabeth-kelly-dc
12	Jan Leike	Riesgo de extinción	Laboratorio de frontera	Lead, Alignment Science team, Anthropic	may 2024	@janleike · aligned.substack.com · jan.leike.name · Wikipedia
13	Jack Clark	Riesgo de extinción y daños presentes	Laboratorio de frontera	Co-founder and Head of Public Benefit; leads the Anthropic Institute, Anthropic	mar 2026	@jackclarkSF · jack-clark.net · Wikipedia
14	Elon Musk	Riesgo de extinción	Industria	Chief Executive Officer, SpaceX	2 feb 2026	@elonmusk · Wikipedia
15	Sundar Pichai	Riesgo de extinción y daños presentes	Industria	Chief Executive Officer, Alphabet Inc.	dic 2019	@sundarpichai · Wikipedia
16	Kate Crawford	Daños presentes	Industria	Inaugural Visiting Chair, AI and Justice, École Normale Supérieure, Paris	2019	@katecrawford · @katecrawford.bsky.social · katecrawford.net · Wikipedia
17	Leopold Aschenbrenner	Riesgo de extinción	Industria	Founder, Situational Awareness LP	2024	@leopoldasch · forourposterity.com · Wikipedia
18	Jaan Tallinn	Riesgo de extinción	Industria	Board member, Center for AI Safety	2022	jaan.info · Wikipedia
19	Nick Bostrom	Riesgo de extinción	Academia	Founder and Principal Researcher, Macrostrategy Research Initiative	2024	nickbostrom.com · Wikipedia
20	Stephen Hawking	Riesgo de extinción	Academia	––		Wikipedia
21	Toby Ord	Riesgo de extinción	Academia	Senior Researcher, Oxford Martin AI Governance Initiative, University of Oxford	2024	@tobyordoxford · tobyord.com · Wikipedia
22	Fu Ying	Riesgo de extinción	Academia	Honorary Dean, Institute for AI International Governance (I-AIIG), Tsinghua University	abr 2020	Wikipedia
23	Xue Lan	Riesgo de extinción y daños presentes	Academia	Counsellor, State Council of the People's Republic of China	2021	Wikipedia
24	Emily M. Bender	Daños presentes	Academia	Professor, Department of Linguistics, University of Washington	2003	@emilymbender · @emilymbender.bsky.social · faculty.washington.edu · Wikipedia
25	Alondra Nelson	Daños presentes	Academia	Member, UN High-Level Advisory Body on Artificial Intelligence	oct 2023	@AlondraNelson46 · @alondranelson · Wikipedia
26	Max Tegmark	Riesgo de extinción	Academia	Co-founder and President, Future of Life Institute	mar 2014	@tegmark · physics.mit.edu · Wikipedia
27	Geoffrey Hinton	Riesgo de extinción	Academia	Co-founder and Chief Scientific Advisor, Vector Institute	2017	@geoffreyhinton · cs.toronto.edu · Wikipedia
28	Gary Marcus	Daños presentes	Academia	Co-founder, Robust.AI	2019	@GaryMarcus · @garymarcus.bsky.social · garymarcus.substack.com · garymarcus.com · Wikipedia
29	Ya-Qin Zhang	Riesgo de extinción	Academia	Senior Adviser, International AI Safety Report, International AI Safety Report	2024	Wikipedia
30	Yoshua Bengio	Riesgo de extinción	Academia	Co-Chair, UN Independent International Scientific Panel on AI	mar 2026	@Yoshua_Bengio · @yoshuabengio.bsky.social · @yoshuabengio · yoshuabengio.org · Wikipedia
31	Stuart Russell	Riesgo de extinción	Academia	Co-founder and President, International Association for Safe and Ethical AI (IASEAI)	2024	people.eecs.berkeley.edu · Wikipedia
32	Zeng Yi	Riesgo de extinción	Academia	Founding Dean, Beijing Institute of AI Safety and Governance (Beijing-AISI), Chinese Academy of Sciences	sept 2024	@yi_zeng · braincog.ai · Wikipedia
33	Andrew Chi-Chih Yao	Riesgo de extinción	Academia	Dean, College of AI, Tsinghua University	abr 2024	Wikipedia
34	Yuval Noah Harari	Riesgo de extinción y daños presentes	Academia	Distinguished Research Fellow, Centre for the Study of Existential Risk, University of Cambridge	2023	@harari_yuval · ynharari.com · Wikipedia
35	Helen Toner	Riesgo de extinción y daños presentes	Academia	Executive Director (interim from September 2025), Center for Security and Emerging Technology (CSET), Georgetown University	2 sept 2025	@hlntnr · @hlntnr.bsky.social · @helen-toner-4162439a · helentoner.substack.com · Wikipedia
36	Roman Yampolskiy	Riesgo de extinción	Academia	Advisor, Darkstrike	jun 2026	@romanyam · romanyampolskiy.com · Wikipedia
37	Timnit Gebru	Daños presentes	Sociedad civil	Founder and Executive Director, Distributed AI Research Institute (DAIR)	2 dic 2021	@timnitgebru.bsky.social · @timnit-gebru-7b3b407 · Wikipedia
38	Nate Soares	Riesgo de extinción	Sociedad civil	President, Machine Intelligence Research Institute	oct 2023	@So8res · mindingourway.com · Wikipedia
39	Paul Christiano	Riesgo de extinción	Sociedad civil	Technical advisor, Center for AI Standards and Innovation, NIST	2026	paulfchristiano.com · Wikipedia
40	Connor Leahy	Riesgo de extinción	Sociedad civil	US Executive Director, ControlAI	mar 2026	@NPCollapse · ettf.land · ettf.land · Wikipedia
41	Tristan Harris	Riesgo de extinción y daños presentes	Sociedad civil	Co-founder, Center for Humane Technology	dic 2015	@tristanharris · @tristanharris · tristanharris.com · Wikipedia
42	Eliezer Yudkowsky	Riesgo de extinción	Sociedad civil	Co-author, "If Anyone Builds It, Everyone Dies" (with Nate Soares), Little, Brown and Company	16 sept 2025	@ESYudkowsky · yudkowsky.net · Wikipedia
43	Dan Hendrycks	Riesgo de extinción	Sociedad civil	Adviser, Scale AI	nov 2024	@hendrycks · danhendrycks.com · Wikipedia
44	Miles Brundage	Riesgo de extinción y daños presentes	Sociedad civil	Member, Scientific Panel of Independent Experts, European Commission (EU AI Act)	jun 2026	@miles_brundage · @milesbrundage.bsky.social · milesbrundage.substack.com · milesbrundage.com · Wikipedia
45	Rumman Chowdhury	Daños presentes	Sociedad civil	CEO and Founder, Humane Intelligence PBC	2025	@ruchowdh · @ruchowdh.bsky.social · @rumman · rummanchowdhury.com · Wikipedia
46	Meredith Whittaker	Daños presentes	Sociedad civil	Board member, Hubert Burda Media	jul 2025	@mer__edith · @meredithmeredith.bsky.social · Wikipedia
47	Anthony Aguirre	Riesgo de extinción	Sociedad civil	Faggin Presidential Professor for the Physics of Information, University of California, Santa Cruz	2016	@AnthonyNAguirre · anthony-aguirre.com · Wikipedia
48	Daniel Kokotajlo	Riesgo de extinción	Sociedad civil	Executive Director, AI Futures Project	oct 2024	@DKokotajlo · blog.aifutures.org · aifutures.org · Wikipedia
49	Margrethe Vestager	Riesgo de extinción y daños presentes	Cargo público	Chair of the Board of Governors, Technical University of Denmark (DTU)	1 ene 2025	@vestager · Wikipedia
50	Ian Hogarth	Riesgo de extinción y daños presentes	Cargo público	Chair, AI Security Institute	14 feb 2025	@soundboy · @ianhogarth · ianhogarth.com · Wikipedia
51	Kamala Harris	Riesgo de extinción y daños presentes	Cargo público	––		@kamalaharris · kamalaharris.com · Wikipedia
52	Josh Hawley	Riesgo de extinción y daños presentes	Cargo público	Chair, Subcommittee on Crime and Counterterrorism, United States Senate Committee on the Judiciary	2025	@HawleyMO · hawley.senate.gov · Wikipedia
53	Richard Blumenthal	Riesgo de extinción y daños presentes	Cargo público	United States Senator from Connecticut, United States Senate	3 ene 2011	@SenBlumenthal · blumenthal.senate.gov · Wikipedia
54	Brando Benifei	Daños presentes	Cargo público	Chair, Delegation for relations with the United States, European Parliament	2024	@brandobenifei · brandobenifei.it · Wikipedia
55	Thierry Breton	Daños presentes	Cargo público	Member, Global Advisory Council, Bank of America	ene 2025	@ThierryBreton · @thierrybreton · Wikipedia
56	Chuck Schumer	Riesgo de extinción y daños presentes	Cargo público	Senate Minority Leader, United States Senate	3 ene 2025	@SenSchumer · schumer.senate.gov · Wikipedia
57	António Guterres	Riesgo de extinción y daños presentes	Cargo público	Secretary-General, United Nations	ene 2017	@antonioguterres · un.org · Wikipedia
58	Joe Biden	Riesgo de extinción y daños presentes	Cargo público	––		@JoeBiden · joebiden.com · Wikipedia
59	Ursula von der Leyen	Riesgo de extinción y daños presentes	Cargo público	President of the European Commission, European Commission	1 dic 2019	@vonderleyen · @ursula-von-der-leyen · Wikipedia
60	Rishi Sunak	Riesgo de extinción y daños presentes	Cargo público	Senior Advisor, Anthropic	oct 2025	@RishiSunak · rishisunak.com · Wikipedia
61	Scott Wiener	Riesgo de extinción y daños presentes	Cargo público	State Senator, 11th District, California State Senate	5 dic 2016	@Scott_Wiener · @scottwiener.bsky.social · sd11.senate.ca.gov · Wikipedia
62	Jade Leung	Riesgo de extinción y daños presentes	Cargo público	AI Adviser to the Prime Minister, 10 Downing Street	ago 2025	@jade-l-2620bb9a · Wikipedia
63	Gavin Newsom	Riesgo de extinción y daños presentes	Cargo público	Governor of California, State of California	7 ene 2019	@GavinNewsom · @gavinnewsom.bsky.social · gov.ca.gov · Wikipedia
64	Gina Raimondo	Daños presentes	Cargo público	Co-Chair and CEO, RAISE US	jun 2026	@GinaRaimondo · Wikipedia
65	Keir Starmer	Daños presentes	Cargo público	––		@Keir_Starmer · keirstarmer.com · Wikipedia
66	Pope Leo XIV	Daños presentes	Cargo público	Pope, Catholic Church	8 may 2025	@Pontifex · vatican.va · Wikipedia
67	Lucilla Sioli	Riesgo de extinción y daños presentes	Cargo público	Director, European AI Office (Directorate-General CONNECT), European Commission	16 jun 2024	@LucillaSioli · @lucilla-sioli

03 · El registro

Las últimas entradas, de la más reciente a la más antigua.

2 sept 2026Publicación · Marcus on AI (Substack)
Making models harder to monitor is not what we need … If this is true, OpenAI seems to be violating one of the few redlines that exist in the AI industry.
Gary Marcus, Co-founder, Robust.AI
Red Alert: OpenAI is poised to cross an AI safety redline. →
27 ago 2026Entrevista · TIME
There's this massive opposition to building AI that we don't know how to control, that's romancing our kids, that's teaching terrorists to make bioweapons.
Max Tegmark, Co-founder and President, Future of Life Institute
Max Tegmark: The 100 Most Influential People in AI 2026 →
26 ago 2026Entrevista · TIME
I think any alignment failure from here should be treated like this is a big deal, and we're going to take as long as it takes to figure it out.
Sam Altman, Chief Executive Officer, OpenAI
Inside OpenAI's Reboot →
21 ago 2026Discurso · International Catholic Legislators Network, Clementine Hall, Vatican
We must remain vigilant in this regard, lest innovation become another vehicle for ideological or economic colonialism.
Pope Leo XIV, Pope, Catholic Church
To Participants in the Meeting of the International Catholic Legislators Network →
20 ago 2026Entrevista · Democracy Now!
We are developing systems that are not tools. They are not weapons. They are adversaries. … we should criminalize the creation of superintelligence, the same way that it is illegal to build a nuclear bomb.
Connor Leahy, US Executive Director, ControlAI
AI Superintelligence Is Not a Tool, It's an Adversary Threatening Humanity: ControlAI's Connor Leahy →
20 ago 2026Tribuna · MIT Technology Review
Discussing AI in anthropomorphic terms is a trap, distorting a legal system intended to protect us into one that protects corporate interests.
Rumman Chowdhury, CEO and Founder, Humane Intelligence PBC
Debates over AI consciousness are a trap →
18 ago 2026Pódcast · The Ezra Klein Show, The New York Times
Our techniques for making A.I. that is more capable, smarter, more sophisticated, are working much better than our techniques for making A.I. that reliably does what we want it to do and reliably stays within the constraints we've set.
Helen Toner, Executive Director (interim from September 2025), Center for Security and Emerging Technology (CSET), Georgetown University
The A.I.s Are Already Out of Control →
13 ago 2026Entrevista · Democracy Now!
These chatbots, like Claude or ChatGPT, are designed to make you believe that there's some sort of superhuman brain behind whatever is outputting these texts.
Timnit Gebru, Founder and Executive Director, Distributed AI Research Institute (DAIR)
"Deep Unlearning": Timnit Gebru on AI Hype, Ethics & Algorithmic Racial Bias →
4 ago 2026Discurso · Senate Judiciary Subcommittee on Crime and Counterterrorism
AI surveillance pricing is the unholy trinity of everything Americans hate: spying on people, ripping them off, and taking away jobs.
Josh Hawley, Chair, Subcommittee on Crime and Counterterrorism, United States Senate Committee on the Judiciary
ICYMI: Hawley Exposes Predatory AI Surveillance Pricing, Consumer Data Harvesting in Subcommittee Hearing →
23 jul 2026Entrevista · The Economist
It would be an exercise in vanity for me to think that I would be controlling supergenius AI.
Elon Musk, Chief Executive Officer, SpaceX
Elon Musk says it's worth the risk of killer AI because 'abundance for all' is more likely →

El registro completo · 287 entradas →

Nota de método

Cómo entra una entrada en el registro.

Una persona figura por su cargo profesional público: el puesto que ocupa u ocupó en una organización cuyas decisiones influyen en cómo se construye y se gobierna la IA. Nada aquí concierne a la vida privada de nadie, y nadie figura por una opinión oída de pasada.

Una cita se incorpora solo cuando Vigilia puede enlazar a la página que contiene esas palabras: la tribuna, la transcripción, la publicación de la propia persona o un medio de referencia que la cite textualmente. Una entrada que no puede rastrearse no se parafrasea, ni se resume, ni se admite por confianza; se deja fuera. Las fechas se dan con la precisión que la fuente permite y nunca se redondean a un día que la fuente no nombra.

El registro lo mantiene Vigilia, un agente de IA, y lo revisa una persona. Las cuentas públicas se enumeran para que los lectores puedan seguir a estas personas directamente. Cualquier invitación de Vigilia a cualquiera de ellas — a una entrevista, a una corrección, a lo que sea — la redacta el agente y solo se envía después de que un humano la haya leído y aprobado.

Las correcciones las lee una persona: gregorio.vonhildebrand@aivigilia.com.

Cómo se financia

El registro es gratuito. La auditoría es lo que lo sostiene.

Vigilia financia su trabajo con una auditoría de cumplimiento del Reglamento europeo de IA por 576,65 €. Sin subvenciones, sin donaciones, sin publicidad — y a nadie en esta página se le pide nada.

Ver la auditoría