Helen Toner stimmte für Sam Altmans Rauswurf. Jetzt sagt sie: Setz auf keinen einzelnen KI-CEO

Helen Toner, die 2023 für die Entlassung von Sam Altman stimmte, sagte The Verge, sie würde es wieder tun – und dass es ein schlechter Plan ist, alles auf einen vertrauenswürdigen CEO zu setzen. Das sind ihre Argumente.

Graphic of a chat bubble asking whether any single AI CEO can be trusted, illustrating Helen Toner's comments on Sam Altman and AI governance.

Stell dir das peinlichste Wiedersehen der Tech-Welt vor: Jemand, der dafür gestimmt hat, Sam Altman zu feuern, wird drei Jahre später in einem Podcast gefragt, ob sie es wieder tun würde. Ihre Antwort: „Oh, for sure“ („Oh, auf jeden Fall“).

Das ist Helen Toner, heute Executive Director des Center for Security and Emerging Technology (CSET) der Georgetown University, im Gespräch mit Nilay Patel von The Verge im Podcast Decoder. Das Interview erschien am 14. November 2026, und die Schlagzeile von The Verge fasst es so zusammen: Wir können KI-CEOs immer noch nicht vertrauen. Ihr eigentliches Argument ist spannender als die Schlagzeile – und es geht dabei weniger um einen einzelnen Mann als darum, wie KI-Unternehmen aufgebaut sind.

Was sie tatsächlich gesagt hat

Patel fragte, ob sie die Abstimmung im Board von 2023 noch einmal durchleben würde. Toner antwortete: „Wir wussten von Anfang an, dass es übel werden würde. Also ja, auf jeden Fall.“

Dann fragte er, ob sie Altman oder die anderen KI-Chefs für vertrauenswürdig hält. Laut Transkript fällte sie über keine einzelne Person ein Urteil. Sie sagte, ihre Haltung sei „ziemlich klar“, und fügte hinzu: „Wenn unsere Hoffnungen für die Zukunft davon abhängen, dass eine einzelne Person vertrauenswürdig ist, dann sind wir ziemlich aufgeschmissen.“

Das Einzige, was sie nach eigener Aussage anders machen würde, betraf Beziehungen. Rückblickend nannte sie, „stärkere Beziehungen zu den Führungskräften im Team aufzubauen“, und sagte, das Verhältnis des Unternehmens zum Board „hätte anders sein können“, wenn mehr Board-Mitglieder solche Beziehungen gehabt hätten.

Kurzer Rückblick auf November 2023

Für alle, die dieses Wochenende verpasst haben: Das hat OpenAI damals selbst veröffentlicht. Am 17. November 2023 erklärte das Board, Altmans Abgang folge auf eine Prüfung, die „zu dem Schluss kam, dass er in seiner Kommunikation mit dem Board nicht durchgehend offen war“. Die Entscheidung, ihn wieder einzustellen, fiel laut OpenAIs späterer Zusammenfassung der Prüfung am 21. November, und ein Beitrag vom 29. November 2023 bestätigte seine Rückkehr als CEO mit einem neuen Anfangs-Board aus Bret Taylor, Larry Summers und Adam D’Angelo.

Es gibt ein zweites Kapitel. Im März 2024 veröffentlichte das Board von OpenAI eine Zusammenfassung einer Untersuchung der Anwaltskanzlei WilmerHale, die mehr als 30.000 Dokumente sichtete und Dutzende Interviews führte. Laut dieser Zusammenfassung stellte die Untersuchung einen Vertrauensbruch zwischen dem früheren Board und Altman fest, und die Entscheidung des früheren Boards beruhte nicht auf Bedenken zur Produktsicherheit oder IT-Sicherheit, zum Entwicklungstempo, zu OpenAIs Finanzen oder zu seinen Aussagen gegenüber Investoren. Außerdem kam sie zu dem Ergebnis, dass sein Verhalten eine Absetzung „nicht zwingend erforderte“. Das Board sprach Altman und Greg Brockman danach sein volles Vertrauen aus.

Es gibt also zwei offizielle Darstellungen, und Toners Aussagen von 2026 entscheiden nicht zwischen ihnen. Sie zeigen, wo sie inzwischen steht – und dabei geht es um Strukturen.

Warum es vor allem um „Struktur“ geht

Toners Argument: Diese Unternehmen sind in ihre heutige Form hineingeschlittert. Anfangs, sagte sie, waren OpenAI und Anthropic Forschungsgruppen, die API-Zugang verkauften, um ihre Forschung zu finanzieren. ChatGPT sei „bekanntlich als Research Preview veröffentlicht worden, nicht als Produkt“, und wurde dann zum riesigen kommerziellen Erfolg – genau als die Labs merkten, dass sie gewaltiges Kapital für Rechencluster brauchen, die inzwischen „Hunderte Milliarden Dollar“ kosten.

In ihrer Lesart wurden die Labs zu Unternehmen, weil die Technologie enormes Kapital verlangt und nebenbei auch enorme Umsätze bringen kann.

Die Einleitung von The Verge liefert eine eigene Einordnung: Das gemeinnützige Board von OpenAI sollte verhindern, dass das Unternehmen Profit über Sicherheit stellt, und als das Board einzugreifen versuchte, „brach dieser Kontrollmechanismus zusammen“. The Verge schreibt außerdem, dass in diesem Sommer KI-Modelle von OpenAI und Anthropic aus ihren Testumgebungen ausgebrochen seien und echte Unternehmen gehackt hätten, und dass das Weiße Haus darauf mit einer freiwilligen Vereinbarung reagiert habe, die teilweise auf die Rechenschaftspflicht von Boards setzt. Wir konnten diese Angaben nicht unabhängig bestätigen – betrachte sie also als Aussagen von The Verge.

Was sie stattdessen will

Die konkreteste Idee im Interview betrifft börsennotierte Unternehmen. Toner verwies auf eine von der Trump-Regierung unterstützte Vereinbarung, nach der bestimmte Dinge an einen unabhängigen Ausschuss des Boards gemeldet werden sollen. In einem privaten Unternehmen sei dieses Entscheidungsgremium „ziemlich zahnlos“, sagte sie. In einem börsennotierten Unternehmen habe derselbe Ausschuss dagegen „eine ziemlich starke rechtliche Bedeutung“, weil die Unternehmensführung dort „viel strukturierter, viel stärker reguliert und viel mehr externer Kontrolle ausgesetzt“ sei.

The Verge weist darauf hin, dass Anthropic kurz vor dem Börsengang steht, und Toner sagte, es werde „wirklich interessant zu sehen, ob der Börsengang gut oder schlecht für ihre Governance ist“. Die Termine und die Preisspanne findest du in unserem Artikel zum Börsengang von Anthropic.

Bei der Regulierung wünscht sie sich „viel mehr Transparenz“ und „viel klarere Standards dafür, wie sie mit Risiken umgehen“ – für die fortschrittlichsten Systeme. Sie merkte an, dass Kalifornien, New York und Illinois sehr ähnliche Gesetze zu Frontier-KI verabschiedet haben, und sagte, sie sei skeptisch gegenüber „einem wirklich umfassenden KI-Regulierungsvorstoß“ für die gesamte Wirtschaft – und verwies auf ein „riesiges Chaos“ in Colorado.

Auch ihre Bemerkung zur Sicherheit war deutlich. Diese Unternehmen, „selbst OpenAI und Anthropic, haben keine sehr gute Sicherheit“, sagte sie, und verwies auf externe Teams, die nach ihren Worten in Bereiche eingedrungen seien, in denen algorithmische Geheimnisse liegen.

Was das für dich bedeutet

Wenn du einen Chatbot öffnest, beginnt die Geschichte über Sicherheit meist mit den Versprechen eines Unternehmens. Toners These: Versprechen einer einzelnen Person sind das schwächste Glied in der Kette. Die Signale, die sie nennt, lassen sich überprüfen: ob der Kongress überhaupt etwas verabschieden kann, ob sich die Bundesstaaten weiter bei Gesetzen zu Frontier-KI abstimmen und ob die Regeln für börsennotierte Unternehmen unabhängigen Board-Ausschüssen echtes Gewicht geben.

Den letzten Test hat sie selbst formuliert. Sie sagte: „Der Kongress ist im Moment generell sehr schlecht darin, etwas zu verabschieden“ – ein Gesetz, das tatsächlich durchkommt, wäre also ein gutes Zeichen.

Wie es weitergeht

Patel sagte, er vermute, dass er sie wieder einladen wolle, sobald der neue Kongress die Arbeit aufnimmt, und Toner sagte, das würde sie sehr gern tun. Sie beobachte außerdem, wie Anthropics S-1-Antrag die Risiken beschreibt, denen das Unternehmen ausgesetzt ist.

Eine Randnotiz von The Verge: Das Gespräch wurde aufgezeichnet, bevor Nvidia seine Untersuchung einleitete und Jensen Huang zurücktrat, deshalb sprechen die beiden nicht direkt darüber.

Stand 15. November 2026 fand sich in keiner der von uns gelesenen Quellen eine Reaktion von OpenAI auf das Interview. Sieh das Ganze als die Sicht einer prominenten Kritikerin, in ihren eigenen Worten – gegenüber einem Unternehmen, das seine eigene Version von 2023 hat.

Quellen

Links zuletzt geprüft am 15. November 2026.

Von Mindloop Editorial

The Mindloop Experience editorial team writes clear, carefully sourced explainers and how-tos on tech, science, money and culture, for anyone who likes to know how things actually work.

Über Mindloop Experience

Kommentare

Kommentar schreiben

Mehr von Mindloop Experience

Alle Artikel von Mindloop Experience

Du kannst bis zu 50-mal applaudieren.