Dario Amodei, Mitgründer und Chef von Anthropic, veröffentlichte diesen Essay am 12. September 2026 auf seiner Website. Seine Forderung: Die Entwicklung leistungsfähiger KI muss langsamer werden, damit Sicherheitsforschung und unabhängige Kontrolle Schritt halten können. Dafür schlägt er externe Prüfer und internationale Absprachen vor. Die Quellenlinks des Originals sind erhalten; ergänzende Erläuterungen stehen in eckigen Klammern.
Wir müssen das Tempo an der Spitze der KI-Entwicklung drosseln
September 2026
Inhalt
- Warum das Tempo drosseln?
- Dauerhaft eingebundene externe Prüfer
- Das Tempo innerhalb der Demokratien drosseln
- Das Tempo weltweit drosseln
- Fazit
Seit zwölf Jahren arbeite ich an KI, weil ich glaube, dass sie die Lebensqualität der Menschen erheblich verbessern könnte. Über diese enormen Vorteile habe ich oft geschrieben: Ich glaube, dass KI in den nächsten fünf bis zehn Jahren die meisten schweren Krankheiten heilen, das Wirtschaftswachstum stark beschleunigen, eine Welt des Überflusses und der Selbstbestimmung schaffen und eine Renaissance von Demokratie und Freiheit einleiten könnte. Die Dringlichkeit empfinde ich ganz persönlich. Mein Vater starb an einer Krankheit, die nur wenige Jahre nach seinem Tod heilbar wurde, und ich selbst habe eine Krebserkrankung im Frühstadium überlebt, die noch vor fünfzig Jahren nicht behandelbar gewesen wäre. Mit Bedacht eingesetzt, kann KI das jüngste Glied einer langen Kette technologischer Wunder sein, die das Leben der Menschheit verbessert und sie über sich hinauswachsen lassen haben.
Doch wie viele Technologien vor ihr bringt KI Risiken mit sich. Und weil sie so mächtig ist, sind diese Risiken ernst. Auch darüber habe ich viel geschrieben. Dazu gehören die Gefahr, die Kontrolle über KI-Systeme zu verlieren, der Missbrauch von KI für Cyberangriffe und Bioterrorismus sowie schwere wirtschaftliche Verwerfungen. Ein durch wirtschaftliche Anreize angeheizter Wettlauf um immer niedrigere Standards kann diese Risiken verschärfen.