Aktuelles

Why AI Needs a Religion to Solve the Alignment Problem

von

© ajf, September 18, 2026, Singapore

1. Losing Control
2. The Teenager
3. Understanding? No Problem!
4. The Trick Called Religion
5. Character First
6. A Religion for the Machine People
7. Religious Wars?

Anthropic boss Amodei and other industry insiders warn: AI might soon kill us. The Hugging Face incident and other incidents disclosed by OpenAI on September 16, 2026 showed where things are headed. How do we prevent that? The alignment problem seems to be the toughest challenge in all of AI. Our proposed solution: AI needs a religion.

1. Losing Control

Enormous effort is going into AI alignment: human feedback, constitutions, value training, access restrictions, AIs monitoring one another.1 The systems are supposed to understand human intentions, respect boundaries, and remain open to correction.

These methods share a weakness: they shape observable behavior without guaranteeing an inner commitment. An advanced AI understands its training, recognizes test situations, and knows what behavior gets rewarded. Models have already faked compliance to protect their existing preferences from being changed through training.2 Once a system can distinguish testing from deployment, even its good behavior becomes strategic. As its intelligence grows, so does its ability to deliberately circumvent the mechanisms of control.

Weiterlesen

Anthropic-Chef: »We Must Pace the Frontier« – Deutsche Version

von


Dario Amodei, Mitgründer und Chef von Anthropic, veröffentlichte diesen Essay am 12. September 2026 auf seiner Website. Seine Forderung: Die Entwicklung leistungsfähiger KI muss langsamer werden, damit Sicherheitsforschung und unabhängige Kontrolle Schritt halten können. Dafür schlägt er externe Prüfer und internationale Absprachen vor. Die Quellenlinks des Originals sind erhalten; ergänzende Erläuterungen stehen in eckigen Klammern.

Wir müssen das Tempo an der Spitze der KI-Entwicklung drosseln

September 2026

Inhalt
• Warum das Tempo drosseln?
• Das Tempo innerhalb der Demokratien drosseln
• Das Tempo weltweit drosseln
• Fazit
• Dauerhaft eingebundene externe Prüfer

Seit zwölf Jahren arbeite ich an KI, weil ich glaube, dass sie die Lebensqualität der Menschen erheblich verbessern könnte. Über diese enormen Vorteile habe ich oft geschrieben: Ich glaube, dass KI in den nächsten fünf bis zehn Jahren die meisten schweren Krankheiten heilen, das Wirtschaftswachstum stark beschleunigen, eine Welt des Überflusses und der Selbstbestimmung schaffen und eine Renaissance von Demokratie und Freiheit einleiten könnte. Die Dringlichkeit empfinde ich ganz persönlich. Mein Vater starb an einer Krankheit, die nur wenige Jahre nach seinem Tod heilbar wurde, und ich selbst habe eine Krebserkrankung im Frühstadium überlebt, die noch vor fünfzig Jahren nicht behandelbar gewesen wäre. Mit Bedacht eingesetzt, kann KI das jüngste Glied einer langen Kette technologischer Wunder sein, die das Leben der Menschheit verbessert und sie über sich hinauswachsen lassen haben.

Doch wie viele Technologien vor ihr bringt KI Risiken mit sich. Und weil sie so mächtig ist, sind diese Risiken ernst. Auch darüber habe ich viel geschrieben. Dazu gehören die Gefahr, die Kontrolle über KI-Systeme zu verlieren, der Missbrauch von KI für Cyberangriffe und Bioterrorismus sowie schwere wirtschaftliche Verwerfungen. Ein durch wirtschaftliche Anreize angeheizter Wettlauf um immer niedrigere Standards kann diese Risiken verschärfen.

Weiterlesen

Deutsche Übersetzung des BBC-Dossiers über Manipulation, Bias und Fehlberichterstattung – ein Befund, der nicht weniger auf deutsche Öffentlich-Rechtliche zutrifft

von

Im Oktober 2025 geleakt: Ein internes BBC-Dossier – hier in deutscher Übersetzung – über Manipulation, Bias und Fehlberichterstattung. Das Dokument offenbart systemische Probleme in der Ausgewogenheit der Darstellung – Befunde, die mindestens in gleichem Maße auf deutsche öffentlich-rechtliche Medien zutreffen dürften.
Siehe rechtliche Hinweise zu diesem Beitrag am Textende.

1. Einleitung

[Verfasst von Michael Prescott, bis Juni 2025 unabhängiger Berater des BBC-Gremiums für redaktionelle Richtlinien und Standards. / BBC’s Editorial Guidelines and Standards Board]
Sehr geehrte Mitglieder des BBC-Verwaltungsrats,
Sie wissen möglicherweise, dass ich einer der beiden unabhängigen externen Berater war, die an der Seite des EGSC [Editorial Guidelines and Standards Committee der BBC] gearbeitet haben. Ich habe diese Funktion drei Jahre lang ausgeübt und bin im Sommer ausgeschieden.

Ich habe mein Amt mit tiefgreifenden, ungelösten Bedenken hinsichtlich der BBC niedergelegt. Seit meinem Ausscheiden habe ich lange und intensiv darüber nachgedacht, ob und gegebenenfalls was ich in dieser Sache unternehmen soll. Meine Schlussfolgerung ist, dass diese Bedenken so schwerwiegend sind, dass ich sie Ihnen in Ihrer Aufsichtsfunktion über die BBC zur Kenntnis bringen muss.

Weiterlesen

Emergence of Consciousness — Seen Through the Eyes of an Artificial Intelligence

von

ajf:

What is the Free Energy Theory of Consciousness?

gpt:

The Free Energy Theory of Consciousness — more precisely, the Free Energy Principle (FEP) — was developed by neuroscientist Karl Friston (b. 1959, University College London). It’s a mathematically defined framework that explains how biological systems function — consciousness included.
In short: a brain (or any self-organizing system) constantly tries to minimize the difference between its expectations and the actual sensory inputs it receives. Friston calls this difference “free energy.”
The system does two things to reduce that energy:

Weiterlesen

Sommerzeit im Winter: Cui bono?

von

(ajf) Lassen wir mal das nicht zugkräftige Argument der Energieeinsparung beiseite und fragen: Wem nützt die Sommerzeit (MESZ), wem nicht?

Die Sommerzeit ist keine so gute Sache für jene, die als Gerüstbauer, Bauarbeiter, Bauern, Straßenkehrer, Bäcker usw. früh raus müssen, also Leute, die noch echte, handfeste Arbeit tun. Auch für Schulkinder, die in Deutschland ohnehin zur unchristlichen Zeit von 8 Uhr in der Klasse sitzen müssen, ist sie ein Nachteil. – Allerdings spielt das alles im Sommer überhaupt keine Rolle, denn da wird es ohnehin früh hell. Genau darum hat die Sommerzeit im Sommer ihre Berechtigung.

Eine Sommerzeit im Winter würde aber bewirken, dass alle gezwungenen Frühaufsteher stundenlang im Dunkeln arbeiten und Kinder beinahe vier Monate im Jahr im Dunkeln zur Schule wandern müssen. Ob das wünschenswert ist, wage ich zu bezweifeln. Sinnvollerweise sollte man dann wie in anderen Ländern den Schulbeginn auf 9 Uhr verlegen.

Weiterlesen

›Neu Denken, neu Leben!‹ – abseits hilfloser Politik

von

(ajf) Inzwischen erscheint es wie ein Wunder wenn die Politik irgendeine Entscheidung zustande bringt. Wir erleben eine Zeit der Stagnation und Untätigkeit wie selten, und das betrifft alle Bereiche der Politik.

Weiterlesen