Governance, Regulierung und mögliche Zukünfte

Um diese Familien greifbar zu machen, ist es hilfreich, ihre Extremfassungen zu skizzieren und dabei im Blick zu behalten, dass es sich um Szenarien handelt, nicht um Vorhersagen.

Die helle Seite. In der günstigsten Annahme, wie sie häufig von den Optimisten vertreten wird (der Essay Machines of Loving Grace von Dario Amodei, Kapitel 7, ist ein Beispiel dafür), würde eine leistungsfähige und beherrschte KI als Beschleuniger der Erkenntnis wirken. Vorstellbar sind Jahrzehnte medizinischen Fortschritts, verdichtet auf wenige Jahre: heute unheilbare Krankheiten werden verstanden und behandelt, Früherkennung wird zum Normalfall, Medikamente werden schneller entwickelt (Kapitel 14). Hinzu kämen ein goldenes Zeitalter der Wissenschaft (Werkstoffe, Energie, Klima), ein persönlicher Tutor für jede Schülerin und jeden Schüler (Kapitel 15) und, sofern die Produktivitätsgewinne breit geteilt würden, eine Form materiellen Überflusses, die Zeit freisetzt. Es ist das Szenario, in dem die KI ihre Versprechen hält, ohne dass ihre Risiken eintreten.

Die dunkle Seite. Umgekehrt setzen mehrere besorgniserregende Entwicklungspfade nicht einmal eine feindselige Superintelligenz voraus. Der meistdiskutierte unter den schmerzhaften Übergängen ist eine schlecht vorbereitete Massenarbeitslosigkeit: Ginge die Automatisierung (erst die kognitive, dann die körperliche, Kapitel 17) schneller voran als die Schaffung neuer Arbeitsplätze und konzentrierten sich die Gewinne, würden die Ungleichheiten explodieren. Ein zweites Risiko ist politischer Natur: Sehr leistungsfähige KI-Werkzeuge können einer flächendeckenden Überwachung und einer beispiellosen Machtkonzentration bei wenigen Staaten oder wenigen Unternehmen dienen, bis hin zu einer möglichen dauerhaften Verfestigung einer autoritären Ordnung (Kapitel 21). Ein drittes liegt im vorsätzlichen Missbrauch: Cyberangriffe großen Ausmaßes, industrialisierte Desinformation, ja sogar eine niedrigere Hürde auf dem Weg zu biologischen Waffen (Kapitel 20, 22 und 24). Ein viertes, heimtückischeres wurde 2025 unter dem Namen schleichende Entmachtung (gradual disempowerment) formuliert: Ganz ohne gewaltsame Machtübernahme könnte der Menschheit die Kontrolle über ihre Wirtschaft, ihre Kultur und ihre Institutionen nach und nach entgleiten, schlicht indem sie immer mehr Entscheidungen an Systeme delegiert, die schneller und billiger sind als sie selbst, bis ihre Interessen nicht mehr im Mittelpunkt stehen. Am äußersten Ende steht schließlich das Szenario eines raschen Kontrollverlusts gegenüber einer sehr fortgeschrittenen, fehlausgerichteten KI (die Erzählung AI 2027, Abschnitt 24.3). Weniger spektakulär, aber oft genannt, vervollständigt ein Risiko für den Sinn das Bild: Was würde aus der Arbeit, der Anstrengung und dem Stolz des Schaffens in einer Welt, in der die Maschine fast alles besser und schneller könnte?

Keines dieser Bilder ist gewiss, und die Wirklichkeit wird je nach Bereich und Region wohl das Beste mit dem Schlimmsten mischen. Gerade weil der Fächer so breit ist, hängt der Verlauf von Variablen ab, die sich zum Teil beeinflussen lassen.

Die entscheidenden Variablen sind vier an der Zahl, und jede verweist auf ein Kapitel dieses Kurses: das Gelingen (oder Scheitern) des Alignments und der Sicherheit (Kapitel 24); die Qualität der Governance und der Koordination (dieses Kapitel); die Verteilung der Vorteile zwischen Konzentration und Demokratisierung (Kapitel 9 und 17); und die Entwicklung der geopolitischen Rivalität (Kapitel 8 und 22). Was das Eintreffen einer möglichen allgemeinen künstlichen Intelligenz (AGI) angeht, reichen die Schätzungen der Fachleute von wenigen Jahren über mehrere Jahrzehnte bis hin zu „nie“: So groß ist die Ungewissheit.

---

Das Wichtigste (Kapitel 25)

• Drei Regulierungsansätze: Europa (Rechte und Risiko, extraterritoriale Wirkung), Vereinigte Staaten (Markt und Exportkontrollen), China (staatliche Lenkung).
• Der europäische AI Act stuft die Anwendungen in einer Risikopyramide ein (unannehmbar, hoch, begrenzt, minimal); Transparenz und Aufsicht über Modelle mit allgemeinem Verwendungszweck anwendbar seit dem 2. August 2026; Hochrisikobereich durch den im Sommer 2026 angenommenen Digital Omnibus auf den 2. Dezember 2027 und den 2. August 2028 verschoben; Sanktionen bis zu 35 Mio. € oder 7 % des Umsatzes.
• Die Steuerung der Frontier-Modelle wirft die Fragen der verpflichtenden Audits (Analogie zur Luftfahrt), der Sicherheitsinstitute und der Kontrolle durch den Staat auf, das Ganze erschwert durch die schwierige internationale Koordination im Wettlauf; im September 2026 schafft Kalifornien einen gesetzlichen Rahmen für unabhängige Audits, und die großen Labore unterzeichnen im Weißen Haus eine freiwillige Vereinbarung.
• Die Zukünfte reichen von einer hellen Seite (Überfluss, goldenes Zeitalter der Wissenschaft, verwandelte Medizin und Bildung) bis zu einer dunklen Seite (Massenarbeitslosigkeit, Überwachung und Machtkonzentration, Missbrauch, schleichende Entmachtung, Kontrollverlust), mit einem Weg des „Durchwurstelns“ dazwischen; vier Variablen werden entscheiden: Alignment, Governance, Verteilung, Geopolitik. Das Eintreffen einer AGI bleibt höchst ungewiss.
• Roter Faden: KI ist eine Allzwecktechnologie; die richtige Haltung ist informierte Nüchternheit, denn ihre Zukunft wird von unseren kollektiven Entscheidungen abhängen.

---