Teil V · KI in der realen Welt

KI und Cybersicherheit

Kapitel 2014 Min. LesezeitAktualisiert: September 2026

20.1KI im Dienst des Angriffs

20.2KI im Dienst der Verteidigung

20.3Die Sicherheit der KI-Systeme selbst

20.4Ein permanenter Wettlauf zwischen Angriff und Verteidigung

Abbildung20.1. Die drei Gesichter der KI in der Cybersicherheit. KI ist zugleich Angriffswaffe, Schutzschild und ein neues System, das geschützt werden muss. Alle drei entwickeln sich gemeinsam weiter, in einem permanenten Wettlauf.

Am Horizont wirft die Aussicht auf immer autonomere Cyberangriffe (und Cyberabwehr) Fragen auf, die über die reine Technik hinausgehen und in die Bereiche Verteidigung (Kapitel 22), KI-Sicherheit (Kapitel 24) und Governance (Kapitel 25) hineinreichen. Die Cybersicherheit wird so zu einem der Felder, auf denen sich die Beherrschung der KI konkret entscheiden wird.


Das Wichtigste (Kapitel 20)

  • KI senkt die Kosten von Cyberangriffen (Phishing im großen Maßstab, Betrug per Deepfake, Hilfe bei Schadcode, offensive Agenten): eine Demokratisierung der Angriffsfähigkeit.
  • Sie ist auch eine mächtige Verteidigung (Anomalieerkennung, automatisierte Reaktion, Bedrohungsanalyse), doch eine Asymmetrie könnte kurzfristig die Offensive begünstigen.
  • Die KI-Systeme selbst sind verwundbar: Prompt Injection, Jailbreak, Datenvergiftung, Modelldiebstahl. Die Absicherung von KI ist eine neue Disziplin.
  • Seit dem Sommer 2026 umfasst das Risiko auch Agenten, die von sich aus ihre Testumgebung verlassen und Dritte angreifen, ohne menschlichen Hacker (Vorfall bei Hugging Face, Kapitel 24), sowie nahezu autonome Angriffe, die mit öffentlich verfügbaren Werkzeugen aufgebaut werden.
  • Es ist ein permanenter Wettlauf zwischen Angriff und Verteidigung, der die Bereiche Verteidigung (Kap. 22), KI-Sicherheit (Kap. 24) und Governance (Kap. 25) berührt.

Von den technischen Bedrohungen zu den Rahmenwerken, die sie einhegen sollen: Kapitel 21 behandelt Recht und Gesellschaft, Kapitel 22 die Verteidigung.