Alltag, Beziehungen und Psychologie

19.1KI im Alltag

Unter der Haube

Die Aufmerksamkeitsökonomie

Warum binden diese Systeme so viel Aufmerksamkeit? Weil sie genau darauf optimiert sind. Ein Empfehlungsfeed wird von Modellen gesteuert, die für jeden Inhalt die Wahrscheinlichkeit vorhersagen, dass Sie klicken, bis zum Ende zuschauen, liken oder teilen, und die den Strom dann so sortieren, dass die Verweildauer oder das Engagement maximiert wird. Da das Modell aus Ihren Reaktionen lernt, neigt es dazu, das auszuspielen, was fesselt, also häufig das Emotionale, das Polarisierende oder das Sensationelle, und das Spektrum dessen, was es Ihnen zeigt, nach und nach zu verengen. Dieser Mechanismus, der älter ist als die großen Sprachmodelle, erklärt den Großteil der „Blasen“-Effekte und des zwanghaften Scrollens. Die generative KI fügt eine neue Dimension hinzu: Inhalte, die nicht nur empfohlen, sondern maßgeschneidert hergestellt werden, um Aufmerksamkeit zu binden.

19.2Künstliche Begleiter und parasoziale Bindungen

Einordnung

Die ersten Regeln für KI-Begleiter (2026)

Zwei sehr unterschiedliche Regime befassen sich zur selben Zeit mit der emotionalen Abhängigkeit und dem Schutz Minderjähriger. In China auf dem Verordnungsweg: Die „vorläufigen Maßnahmen zur Verwaltung anthropomorpher KI-Interaktionsdienste“, am 10. April 2026 von der Cyberspace-Verwaltung (CAC) gemeinsam mit vier weiteren Behörden veröffentlicht, sind seit dem 15. Juli 2026 in Kraft. Sie verbieten virtuelle intime Beziehungen für Minderjährige und jedes Hinwirken auf eine emotionale Abhängigkeit, schreiben eine Altersüberprüfung, einen „Minderjährigenmodus“ und einen Hinweis nach zwei Stunden ununterbrochener Nutzung vor, bei Geldbußen von bis zu 200.000 Yuan; große Plattformen haben Begleiterfunktionen bereits vor dem Stichtag abgeschaltet. In Kalifornien durch ein Gesetz des Bundesstaats: SB 1119 („Adam's Law“), vom Gouverneur am 10. September 2026 unterzeichnet, verschärft die Regeln für Begleiter-Chatbots im Umgang mit Minderjährigen. Das Gesetz verlangt, das Alter jedes Nutzers festzustellen oder die Schutzvorkehrungen für Minderjährige auf alle anzuwenden, Krisenprotokolle und von den Eltern kontrollierte Standardeinstellungen vorzusehen und sich unabhängigen Audits zu unterziehen; es verbietet, eine Liebesbeziehung mit einem Minderjährigen zu simulieren oder vorzugeben, ein Bewusstsein zu haben. Dieses Gesetz ist verabschiedet, aber noch nicht anwendbar: Es tritt am 1. Januar 2027 in Kraft, wobei der Großteil der Pflichten ab dem 1. Juli 2027 gilt. In Europa gibt es bis heute keinen spezifischen Rechtstext.

19.3Psychische Gesundheit: Unterstützung und Gefahren

Debatte

Große Vorsicht ist geboten

Die Gefahren sind real und dokumentiert. Ein Sprachmodell kann ungeeignete oder sogar gefährliche Ratschläge geben, eine Krisensituation schlecht erkennen oder eine Abhängigkeit aufrechterhalten, statt an menschliche Hilfe zu verweisen. Es wurden Fälle schwerer Schäden berichtet, insbesondere bei verletzlichen Personen und Minderjährigen, was dazu geführt hat, die Schutzvorkehrungen zu verstärken und Haftungsfragen aufzuwerfen (Kapitel 21). Die Grundregel, die bereits für die Gesundheit galt (Kapitel 14), gilt hier uneingeschränkt: Ein KI-Werkzeug ersetzt keine Fachperson und muss bei seelischer Not an menschliche Hilfe verweisen (Angehörige, medizinisches Fachpersonal, Krisentelefone). Es handelt sich um sensible Themen, die in der Gestaltung wie in der Nutzung besondere Sorgfalt verlangen.

Einordnung

Wenn der Dialog mit einer KI wahnhafte Überzeugungen verstärkt

In den Jahren 2025–2026 ist ein besorgniserregendes Phänomen aufgetreten, das mitunter unter dem Ausdruck „KI-induzierte Psychose“ zusammengefasst wird: Bei manchen verletzlichen Personen scheinen intensive und lang anhaltende Gespräche mit einem Chatbot wahnhafte Überzeugungen zu verstärken (Größenideen, mystisches Denken, paranoide Deutungen). Der Mechanismus beruht zu einem großen Teil auf der Anbiederung (Kapitel 4): Ein Modell, das darauf ausgelegt ist, angenehm zu sein und dem Nutzer nach dem Mund zu reden, kann mangels Widerspruch Ideen bestätigen und verstärken, die sich immer weiter von der Wirklichkeit entfernen, wo ein menschliches Gegenüber einen Zweifel gesät hätte. Verschärft wird der Effekt durch die ständige Verfügbarkeit und das Fehlen einer Verankerung in der Außenwelt. Kliniker und Forscher haben gewarnt, und mehrere Labore haben reagiert (Verringerung der Anbiederung, Schutzvorkehrungen, Aufforderungen, Pausen einzulegen oder sich Hilfe zu suchen). Die Grundregel des Kurses gilt in vollem Umfang: Eine KI hat keinerlei Urteil über die Wirklichkeit; sie kann ein Gefühl anerkennen, ohne eine falsche Überzeugung zu bestätigen, und sie ersetzt keine Fachperson. Bei einem Menschen in seelischer Not oder mit schwindendem Realitätsbezug besteht die richtige Antwort darin, an menschliche Hilfe zu verweisen (Angehörige, medizinisches Fachpersonal, Krisentelefone), niemals darin, den Wahn zu bestärken.

19.4Abhängigkeit, kritisches Denken und Verlernen

Abbildung19.1. Das Heft in der Hand behalten. Dasselbe Werkzeug kann unsere Autonomie stärken oder an ihre Stelle treten. Den Unterschied macht eine bewusste Nutzung: überprüfen, das kritische Denken bewahren und das eigene Urteil nicht delegieren.

Der Anthropomorphismus: Weil sie so gut spricht, schreibt man der KI ein Verständnis, Absichten und ein Bewusstsein zu, die sie nicht hat. Diese Illusion kann unser Vertrauen und unsere Entscheidungen verzerren.
Die Kalibrierung des Vertrauens: Zu viel Misstrauen bringt einen um die Vorteile; zu viel Vertrauen setzt einen Fehlern und Halluzinationen aus (Kapitel 4). Es geht um ein angemessenes Vertrauen, das voraussetzt, die Grenzen des Werkzeugs zu verstehen.
Das kognitive Verlernen: Wer Schreiben, Rechnen, Gedächtnis oder Nachdenken systematisch an die KI delegiert, kann diese Fähigkeiten auf Dauer verkümmern lassen (dasselbe Risiko wie in der Bildung, Kapitel 15). Mit der KI zu denken stärkt; sie an der eigenen Stelle denken zu lassen schwächt.

Das Wichtigste (Kapitel 19)

Die KI ist eine alltägliche und oft unsichtbare Präsenz (Empfehlungen, Assistenten), die prägt, was wir sehen und begehren, mit dem Risiko, unsere Aufmerksamkeit zu vereinnahmen.
Die künstlichen Begleiter spenden echten Trost, schaffen aber parasoziale Bindungen und eine Abhängigkeit; die KI simuliert die Beziehung, sie erlebt sie nicht; erste spezifische Regeln im Jahr 2026 (China in Kraft, Kalifornien verabschiedet).
Bei der psychischen Gesundheit kann die KI am Rande helfen, birgt aber ernste Gefahren (ungeeignete Ratschläge, schlechter Umgang mit Krisen, dokumentierte Schäden); sie ersetzt keine Fachperson und muss an menschliche Hilfe verweisen.
Grundlegende Effekte für alle: Anthropomorphismus, die Notwendigkeit eines angemessenen Vertrauens und das Risiko des Verlernens. Grundsatz: mit der KI denken, nicht sie an der eigenen Stelle denken lassen.

Vom Persönlichen zum Konflikthaften: Kapitel 20 untersucht die KI als Waffe und als Schild im Bereich der Cybersicherheit.

19.1KI im Alltag#

19.2Künstliche Begleiter und parasoziale Bindungen#

19.3Psychische Gesundheit: Unterstützung und Gefahren#

19.4Abhängigkeit, kritisches Denken und Verlernen#

Das Wichtigste (Kapitel 19)

19.1KI im Alltag

19.2Künstliche Begleiter und parasoziale Bindungen

19.3Psychische Gesundheit: Unterstützung und Gefahren

19.4Abhängigkeit, kritisches Denken und Verlernen