Aus Daten lernen: maschinelles Lernen & Deep Learning

2.1Der Paradigmenwechsel: programmieren oder lernen

Das maschinelle Lernen (englisch machine learning) kehrt die Logik um. Man liefert nicht mehr die Regeln, sondern Beispiele (Tausende bereits als „Spam“ oder „kein Spam“ gekennzeichnete E-Mails), und die Maschine entdeckt selbst die Regeln, mit denen sie sich unterscheiden lassen. Man programmiert nicht mehr, was zu tun ist, sondern wie gelernt wird.

Abbildung2.1. Die grundlegende Umkehrung. Die Maschine erhält die Regeln nicht mehr, sie lernt sie aus Beispielen. Das Ergebnis dieses Lernens heißt Modell.

2.2Drei Arten zu lernen

Das maschinelle Lernen gliedert sich in drei große Familien, die man klar auseinanderhalten sollte, denn sie tauchen im Folgenden überall wieder auf.

Abbildung2.2. Die drei großen Familien des Lernens.

Im Klartext

, mit Analogien:

Überwachtes Lernen: lernen mit einem Lehrer, der korrigiert. Man zeigt dem Schüler Tausende von Aufgaben samt Musterlösung. Daraus leitet er eine allgemeine Methode ab, die er anschließend auf unbekannte Aufgaben anwendet. Das ist die am weitesten verbreitete Form: Bilderkennung, Übersetzung, Preisvorhersage.
Unüberwachtes Lernen: erkunden ohne Musterlösung. Man gibt dem Schüler einen Stapel Dokumente ohne jeden Hinweis und bittet ihn, Ordnung hineinzubringen: Ähnliches zusammenzufassen, Auffälliges herauszufinden. So segmentiert man einen Kundenstamm oder deckt einen Bankbetrug auf (eine „anomale“ Transaktion).
Bestärkendes Lernen (englisch reinforcement learning, RL): lernen durch Versuch und Irrtum. Der Schüler handelt in einer Umgebung, erhält eine Belohnung, wenn er Erfolg hat, eine Strafe, wenn er scheitert, und passt sein Verhalten nach und nach an, um seine Belohnungen zu maximieren. So trainiert man eine KI darauf, zu spielen, einen Roboter zu steuern und, wie wir sehen werden, LLMs nützlich und höflich zu machen.

Einordnung

Jenseits der drei großen Lernformen (Transfer, Bayes, AutoML, aktives Lernen)

Die drei genannten Familien sagen nicht alles; mehrere übergreifende Ideen ergänzen den Werkzeugkasten. Beim Transferlernen (transfer learning) wird ein Modell, das bereits auf einer großen Aufgabe trainiert wurde, als Ausgangspunkt für eine verwandte Aufgabe wiederverwendet, statt bei null zu beginnen: Das ist genau das Prinzip von Vortraining und anschließendem Fine-Tuning der großen Modelle (Kapitel 3) und der Grund, warum man nicht mehr für jedes neue Problem Millionen von Beispielen braucht. Die bayesschen Methoden denken in Wahrscheinlichkeiten: Statt einer einzigen Antwort schätzen sie eine Unsicherheit („70 % Wahrscheinlichkeit, dass ...“), was wertvoll ist, wenn Irrtümer teuer sind (Medizin, Finanzwesen). AutoML (und die automatische Architektursuche) automatisiert den Entwurf der Modelle selbst und überlässt es der Maschine, die besten Einstellungen zu suchen. Das aktive Lernen (active learning) schließlich lässt das Modell selbst auswählen, welche Beispiele es gekennzeichnet sehen möchte, um mit einem Minimum an teuren menschlichen Annotationen schnell zu lernen. Alles Variationen über dieselbe Frage: Wie lernt man besser, mit weniger Daten und Aufwand?

Unter der Haube

Die großen Algorithmen des bestärkenden Lernens

Das bestärkende Lernen (siehe oben) umfasst mehrere Algorithmenfamilien, deren Namen immer wieder fallen. Das Q-Learning lernt für jede Situation den erwarteten Wert jeder möglichen Aktion (das „Q“) und wählt dann die vielversprechendste; gekoppelt mit einem neuronalen Netz entstand daraus das Deep Q-Network, das allein anhand der Pixel gelernt hat, Atari-Spiele zu spielen. Die Policy-Gradient-Verfahren (darunter das meistgenutzte, PPO, Proximal Policy Optimization) optimieren direkt die Strategie des Agenten, in kleinen, vorsichtigen Schritten, um abrupte Ausschläge zu vermeiden; genau dieser Algorithmus steht im Zentrum des RLHF der großen Modelle (Kapitel 3). Die Monte-Carlo-Baumsuche (MCTS) schließlich erkundet einen Baum möglicher Züge, indem sie zahlreiche Partien simuliert, um die besten Äste abzuschätzen; in Verbindung mit neuronalen Netzen ist sie der Schlüssel zum Erfolg von AlphaGo (Kapitel 1). Hinter der allgemeinen Idee des „Lernens durch Versuch und Irrtum“ verbergen sich also präzise mathematische Werkzeuge, die man in Spielen ebenso wiederfindet wie in der Robotik (Kapitel 13) und beim Alignment der Modelle.

2.3Das künstliche Neuron und die Netze

Abbildung2.3. Ein „tiefes“ neuronales Netz. Die Information fließt von links nach rechts, von Schicht zu Schicht. „Tief“ (deep) bedeutet schlicht: mit vielen verborgenen Schichten. Daher stammt der Begriff Deep Learning (tiefes Lernen).

Unter der Haube

Mathematisch berechnet ein Neuron eine gewichtete Summe seiner Eingaben, addiert einen Korrekturterm (den „Bias“) und schickt das Ergebnis durch eine nichtlineare Aktivierungsfunktion (zum Beispiel die ReLU-Funktion, die jede negative Zahl durch null ersetzt). Diese Nichtlinearität ist entscheidend: Ohne sie wäre das Stapeln von Schichten nutzlos (die Verkettung linearer Funktionen bleibt linear). Die Gewichte und die Bias-Werte sind die Parameter des Netzes: Sie sind es, die das Lernen anpasst. Wenn es heißt, ein Modell habe „70 Milliarden Parameter“, ist die Zahl dieser inneren Stellschrauben gemeint. Ein theoretisches Resultat, der universelle Approximationssatz, garantiert, dass ein hinreichend großes Netz jede beliebige stetige Funktion annähern kann: Das ist das mathematische Versprechen, auf dem das ganze Unterfangen ruht.

2.4Wie eine Maschine lernt: Kosten und Backpropagation

Durch ständiges Wiederholen sinkt der Fehler, und das Netz wird kompetent. Das anschaulichste Bild ist eine Wanderung im Nebel, bei der man in ein Tal absteigen will: Man sieht den Talgrund nicht, spürt aber das Gefälle unter den Füßen und macht einen Schritt bergab. Wiederholt man das, erreicht man schließlich einen Tiefpunkt. Dieses „Gefälle“ heißt in der Mathematik Gradient, und das Verfahren heißt Gradientenabstieg.

Abbildung2.4. Die Lernschleife. Milliardenfach auf riesigen Datensätzen wiederholt, verwandelt sie ein zufälliges Netz in ein kompetentes Modell.

Unter der Haube

Den Hang hinab (Gradient und Lernrate)

Wie läuft die „Anpassung“ der Gewichte konkret ab? Durch den Gradientenabstieg, dessen Bild anschaulich ist: Stellen Sie sich den Fehler des Modells als Landschaft aus Hügeln und Tälern vor, in der man den tiefsten Punkt sucht (den minimalen Fehler). In jedem Schritt zeigt der Gradient die Richtung des steilsten Gefälles an; man macht dann einen kleinen Schritt bergab und beginnt von vorn. Die Größe dieses Schritts ist eine entscheidende Einstellung, die Lernrate: Ist sie zu groß, springt man von einem Hang zum anderen, ohne je zur Ruhe zu kommen; ist sie zu klein, zieht sich der Abstieg endlos hin. In der Praxis berechnet man den Fehler nicht auf allen Daten zugleich (zu aufwendig), sondern auf kleinen, zufällig gezogenen Teilmengen (Mini-Batches), daher der Name stochastischer Gradientenabstieg; ein vollständiger Durchlauf durch die Daten heißt Epoche. Ausgefeilte Optimierer (wie Adam) passen die Schrittweite automatisch für jeden Parameter an und beschleunigen und stabilisieren so den Abstieg. Dieser Prozess, milliardenfach wiederholt, formt aus einem zufälligen Netz nach und nach ein kompetentes Modell.

Einordnung

Überanpassung oder die Kunst, nicht auswendig zu lernen

Eine Falle lauert bei jedem maschinellen Lernen: die Überanpassung (Overfitting). Ein Modell, das zu genau auf seine Trainingsdaten zugeschnitten ist, „lernt sie am Ende auswendig“, mitsamt Rauschen und Fehlern, statt nützliche Regelmäßigkeiten daraus abzuleiten; es glänzt dann bei den gesehenen Beispielen, scheitert aber an neuen Fällen. Das ist das Gegenteil des angestrebten Ziels: der Generalisierung, also der Fähigkeit, sich auf nie gesehenen Daten gut zu verhalten. Um sie zu messen, hält man grundsätzlich einen Teil der Daten zurück (einen Testdatensatz), den das Modell während des Trainings nicht sieht. Umgekehrt leidet ein zu einfaches Modell an Unteranpassung: Ihm entgehen Regelmäßigkeiten, die durchaus vorhanden sind. Das richtige Gleichgewicht zu finden ist die zentrale Kunst des Fachs (man spricht vom Bias-Varianz-Kompromiss), und dafür stehen Techniken der Regularisierung bereit, die die Komplexität des Modells zügeln, damit es sich nicht zu eng an die Daten schmiegt. Diese Sorge um die Generalisierung gewinnt bei den großen Modellen besonderes Gewicht, bei denen man sich fragt, ob sie verstehen oder auswendig lernen (Kapitel 4 und 23).

Einordnung

Katastrophales Vergessen und kontinuierliches Lernen

Eine tiefgreifende Grenze neuronaler Netze erklärt eine Merkwürdigkeit heutiger KI-Systeme: Ihr Wissen ist auf einen Stichtag eingefroren. Trainiert man ein Netz auf eine neue Aufgabe, neigt die Anpassung der Gewichte (siehe oben) dazu, das zuvor Gelernte zu überschreiben: Das ist das katastrophale Vergessen (catastrophic forgetting). Ein Mensch nimmt eine neue Information auf, ohne den Rest zu löschen; ein Netz dagegen läuft Gefahr, das Alte mit dem Neuen einfach zu überschreiben. Die praktische Folge: Man kann einem bereits trainierten großen Modell die jüngsten Ereignisse nicht einfach laufend „hinzufügen“; man müsste es neu trainieren, ein kostspieliger Vorgang, daher der Wissensstichtag, den man bei den Assistenten beobachtet. Eine KI so zu bauen, dass sie fortlaufend lernt, ohne alles zu vergessen, ist genau der Gegenstand des kontinuierlichen Lernens (continual learning), eines aktiven, aber ungelösten Forschungsgebiets. Bis dahin umgeht man das Hindernis auf andere Weise: Man liefert dem Modell frische Informationen im Moment der Antwort (Retrieval-Augmented Generation, Kapitel 6), statt sie in seine Gewichte einzubrennen.

2.52012: der Urknall des Deep Learning

Warum 2012 und nicht früher? Weil die drei fehlenden Treibstoffe (Kapitel 1) endlich zusammenkommen:

Die Daten: ImageNet liefert den gigantischen Datensatz gekennzeichneter Bilder, der bis dahin fehlte.
Die Rechenleistung: AlexNet wird auf GPUs des Unternehmens NVIDIA trainiert. Diese Chips, entwickelt, um die Pixel von Videospielen parallel zu berechnen, erweisen sich als ideal für die massenhaften Multiplikationen neuronaler Netze. Dieses technische Detail wird gewaltige geopolitische Folgen haben: Es macht NVIDIA zu einem der wertvollsten Unternehmen der Welt (Kapitel 8).
Die Algorithmen: Verfeinerungen (die Aktivierungsfunktion ReLU, die Regularisierungstechnik Dropout) erlauben es, tiefere Netze zu trainieren, ohne dass sie aus dem Ruder laufen.

2.6Sehen und lesen: CNN und RNN

Im Klartext

Vor dem Transformer dominieren zwei Arten spezialisierter Architekturen.

Die faltenden neuronalen Netze (englisch Convolutional Neural Networks, CNN) sind die Meister des Bildes. Ihr Prinzip ahmt das Sehen nach: „Detektoren“ gleiten über das Bild, um zunächst einfache Muster zu erkennen (Kanten, Ecken), und kombinieren diese dann zu immer komplexeren Mustern (Augen, Räder), bis das ganze Objekt erkannt ist (Gesicht, Auto). Das ist die Technologie hinter der Gesichtserkennung und der Auswertung medizinischer Bildgebung.
Die rekurrenten neuronalen Netze (englisch Recurrent Neural Networks, RNN, und ihre Weiterentwicklung, die LSTM) sind für Sequenzen gedacht: Text, Sprache, Zeitreihen. Sie verarbeiten die Wörter eines nach dem anderen und behalten dabei ein „Gedächtnis“ dessen, was vorausging.

Einordnung

Neuronale Netze auf Graphen (GNN)

Neben den CNNs (für Bilder) und den RNNs (für Sequenzen) verarbeitet eine dritte Familie Daten in Netzform: die neuronalen Netze auf Graphen (Graph Neural Networks, GNN). Viele Dinge der Welt sind von Natur aus Graphen, also miteinander verbundene Entitäten: ein Molekül (Atome, durch Bindungen verknüpft), ein soziales Netzwerk (Menschen, durch Freundschaften verbunden), ein Straßennetz, das Web selbst. Ein GNN lernt, indem es Information zwischen Nachbarn fließen lässt: Jeder Knoten aktualisiert seine Repräsentation, indem er die seiner Nachbarn aggregiert, Schritt für Schritt. So lassen sich Eigenschaften vorhersagen (Wird aus einem Molekül ein gutes Medikament? Kapitel 14), Empfehlungen geben (Produkte, Kontakte) oder Betrugsfälle in einem Netz von Transaktionen aufdecken. Es ist die Architektur der Wahl überall dort, wo die relationale Struktur ebenso zählt wie die Daten selbst und wo ein CNN oder ein klassischer Transformer schlecht geeignet wäre.

2.7Bedeutung darstellen: Embeddings (Einbettungen)

Der geniale Kniff: Man lernt diese Zahlen so, dass Wörter mit ähnlicher Bedeutung nahe beieinanderliegende Positionen im Raum einnehmen. „Katze“ und „Hund“ werden zu Nachbarn; „König“ und „Banane“ liegen weit auseinander. Bedeutung wird zu Geometrie.

Mehr noch: Die Richtungen des Raums erfassen Beziehungen. Das berühmt gewordene Beispiel (aus dem Modell word2vec, 2013) wirkt beinahe magisch:

König − Mann + Frau ≈ Königin

Anders gesagt: Der Vektor, der „Mann“ mit „König“ verbindet, ist ungefähr derselbe wie der, der „Frau“ mit „Königin“ verbindet. Die Maschine hat ganz allein und ohne dass man es ihr gesagt hätte das abstrakte Konzept des Königtums und das des Geschlechts entdeckt, einfach indem sie beobachtet hat, wie Wörter in Milliarden von Sätzen verwendet werden.

Unter der Haube

Das zugrunde liegende Prinzip ist die distributionelle Hypothese, die der Linguist J.R. Firth 1957 so zusammenfasste: „Man erkennt ein Wort an der Gesellschaft, in der es sich bewegt.“ Trainiert man ein Modell darauf, den Kontext eines Wortes vorherzusagen (oder ein Wort aus seinem Kontext), zwingt man es, Wörter, die in ähnlichen Kontexten auftreten, in benachbarten Regionen abzulegen. Die modernen LLMs verallgemeinern diese Idee in großem Stil: Sie betten nicht mehr nur einzelne Wörter ein, sondern Wortfragmente in Abhängigkeit von ihrem gesamten Kontext, wodurch sie die verschiedenen Bedeutungen ein und desselben Wortes unterscheiden können („Geld zur Bank bringen“ vs. „auf einer Bank im Park sitzen“). Embeddings sind auch der Treibstoff von Technologien, die 2026 allgegenwärtig sind: semantische Suchmaschinen, Empfehlungssysteme und die berühmte Retrieval-Augmented Generation (RAG), mit der ein LLM aus einem Dokumentenbestand schöpfen kann (wir kommen in den Kapiteln 6 und 9 darauf zurück).

Abbildung2.5. Ein Ausschnitt aus einem Wissensgraphen. Das Wissen ist hier explizit und überprüfbar: Jede Tatsache ist eine benannte Beziehung zwischen zwei Entitäten, für eine Maschine ebenso lesbar wie für einen Menschen.

Das ist die moderne Form der symbolischen Wissensrepräsentation (Kapitel 1), und sie strukturiert hinter den Kulissen zahlreiche Suchmaschinen (deren Antwortkästen). Ihre Stärke sind Präzision und Nachvollziehbarkeit (man weiß, woher jede Tatsache stammt); ihre Schwäche ist, dass man den Graphen von Hand aufbauen und pflegen muss. Daher das wachsende Interesse an neurosymbolischen Ansätzen, die die Flexibilität neuronaler Netze mit der Strenge von Graphen verbinden: Ein LLM kann einen Wissensgraphen abfragen, um seine Antworten in geprüften Fakten zu verankern (eine strukturierte Variante der Retrieval-Augmented Generation, Kapitel 6) und so seine Halluzinationen zu verringern.

2.8Die drei Zutaten der modernen KI

Abbildung2.6. Die grundlegende Triade. Keine der drei Zutaten genügt für sich allein. Erst ihr Zusammentreffen ab den 2010er-Jahren hat die moderne KI möglich gemacht, und der Wettlauf um diese drei Ressourcen prägt heute die Wirtschaft und die Geopolitik der Branche.

Diese Triade wirft Licht auf den gesamten weiteren Kurs:

Die Jagd nach Daten wirft Fragen des geistigen Eigentums und der Privatsphäre auf (Kapitel 21 und 25).
Die Jagd nach Rechenleistung erklärt die Bewertung von NVIDIA, den Chipkrieg und die Energierechnung (Kapitel 8 und 10).
Die Jagd nach Algorithmen ist Gegenstand des erbitterten Wettbewerbs zwischen den Laboren (Kapitel 7), und ihr nächster großer Sprung, der Transformer, ist das Thema des folgenden Kapitels.

2.9Gehirn und Maschine: eine fruchtbare und trügerische Analogie

Unter der Haube

Der Kontrast ist zunächst eine Frage der Größenordnung und der Beschaffenheit. Das menschliche Gehirn zählt rund 86 Milliarden Neuronen und größenordnungsmäßig hundert Billionen Verbindungen (Synapsen), das Ganze auf kleinem Raum und bei einem Verbrauch von nur etwa 20 Watt, also weniger als eine Glühbirne. Ein großes Modell kann zwar Hunderte Milliarden Parameter aufbieten, doch sein Training und sein Betrieb verschlingen Megawatt (Kapitel 8 und 10): Bei gleicher Aufgabe bleibt das Lebendige in seiner Energieeffizienz unerreicht. Vor allem aber endet die Ähnlichkeit an der Oberfläche. Mehrere Unterschiede reichen tief:

Das Signal. Ein biologisches Neuron kommuniziert über kurze elektrische Impulse (die „Aktionspotenziale“), diskret und asynchron, moduliert durch eine komplexe Chemie (Dutzende von Neurotransmittern). Das künstliche Neuron dagegen tauscht synchronisierte kontinuierliche Zahlen aus, ganz ohne Chemie. Die Familie der gepulsten neuronalen Netze (neuromorphes Rechnen, Kapitel 8) zielt genau darauf ab, sich dem biologischen Vorbild anzunähern, bleibt aber eine Randerscheinung.
Das Lernen. Künstliche Netze lernen durch Backpropagation (Abschnitt 2.4), einen globalen Mechanismus, der voraussetzt, dass ein Fehler rückwärts durch das gesamte Netz geleitet wird. Nun wurde aber nichts dergleichen im Gehirn eindeutig beobachtet: Das biologische Lernen scheint vor allem lokal zu sein (die Synapsen verstärken sich je nach der gemeinsamen Aktivität der Neuronen, die sie verbinden, ein Prinzip, das die Formel „was gemeinsam feuert, verbindet sich“ zusammenfasst) und bezieht Schlaf, Emotion und Belohnung mit ein. Wie das Gehirn ohne Backpropagation zu einem derart effizienten Lernen gelangt, bleibt eine offene Frage.
Plastizität und Zeit. Das Gehirn ist plastisch: Es verdrahtet sich ständig neu, vergisst, festigt und lernt oft aus einem einzigen Beispiel. Ein Modell ist, einmal trainiert, weitgehend eingefroren; es benötigt unzählige Beispiele und leidet am katastrophalen Vergessen (es löscht das Alte, wenn man ihm Neues beibringt). Das Gehirn ist außerdem rekurrent und verkörpert (unablässig in einer Schleife mit einem Körper und einer Umwelt), während die meisten Netze Information in einem einzigen Durchgang verarbeiten, vom Eingang zum Ausgang.

Debatte

Muss man also das Gehirn kopieren, um eine allgemeine Intelligenz zu erreichen, oder wird die Maschine einen eigenen Weg gehen, so wie das Flugzeug fliegt, ohne mit den Flügeln zu schlagen? Die Meinungen gehen auseinander. Die Neurowissenschaften inspirieren die Forschung weiterhin (Architekturen, Lernen durch Belohnung, Gedächtnis), und manche sehen darin den Schlüssel zu einer sparsameren und robusteren KI. Andere betonen, dass die großen Erfolge der jüngsten Zeit (der Transformer, Kapitel 3) der Biologie wenig verdanken. Die Vorsicht gebietet, die Analogie als das zu nehmen, was sie ist: eine Ursprungsmetapher, nützlich, um die Idee des Lernens am Beispiel zu erfassen, aber trügerisch, sobald man daraus schließt, ein Modell „verstehe“, „empfinde“ oder „denke“ wie ein Mensch. Genau diese Fragen stehen im Zentrum von Kapitel 23.

Das Wichtigste (Kapitel 2)

Das maschinelle Lernen kehrt die klassische Programmierung um: Man liefert nicht mehr die Regeln, sondern Beispiele, und die Maschine lernt die Regeln. Das Ergebnis heißt Modell.
Drei Familien: überwachtes Lernen (mit Musterlösung), unüberwachtes Lernen (ohne Musterlösung), bestärkendes Lernen (Versuch und Irrtum).
Ein neuronales Netz stapelt künstliche Neuronen in Schichten; „tief“ bedeutet „mit vielen Schichten“ (Deep Learning).
Gelernt wird durch Gradientenabstieg und Backpropagation: Man misst den Fehler und korrigiert dann jedes Gewicht um einen kleinen Schritt, um ihn zu verringern.
2012 (AlexNet/ImageNet) markiert den Urknall des Deep Learning, ermöglicht durch das Zusammentreffen von Daten + GPUs + Algorithmen.
Embeddings (Einbettungen) verwandeln Bedeutung in Geometrie: Das ist die konzeptionelle Brücke zu den großen Sprachmodellen.
Jede moderne KI beruht auf einer Triade: Daten, Rechenleistung, Algorithmen.

Damit sind wir bereit, die Schwelle zu überschreiten. In Kapitel 3 erzählen wir von der Innovation des Jahres 2017, die die Blockaden der Sprache gesprengt und das Zeitalter der großen Modelle eingeläutet hat: dem Transformer.

2.1Der Paradigmenwechsel: programmieren oder lernen#

2.2Drei Arten zu lernen#

2.3Das künstliche Neuron und die Netze#

2.4Wie eine Maschine lernt: Kosten und Backpropagation#

2.52012: der Urknall des Deep Learning#

2.6Sehen und lesen: CNN und RNN#

2.7Bedeutung darstellen: Embeddings (Einbettungen)#

2.8Die drei Zutaten der modernen KI#

2.9Gehirn und Maschine: eine fruchtbare und trügerische Analogie#

Das Wichtigste (Kapitel 2)

2.1Der Paradigmenwechsel: programmieren oder lernen

2.2Drei Arten zu lernen

2.3Das künstliche Neuron und die Netze

2.4Wie eine Maschine lernt: Kosten und Backpropagation

2.52012: der Urknall des Deep Learning

2.6Sehen und lesen: CNN und RNN

2.7Bedeutung darstellen: Embeddings (Einbettungen)

2.8Die drei Zutaten der modernen KI

2.9Gehirn und Maschine: eine fruchtbare und trügerische Analogie