LLM (Large Language Model)

Wie funktioniert ein LLM?

Ein LLM berechnet, welches Textstück am wahrscheinlichsten als Nächstes folgt, und hängt es an die bisherige Antwort an. Diese Textstücke heißen Tokens. Aus vielen solchen Vorhersagen entsteht ein zusammenhängender Text.

Bis ein Modell so antworten kann, durchläuft es mehrere Trainingsstufen.

1. Vortraining. Das Modell lernt an sehr großen Textmengen, das jeweils nächste Wort vorherzusagen. Sprachmuster und Wissen speichert es dabei in seinen Parametern.
2. Feinabstimmung. Mit weiteren, ausgewählten Daten trainieren die Entwickler das Modell auf bestimmte Aufgaben, etwa Anweisungen zu befolgen.
3. Training mit menschlichem Feedback. Menschen bewerten Antworten, und das Modell lernt, die besser bewerteten zu bevorzugen. Die Fachbezeichnung lautet RLHF (Reinforcement Learning from Human Feedback).

Technische Grundlage ist meist die Transformer-Architektur, die Forscher von Google 2017 im Aufsatz „Attention Is All You Need“ vorgestellt haben.

Welche LLMs sind bekannt?

Die bekanntesten LLMs stammen von wenigen großen Anbietern. Die Versionsnummern ändern sich häufig, die Liste gibt den Stand vom Oktober 2026 wieder.

• GPT (OpenAI). Die Modellfamilie hinter ChatGPT. Als Flaggschiff empfiehlt OpenAI derzeit GPT-6 Astra.
• Gemini (Google). Über die Gemini API bietet Google unter anderem Gemini 3.8 Flash als stabiles Modell an.
• Claude (Anthropic). Für die meisten Aufgaben empfiehlt Anthropic derzeit Claude Opus 5.5.
• Llama (Meta). Meta veröffentlicht die Llama-Modelle mit herunterladbaren Gewichten, zuletzt die Generation Llama 4.
• Mistral (Mistral AI). Mehrere Modelle, darunter Mistral Large 3, stehen unter der offenen Lizenz Apache 2.0.

Modelle mit offenen Gewichten lassen sich im eigenen Rechenzentrum betreiben. Das kann beim Datenschutz helfen, verlangt aber eigene Rechenleistung und technische Betreuung.

Was ist der Unterschied zwischen LLM, Chatbot und KI-Agent?

Das LLM ist das Sprachmodell selbst. Chatbots und KI-Agenten sind Anwendungen, die ein LLM nutzen und ihm weitere Fähigkeiten geben.

Wie Agenten planen und handeln, erklärt der Eintrag KI-Agent.

Wo liegen die Grenzen von LLMs?

LLMs schreiben schnell und sprachlich sicher, kennen aber nur einen Ausschnitt der Welt. Diese drei Grenzen sollten Sie bei jedem Einsatz bedenken.

• Wissensstand. Ein Modell kennt nur Daten bis zu seinem Trainingsstichtag. Bei den aktuellen Modellen von OpenAI liegt er im April oder Mai 2026, bei Anthropic im Juni 2026. Neuere Informationen erhält das Modell nur, wenn eine Anwendung sie per Websuche oder als Dokument mitliefert, etwa über RAG.
• Kontextfenster. Pro Anfrage verarbeitet ein Modell nur eine begrenzte Textmenge. Bei aktuellen Modellen von Anthropic und OpenAI sind das rund eine Million Tokens. Was nicht in dieses Fenster passt, kann das Modell nicht berücksichtigen.
• Halluzinationen. Ein LLM formuliert auch falsche Angaben flüssig und überzeugend, etwa nicht belegte Zahlen oder Quellen, die es nicht gibt. Ursachen und Gegenmittel beschreibt der Eintrag KI-Halluzination.

Was bedeuten LLMs für das Marketing?

Für Marketingteams sind LLMs zuerst ein Arbeitsmittel. Sie liefern Entwürfe für Texte und Übersetzungen und fassen lange Dokumente zusammen. Wie brauchbar die Ergebnisse sind, hängt stark davon ab, wie die Anfrage formuliert ist. Darum geht es beim Prompt Engineering.

Gleichzeitig beantworten LLMs die Fragen Ihrer Kunden. KI-Suchen wie ChatGPT oder Perplexity fassen Informationen aus dem Web zusammen und nennen dabei einzelne Anbieter. Ob Ihr Unternehmen vorkommt, hängt davon ab, ob die Systeme Ihre Seiten finden und als Quelle nutzen. Damit befasst sich GEO. Wie wir dabei vorgehen, beschreibt unsere Seite zur GEO-Agentur.

Was ist beim Datenschutz zu beachten?

Sobald Mitarbeitende personenbezogene Daten oder vertrauliche Unterlagen in ein LLM eingeben, gelten die Regeln des Datenschutzes. Die Konferenz der Datenschutzaufsichtsbehörden von Bund und Ländern (DSK) hat dazu im Mai 2024 eine Orientierungshilfe veröffentlicht. Diese drei Empfehlungen betreffen den Alltag im Marketing.

• Vorzuziehen sind Anwendungen, die Ein- und Ausgaben nicht für das Training weiterer Modelle verwenden.
• Beschäftigte sollen betriebliche Accounts und Geräte nutzen, keine privaten.
• Ergebnisse mit Personenbezug sind vor der Weiterverarbeitung auf Richtigkeit zu prüfen.

Welche Dienste und Verträge für Ihr Unternehmen infrage kommen, klären Sie mit Ihrem Datenschutzbeauftragten.