Wie funktioniert ein KI-Chatbot? Technisch einfach erklärt

"Das ist doch einfach ein Script das vorgefertigte Antworten ausgibt" — das hören wir manchmal noch. Aber moderne KI-Chatbots funktionieren fundamental anders als die regelbasierten Bots der frühen 2010er Jahre. Dieser Artikel erklärt verständlich, was wirklich passiert, wenn jemand mit einem KI-Assistenten schreibt – von den technischen Grundlagen bis zur praktischen Umsetzung für Unternehmen.

Der Unterschied: Regelbasiert vs. KI-basiert

Klassische Chatbots aus den 2010er Jahren arbeiteten mit Entscheidungsbäumen: Wenn Nutzer X schreibt, antworte Y. Das funktionierte für sehr enge Anwendungsfälle – Öffnungszeiten abfragen, Bestellstatus checken – brach aber sofort zusammen, sobald jemand die Frage anders formulierte als erwartet.

Moderne KI-Chatbots verstehen Sprache. Nicht weil sie jede mögliche Formulierung kennen, sondern weil sie gelernt haben, wie Bedeutung funktioniert. "Wie sind eure Öffnungszeiten?", "Wann habt ihr auf?" und "Bis wann kann ich heute noch vorbeikommen?" sind für einen regelbasierten Bot drei verschiedene Anfragen – für ein Sprachmodell dieselbe Frage.

Das Fundament: Große Sprachmodelle (LLMs)

Moderne Chatbots basieren auf Large Language Models (LLMs) – KI-Systemen, die auf riesigen Textmengen trainiert wurden. Gemeint sind Milliarden von Webseiten, Büchern, wissenschaftlichen Artikeln, Code und Gesprächen. Dabei haben sie gelernt, wie Sprache funktioniert, wie Konzepte zusammenhängen und wie sinnvolle Antworten auf Fragen aussehen.

Eine hilfreiche Analogie: Stellen Sie sich vor, jemand hätte in seinem Leben so viel gelesen, dass er über praktisch jedes Thema informiert mitreden kann – ohne jedes Buch auswendig zu kennen, aber mit einem tiefen Verständnis für Zusammenhänge. Genau das ist ein LLM: kein Suchindex, sondern ein Verständnismodell.

Die bekanntesten Modelle sind GPT-4 von OpenAI, Claude von Anthropic und Gemini von Google. Alle drei funktionieren nach demselben Grundprinzip – unterscheiden sich aber in Stärken, Kosten und Datenschutzaspekten. Beim eyebot setzen wir je nach Anwendungsfall auf unterschiedliche Modelle.

Tokens: Die Sprache der Modelle

KI-Modelle lesen und schreiben keine Wörter – sie verarbeiten sogenannte Tokens. Ein Token ist ungefähr ein halbes bis ein ganzes Wort. "Chatbot" ist ein Token, "unternehmen" sind zwei. Das klingt technisch, hat aber praktische Relevanz:

• Jede API-Anfrage kostet Geld basierend auf der Anzahl der Tokens (Input + Output)
• Jedes Modell hat ein "Kontextfenster" – eine maximale Anzahl Tokens, die gleichzeitig verarbeitet werden kann
• Lange Gespräche oder große Wissensdokumente erhöhen die Token-Anzahl
• Ein guter System-Prompt ist präzise formuliert – nicht nur aus Qualitätsgründen, sondern auch aus Kostengründen

Was passiert bei einer Nachricht? Schritt für Schritt

Wenn ein Nutzer eine Nachricht schickt, passiert in Millisekunden folgendes:

• 1. Die Nachricht wird an die API des Sprachmodells gesendet – zusammen mit dem vollständigen bisherigen Gesprächsverlauf
• 2. Das Modell liest alles als einen langen Text: System-Prompt + Gesprächshistorie + neue Nachricht
• 3. Es generiert Token für Token eine Antwort – jedes nächste Wort wird basierend auf dem bisherigen Kontext berechnet
• 4. Die Antwort-Tokens werden in Echtzeit zurückgesendet und erscheinen als fließender Text (Streaming)
• 5. Antwort und Frage werden der Gesprächshistorie hinzugefügt – Grundlage für die nächste Nachricht

Wichtig: Das Modell "weiß" nichts zwischen Gesprächen. Jedes neue Gespräch beginnt bei null – außer was im System-Prompt steht. Was wie Gedächtnis wirkt, ist immer der mitgesendete Gesprächsverlauf innerhalb einer Session.

System-Prompt: Die Persönlichkeit und das Wissen des Chatbots

Der System-Prompt ist eine unsichtbare Anweisung, die vor jeder Konversation an das Modell geschickt wird. Er ist der Kern jeder Chatbot-Individualisierung. Ein guter System-Prompt definiert:

• Identität: "Du bist Max, der virtuelle Assistent von Müller Immobilien"
• Aufgaben: Welche Fragen soll der Bot beantworten, welche nicht?
• Ton und Stil: Formell oder locker? Kurz oder ausführlich?
• Firmenwissen: Produkte, Preise, Öffnungszeiten, Prozesse
• Grenzen: Was soll der Bot explizit nicht tun oder sagen?
• Eskalationslogik: Wann soll auf einen Menschen verwiesen werden?

Das klingt einfach, ist aber in der Praxis ein handwerklicher Prozess. Schlechte System-Prompts führen zu Chatbots, die von der Aufgabe abweichen, erfundene Antworten geben oder den falschen Ton treffen. Bei eyedia entwickeln wir System-Prompts iterativ – mit Tests, Fehlerbehebung und laufender Optimierung.

RAG: Wie der Chatbot Firmenwissen bekommt

Ein LLM kennt bei seinem Training naturgemäß keine internen Unternehmensdaten – keine Preislisten, keine Produktkataloge, keine internen FAQs. Genau hier kommt RAG ins Spiel: Retrieval Augmented Generation.

Das Prinzip: Statt das gesamte Firmenwissen in den System-Prompt zu schreiben (zu teuer, zu ungenau), wird eine Wissensdatenbank aufgebaut. Wenn ein Nutzer eine Frage stellt, sucht das System zuerst in dieser Datenbank nach relevanten Textabschnitten – und fügt diese als Kontext zur Anfrage hinzu. Das Modell antwortet dann auf Basis dieser gelieferten Informationen.

Beispiel: Ein Nutzer fragt nach dem Preis eines bestimmten Produkts. Das RAG-System sucht in der Produktdatenbank, findet den passenden Eintrag und gibt ihn dem Modell mit. Das Modell formuliert daraus eine natürlichsprachliche Antwort – ohne selbst "gewusst" zu haben, was das Produkt kostet.

• Vorteil: Das Firmenwissen bleibt aktuell und muss nicht im Modell neu trainiert werden
• Vorteil: Der Chatbot antwortet nur auf Basis verifizierter Daten – weniger Halluzinationen
• Vorteil: Kostengünstiger als jedes Dokument dauerhaft im Kontext mitzuschicken
• Voraussetzung: Die Wissensdatenbank muss gut strukturiert und gepflegt werden

Halluzinationen: Wenn KI erfindet

Sprachmodelle können falsche Informationen mit vollständiger Überzeugung formulieren – das nennt sich Halluzination. Der Grund: Das Modell generiert immer den statistisch wahrscheinlichsten nächsten Token. Wenn es keine verlässliche Quelle im Kontext hat, "erfindet" es plausibel klingende Antworten.

Für Unternehmenschatbots ist das das größte Risiko. Ein Chatbot, der falsche Preise, erfundene Produkteigenschaften oder nicht existierende Garantiebedingungen nennt, schadet mehr als er hilft. Die Gegenmaßnahmen:

• RAG: Antworten nur auf Basis verifizierter Quelldokumente
• System-Prompt mit klaren Grenzen: "Wenn du dir nicht sicher bist, verweise auf den Kundendienst"
• Temperatur niedrig halten: Weniger Kreativität = weniger Erfindungen
• Regelmäßige Tests mit Grenzfragen, die das Modell herausfordern

Wie eyebot im Hintergrund funktioniert

Der eyebot basiert auf einer Kombination aus den oben beschriebenen Techniken. Für jeden Kunden wird ein individueller System-Prompt entwickelt, der das Unternehmen, seine Produkte und seinen gewünschten Kommunikationsstil abbildet. Auf Wunsch wird eine RAG-Wissensdatenbank aus bestehenden Dokumenten (PDFs, FAQs, Produktlisten) aufgebaut.

• Integration: Der eyebot lässt sich als Widget in jede Website einbinden – unabhängig von CMS oder Framework
• Datenschutz: Alle Daten werden auf deutschen Servern verarbeitet, DSGVO-konform
• Übergabe: Der Bot kann Gespräche an einen menschlichen Mitarbeiter übergeben oder Kontaktdaten sammeln
• Analyse: Alle Gespräche werden ausgewertet – häufige Fragen zeigen, was Kunden wirklich bewegt
• Betrieb: Setup in wenigen Tagen, laufende Optimierung auf Basis realer Gespräche

Für welche Unternehmen lohnt sich ein KI-Chatbot?

Ein Chatbot lohnt sich nicht für jedes Unternehmen gleich. Besonders sinnvoll ist er, wenn:

• Viele Kundenanfragen sich wiederholen (Öffnungszeiten, Preise, Ablauf, Verfügbarkeit)
• Anfragen auch außerhalb der Geschäftszeiten kommen und nicht beantwortet werden
• Das Team durch repetitive Fragen Zeit verliert, die besser in komplexe Fälle investiert wäre
• Leadgenerierung wichtig ist: Der Bot qualifiziert Interessenten und sammelt Kontaktdaten
• Der erste Eindruck des Unternehmens zählt – ein guter Chatbot ist professioneller als kein Support

Weniger sinnvoll ist ein Chatbot, wenn die Anfragen sehr komplex und individuell sind, wenn das Unternehmen kaum digitalen Traffic hat oder wenn kein Wille besteht, die Wissensbasis zu pflegen und aktuell zu halten.