KI-Telefonassistent ohne Halluzinationen: Leitfaden 2026

Ein KI-Telefonassistent ohne Halluzinationen beantwortet Sachfragen nur mit Inhalten, die belegt in deiner Wissensbasis stehen – also auf deiner Website, in deinen Dokumenten oder in deinem Antwortkatalog. Fehlt eine Information, sagt er das ehrlich und bietet einen Rückruf an, statt zu raten. Nach jedem Gespräch prüft ein zweites Modell, ob jede Antwort durch eine Quelle gedeckt war, und zeigt das Ergebnis als Ampel. In diesem Leitfaden erfährst du, warum Sprach-KIs am Telefon überhaupt Dinge erfinden, was das für deinen Betrieb bedeuten kann und woran du einen Anbieter erkennst, der das Problem wirklich löst.

Warum erfindet ein KI-Telefonassistent überhaupt Antworten?

Ein KI-Telefonassistent erfindet Antworten, weil Sprachmodelle darauf trainiert sind, plausible Sätze zu erzeugen – nicht darauf, zu wissen, wann sie etwas nicht wissen. Ohne feste Wissensgrenze füllt das Modell Lücken mit Vermutungen, die genauso selbstsicher klingen wie echte Fakten.

OpenAI beschreibt Halluzinationen in einem Forschungsbeitrag als „plausible, aber falsche Aussagen" und nennt einen zentralen Grund: Übliche Trainings- und Bewertungsverfahren belohnen Raten stärker als das Eingeständnis von Unsicherheit (OpenAI: Why language models hallucinate, 2025). Ein Modell, das „weiß ich nicht" sagt, bekommt in vielen Benchmarks null Punkte – eines, das rät, liegt manchmal richtig. Besonders anfällig sind laut dem Beitrag seltene, beliebige Fakten, die sich nicht aus Mustern ableiten lassen.

Genau solche Fakten fragen Anrufer ständig ab:

• Hast du am Samstag geöffnet?
• Was kostet eine Erstberatung?
• Bietet ihr Hausbesuche an?
• Wie lange dauert eine Reparatur?

Am Telefon kommen zwei Verstärker dazu. Erstens muss die Antwort in Sekundenbruchteilen kommen, damit das Gespräch natürlich wirkt – es bleibt keine Zeit, eine Antwort nachträglich zu prüfen. Zweitens gibt es keinen Bildschirm: Der Anrufer sieht weder eine Quellenangabe noch einen Hinweis wie „KI kann Fehler machen". Er hört nur eine freundliche Stimme, die etwas behauptet.

Welche Folgen haben erfundene Antworten für deinen Betrieb?

Erfundene Antworten am Telefon führen zu falschen Preisen, falschen Öffnungszeiten und Zusagen, die du nicht halten kannst – und im schlimmsten Fall zu Schadensersatzforderungen. Für den Anrufer spricht der Assistent im Namen deines Unternehmens, nicht im Namen eines Softwareanbieters.

Typische Schäden im Alltag:

• Falsche Preise: Der Assistent nennt einen Festpreis, den es nicht gibt. Der Kunde beruft sich später darauf.
• Falsche Öffnungszeiten: Jemand fährt umsonst zu dir, weil die KI eine Samstagsöffnung erfunden hat.
• Falsche Zusagen: „Das übernimmt die Versicherung" oder „Das ist kostenlos" – solche Sätze können teuer werden.
• Vertrauensverlust: Ein einziger offensichtlich falscher Satz reicht, damit Anrufer der gesamten Hotline misstrauen.

Der Fall Air Canada: Das Unternehmen haftet für seinen Bot

Wie real das Risiko ist, zeigt ein Fall aus Kanada. Der Chatbot von Air Canada hatte einem Kunden erklärt, er könne einen Trauerfall-Rabatt nachträglich beantragen – eine Regel, die es so nicht gab. Das Civil Resolution Tribunal von British Columbia verurteilte die Airline im Februar 2024 zur Zahlung der Differenz und wies das Argument zurück, der Chatbot sei für seine Aussagen selbst verantwortlich (Moffatt v. Air Canada, 2024 BCCRT 149; Zusammenfassung bei beck-aktuell, 2024). Das Gericht stellte klar: Was der Bot sagt, ist wie eine Information auf der eigenen Website.

Wie sieht das nach deutschem Recht aus?

Ein deutsches Gericht hat diese Frage bislang nicht entschieden. Eine Analyse der Kanzlei HLC hält eine Haftung für fahrlässige Falschangaben aus vorvertraglichem Schuldverhältnis (culpa in contrahendo, §§ 311, 241 BGB) aber grundsätzlich für möglich; offen sei, ob schon das bekannte Halluzinationsrisiko eine Sorgfaltspflichtverletzung begründet (HLC, 2024). Für dich heißt das: Schutzmaßnahmen wie eine Wissensgrenze und eine dokumentierte Nachprüfung sind nicht nur Qualitätsthema, sondern ein Argument für sorgfältiges Handeln. Dieser Artikel ist keine Rechtsberatung – im Einzelfall solltest du anwaltlich prüfen lassen.

Dazu kommt seit dem 2. August 2026 die Transparenzpflicht aus Art. 50 der KI-Verordnung (EU) 2024/1689: Anrufer müssen erfahren, dass sie mit einer KI sprechen. Mehr dazu findest du in unserem Beitrag zum AI Act für Voice Agents.

Wie funktioniert eine Wissensgrenze beim KI-Telefonassistenten?

Eine Wissensgrenze legt fest, dass der KI-Telefonassistent Sachfragen nur aus freigegebenen Quellen beantwortet: deiner Website, deinen Dokumenten und deinem Antwortkatalog. Findet er dort nichts Passendes, gibt er das offen zu und bietet einen Rückruf oder die Weiterleitung an einen Menschen an.

Technisch nennt man das Prinzip oft „Retrieval-Augmented Generation" (RAG): Vor jeder Antwort sucht das System in der Wissensbasis nach passenden Textstellen und formuliert die Antwort nur auf dieser Grundlage. Der entscheidende Unterschied zu einem einfachen RAG-Chatbot ist die Regel für den Fall, dass nichts gefunden wird. Ein freies Modell antwortet dann trotzdem aus seinem allgemeinen Trainingswissen. Ein Assistent mit harter Wissensgrenze sagt stattdessen sinngemäß:

„Dazu habe ich leider keine gesicherte Information. Darf ich einen Rückruf notieren? Dann meldet sich jemand aus dem Team zurück."

So baust du die Wissensbasis auf:

1. Website importieren: Leistungen, Preise, Öffnungszeiten, Anfahrt, FAQ – möglichst mehrere Seiten, nicht nur die Startseite.
2. Dokumente ergänzen: Preislisten, Leistungsbeschreibungen, AGB-Auszüge als PDF oder DOCX.
3. Antwortkatalog pflegen: Kurze, geprüfte Antworten auf die häufigsten Fragen – formuliert so, wie sie am Telefon klingen sollen.
4. Grenzen festlegen: Was darf der Assistent nie zusagen (z. B. verbindliche Festpreise, medizinische Einschätzungen, Rechtsauskünfte)?

Wichtig ist auch die Spracherkennung. Wenn der Assistent „Freitag" als „Feiertag" versteht, kann selbst die beste Wissensgrenze die falsche Frage korrekt beantworten. Achte deshalb auf eine robuste Erkennung und darauf, dass der Assistent bei Unklarheit nachfragt.

Nachprüfung jedes Gesprächs: die Ampel

Eine Nachprüfung per Ampel bedeutet, dass nach jedem Gespräch ein zweites Modell jede Antwort des Assistenten mit den Quellen vergleicht und das Ergebnis farblich markiert. So siehst du auf einen Blick, welche Gespräche sauber waren und wo du eingreifen musst.

Ampel	Bedeutung	Was du tust
Grün	Alle Antworten waren durch Quellen belegt	Nichts – Stichproben reichen
Gelb	Es sind Fragen offen geblieben	Wissenslücke prüfen und Antwort ergänzen
Rot	Der Assistent hat etwas Unbelegtes behauptet	Gespräch lesen, Anrufer ggf. zurückrufen, Quelle oder Einstellung korrigieren

Der Vorteil gegenüber klassischer Qualitätssicherung: Du musst nicht mehr zufällig Gespräche anhören, sondern bekommst die kritischen Fälle vorsortiert. Wie du darüber hinaus Kennzahlen und Prüfroutinen aufsetzt, beschreibt unser Beitrag zum Qualitätsmanagement für Voice Agents.

Wissenslücken freigeben: So lernt der Assistent kontrolliert

Jede Frage, die der Assistent nicht beantworten konnte, landet als Wissenslücke im Dashboard. Gleiche Fragen werden zusammengefasst und gezählt – du siehst also sofort, welche Information wirklich häufig fehlt. Ein Mensch beantwortet die Lücke oder verwirft sie. Erst nach dieser Freigabe wandert die Antwort in den Antwortkatalog und wird ab dem nächsten Anruf als Quelle genutzt.

Das ist der Kern einer kontrollierten Lernschleife: Der Assistent wird mit jeder Woche besser, aber nie, indem er sich selbst etwas ausdenkt. Jede neue Antwort hat einen menschlichen Absender.

Freie KI vs. KI mit Wissensgrenze im Vergleich

Die folgende Tabelle zeigt die wichtigsten Unterschiede zwischen einem frei antwortenden Sprachmodell und einem KI-Telefonassistenten mit Wissensgrenze.

Kriterium	Freie KI am Telefon	KI-Telefonassistent mit Wissensgrenze
Wissensquelle	Allgemeines Trainingswissen plus Prompt	Nur Website, Dokumente und Antwortkatalog
Verhalten bei fehlender Info	Rät eine plausible Antwort	Sagt „weiß ich nicht" und bietet Rückruf an
Preise und Öffnungszeiten	Können erfunden oder veraltet sein	Nur so, wie sie in deinen Quellen stehen
Kontrolle nach dem Gespräch	Stichproben, manuelles Anhören	Automatische Prüfung jedes Gesprächs per Ampel
Umgang mit Lücken	Bleiben unsichtbar	Werden als Wissenslücke gesammelt und freigegeben
Haftungsrisiko	Schwer kalkulierbar	Deutlich reduziert und dokumentiert
Small Talk	Unbegrenzt	Je nach Stufe erlaubt oder abgelehnt

Eine Wissensgrenze macht den Assistenten nicht „dümmer". Sie macht ihn berechenbar – und das ist am Telefon wichtiger als Eloquenz.

Checkliste: Woran erkennst du einen KI-Telefonassistenten ohne Halluzinationen?

Einen KI-Telefonassistenten ohne Halluzinationen erkennst du daran, dass er Antworten an Quellen bindet, Lücken offen zugibt und jedes Gespräch nachprüfbar macht. Stelle Anbietern vor dem Kauf diese Fragen:

1. Gibt es eine harte Wissensgrenze? Kann ich einstellen, dass Sachfragen nur aus meinen Quellen beantwortet werden?
2. Was passiert bei fehlender Information? Sagt der Assistent ehrlich „weiß ich nicht" und bietet Rückruf oder Weiterleitung an?
3. Welche Quellen kann ich importieren? Mehrseitiger Website-Crawl, PDF, DOCX, eigener Antwortkatalog?
4. Wird jedes Gespräch geprüft? Gibt es eine automatische Nachprüfung mit klarer Bewertung – nicht nur ein Transkript?
5. Wie gehe ich mit Wissenslücken um? Werden offene Fragen gesammelt, gezählt und erst nach meiner Freigabe genutzt?
6. Kann ich live weiterleiten? Gibt es eine Übergabe an einen Menschen und eine Rückrufnotiz, wenn niemand erreichbar ist?
7. Gibt sich der Assistent als KI zu erkennen? Art. 50 KI-Verordnung verlangt das.
8. Wo werden Daten verarbeitet? Gibt es einen Auftragsverarbeitungsvertrag und eine transparente Liste der Dienstleister? Details dazu im Beitrag KI-Telefonie DSGVO-konform.
9. Kann ich vorher testen? Ein kostenloser Test mit deiner eigenen Website zeigt schneller als jede Präsentation, ob der Assistent erfindet.

Ein guter Praxistest: Stell im Testgespräch gezielt Fragen, deren Antwort nicht auf deiner Website steht. Ein seriöser Assistent sollte dann nicht improvisieren.

So macht es anicall.io

Der KI-Telefonassistent von anicall.io ist um genau dieses Prinzip gebaut: Er sagt nur, was auf deiner Website und in deinen Unterlagen steht, und bucht Termine direkt in deinen Kalender. Konkret:

• Wissen importieren: Website (mehrseitiger Crawl), PDF-, DOCX- und Textdateien, YouTube-Transkripte, RSS-Feeds und der Antwortkatalog bilden die Wissensbasis.
• Nur Belegtes beantworten: Vor jeder Antwort durchsucht anicall die Wissensbasis nach passenden Quellen. Gibt es keine, sagt der Agent das ehrlich und bietet einen Rückruf an.
• Nachprüfung per Ampel: Ein zweites Modell prüft nach jedem Gespräch jede Antwort gegen die Quellen – grün (alles belegt), gelb (Fragen offen), rot (unbelegte Behauptung).
• Wissenslücken freigeben: Unbeantwortete Fragen erscheinen gezählt im Dashboard. Du beantwortest oder verwirfst sie; freigegebene Antworten gelten ab dem nächsten Anruf.
• Weiterleitung und Rückruf: Live-Weiterleitung an eine hinterlegte Nummer; ist niemand erreichbar, notiert der Agent einen Rückrufwunsch.
• KI-Offenlegung: Die Agents geben sich in der Begrüßung als digitale Assistenz zu erkennen und bestätigen das auf Nachfrage.

Die Wissensgrenze stellst du pro Agent in vier Stufen ein:

Stufe	Verhalten
Nur belegt	Beantwortet Sachfragen ausschließlich aus der Wissensbasis
Strikt	Bleibt bei freigegebenen Aufgaben, lehnt andere Themen ab
Ausgewogen	Kurzer Small Talk, dann zurück zu den Kernaufgaben
Offen	Beantwortet auch Fragen außerhalb der Kernaufgaben

Abgerechnet wird über Prepaid-Tokens ohne Grundgebühr und ohne Abo; alle Funktionen inklusive Wissensgrenze und Nachprüfung stehen jedem Kunden offen. Ein Beispiel: 300 eingehende Minuten im Monat plus eine Rufnummer ergeben 4.080 Tokens, also 40,80 € netto. Details findest du auf der Seite Preise, Infos zu Datenbank und Dienstleistern unter Sicherheit & Datenschutz.

Häufige Fragen

Kann ein KI-Telefonassistent wirklich nie halluzinieren?

Kein Sprachmodell ist fehlerfrei, deshalb solltest du keinem Anbieter glauben, der das garantiert. Eine Wissensgrenze senkt das Risiko deutlich, weil Sachantworten an Quellen gebunden sind, und die Nachprüfung per Ampel macht verbleibende Fehler sichtbar, sodass du reagieren kannst.

Was ist der Unterschied zwischen RAG und einer Wissensgrenze?

RAG beschreibt die Technik, vor einer Antwort passende Quellen zu suchen. Die Wissensgrenze ist die Regel, was passiert, wenn keine Quelle gefunden wird: Statt aus Trainingswissen zu improvisieren, gibt der Assistent die Lücke zu und bietet einen Rückruf an.

Muss ich meine Website umbauen, damit der Assistent gute Antworten gibt?

Nicht zwingend. Hilfreich sind klar formulierte Seiten zu Leistungen, Preisen, Öffnungszeiten und häufigen Fragen. Was auf der Website fehlt, ergänzt du über Dokumente oder den Antwortkatalog – und die Wissenslücken zeigen dir nach den ersten Gesprächen, wo noch etwas fehlt.

Wer haftet, wenn der KI-Assistent eine falsche Auskunft gibt?

Für den Anrufer spricht der Assistent für dein Unternehmen. Im kanadischen Fall Moffatt v. Air Canada (2024) musste die Airline für die Falschauskunft ihres Chatbots zahlen; in Deutschland ist die Frage gerichtlich noch offen, eine Haftung gilt aber als möglich. Lass dich im Zweifel anwaltlich beraten.

Wie teste ich, ob ein Assistent Antworten erfindet?

Importiere deine Website, führe ein Testgespräch und stelle bewusst Fragen, die dort nicht beantwortet werden. Danach siehst du in der Ampel, ob jede Antwort belegt war – bei anicall.io ist dieser Agent-Test im Browser kostenlos.

Probier es selbst aus: In der Live-Demo auf anicall.io rufst du die KI-Rezeption direkt im Browser an oder forderst einen Demo-Anruf auf dein Telefon an. Danach kannst du auf anicall.io kostenlos starten, deine eigene Website importieren und testen, wie dein Assistent mit Fragen umgeht, die er nicht beantworten darf.