KI-Chatbot auf der Firmenwebsite: wo er hilft, wo er schadet
Kurz gesagt: Entscheiden Sie nicht nur, ob ein Chatbot flüssig antwortet. Prüfen Sie für jede Aufgabe, welche Informationen er braucht, was er zusagen oder ausführen darf und wer offene Fälle übernimmt. Eine Auskunft über eine veröffentlichte Öffnungszeit ist etwas anderes als eine verbindliche Preiszusage oder eine Änderung an einem Kundenauftrag. Die folgende Einsatzprüfung ist ein Vorschlag, kein durchgeführter Produkttest und keine rechtliche Freigabe.
Bewerten Sie Aufgaben, nicht das Etikett „KI“
Ein System kann bei einer eng umrissenen Aufgabe nützlich sein und bei einer anderen ungeeignet. Auch eine einfache Auskunft kann falsch werden, wenn die Quelle veraltet ist oder eine Ausnahme fehlt. Die Tabelle beschreibt deshalb Prüfaufträge, keine garantierten Risikoklassen.
| Geplanter Einsatz | Was vor einer Freigabe geklärt sein sollte |
|---|---|
| Öffnungszeiten und Anfahrt | Gültiger Standort, Sondertage und verantwortliche Quelle |
| Fragen zu einer Leistung | Freigegebene Angaben und klare Grenzen bei fehlenden Informationen |
| Anfrage vorbereiten | Notwendige Felder, Empfänger und zulässige Verarbeitung |
| Termin oder Auftrag bearbeiten | Tatsächliche Anbindung, Berechtigung und Verhalten bei Fehlern oder Konflikten |
| Preise oder Liefertermine nennen | Anwendbare Daten, Bedingungen und Grenzen verbindlicher Zusagen |
| Beschwerde oder Ausnahme behandeln | Erreichbare zuständige Person und keine erfundene Entscheidung |
| Medizinische, rechtliche oder finanzielle Einzelfrage | Geeigneter fachlicher Prüfweg statt einer improvisierten Empfehlung |
Wenn die Aufgabe nicht geklärt ist, hilft ein allgemeines Versprechen wie „beantwortet alle Kundenfragen“ nicht weiter. Halten Sie fest, welche Antwort oder Handlung erlaubt ist und wann das System nachfragen oder eine Prüfung anbieten soll.
Wo ein begrenzter Einsatz sinnvoll sein kann
Bei wiederkehrenden Informationsfragen lässt sich zunächst prüfen, ob der Bot die passende freigegebene Antwort findet und ihre Bedingungen richtig wiedergibt. Vergleichen Sie den Nutzen mit der vorhandenen Navigation oder Hilfeseite. Dass eine Frage oft vorkommt, beweist noch nicht, dass ein zusätzlicher Chatkanal die beste Lösung ist.
Bei der Vorbereitung von Anfragen kann ein Bot fehlende Angaben erfragen. Definieren Sie jedoch, was wirklich nötig ist. Ein Formularersatz ist kein Grund, Gesundheitsdaten, Ausweiskopien oder vertrauliche Arbeitsunterlagen einzusammeln. Testen Sie mit erfundenen Daten, ob die Anfrage beim vorgesehenen Empfänger ankommt.
Bei Buchungen und Auskünften zu Kundenkonten kommt eine andere Aufgabe hinzu: Der Zugriff muss zur Person und zum erlaubten Vorgang passen. Eine überzeugende Antwort beweist weder die Berechtigung noch eine erfolgreiche Buchung. Prüfen Sie den tatsächlichen Datensatz und den Umgang mit einem fehlgeschlagenen Vorgang, ohne unbeabsichtigt echte Bestellungen oder Termine anzulegen.
Falsche Aussagen sind nicht durch einen Quellenlink erledigt
Der kanadische Fall Moffatt v. Air Canada, 2024 BCCRT 149, entschieden am 14. Februar 2024, zeigt ein konkretes Problem: Ein Chatbot beschrieb eine nachträgliche Beantragung eines Trauertarifs, während die verlinkte Seite eine abweichende Regel enthielt. Das Civil Resolution Tribunal in British Columbia stellte im konkreten Fall eine fahrlässige Falschdarstellung und ein unter den Umständen vernünftiges Vertrauen des Reisenden fest. Die Gründe lassen sich in einer PDF-Wiedergabe der Entscheidung nachlesen.
Daraus folgt keine automatische Haftung für jeden Chatbotfehler in Deutschland. Auch die Wirksamkeit sämtlicher Haftungsausschlüsse wurde damit nicht entschieden. Die Entscheidungsgründe weisen ausdrücklich darauf hin, dass Air Canada die behaupteten einschlägigen Tarifbestimmungen nicht vorgelegt hatte. Die zugrunde liegende Chatbottechnik benennen sie nicht.
Für einen deutschen Einsatz ist unter anderem § 5 UWG ein eigenständig zu prüfender Maßstab: Er erfasst irreführende geschäftliche Handlungen, die geeignet sind, eine andernfalls nicht getroffene geschäftliche Entscheidung zu veranlassen. Absatz 2 nennt etwa Angaben über Leistungen, Preise und Bedingungen. Ob eine konkrete Botantwort darunter fällt oder weitere Ansprüche auslöst, hängt von den Umständen ab. Dieser Artikel prüft keinen Einzelfall.
Als technische Abnahmefrage lässt sich festhalten: Stimmt die ausgegebene Aussage mit den anwendbaren Bedingungen überein? Ein richtiger Link neben einem falschen Versprechen ist kein bestandener Test.
KI-Hinweis: Zuständigkeit und Darstellung prüfen
Die FAQ der Europäischen Kommission zu Artikel 50 der KI-Verordnung, zuletzt aktualisiert am 24. Juli 2026 und hier am 1. November 2026 abgerufen, erläutern die Transparenzpflichten. Bei Systemen, die unmittelbar mit Menschen interagieren, betrifft Artikel 50 Absatz 1 die Gestaltung durch Anbieter: Menschen sollen über die KI-Interaktion informiert werden, sofern diese nicht offensichtlich ist. Die Information soll spätestens bei der ersten Interaktion klar erkennbar sein und den Anforderungen an Barrierefreiheit entsprechen. Die Kommission nennt den 2. August 2026 als Anwendungsbeginn von Artikel 50.
Das ist keine Aussage, dass jeder Websitebetreiber allein dieselbe Anbieterrolle hat oder ein beliebiger Satz „KI-gestützt“ sämtliche Pflichten erfüllt. Klären Sie Ihre Rolle und die Aufgabenverteilung mit dem Dienstleister. Prüfen Sie, was Besucher tatsächlich sehen, auch auf dem Mobiltelefon und mit unterstützenden Technologien. Der Hinweis ersetzt weder Datenschutzprüfung noch inhaltliche Kontrolle.
Datenschutz und Endgerätezugriff getrennt untersuchen
Lassen Sie den tatsächlichen Datenfluss dokumentieren: Eingaben, Empfänger, eingesetzte Dienste, Speicherorte, Zugriffsrechte, Aufbewahrung und Löschung. Prüfen Sie dazu die anwendbaren Datenschutzpflichten und die vertraglichen Rollen. Nicht jede Implementierung verarbeitet dieselben Daten oder hat dieselben Beteiligten. Eine allgemeine Liste kann die Prüfung nicht ersetzen.
Daneben regelt § 25 TDDDG das Speichern von Informationen in Endeinrichtungen und den Zugriff auf dort gespeicherte Informationen. Absatz 1 verlangt grundsätzlich eine informierte Einwilligung. Absatz 2 enthält Ausnahmen, unter anderem für die unbedingt erforderliche Bereitstellung eines vom Nutzer ausdrücklich gewünschten digitalen Dienstes sowie für den alleinigen Zweck der Nachrichtenübertragung über ein öffentliches Telekommunikationsnetz.
Ob eine konkrete Widgetfunktion darunter fällt, muss anhand ihres Verhaltens geprüft werden. „Lädt erst beim Öffnen“ ist eine mögliche technische Gestaltung, kein automatischer Nachweis, dass keine Einwilligung oder weitere Datenschutzmaßnahme nötig ist. Ebenso wenig folgt aus dem bloßen Einsatz eines Chatfensters stets dieselbe Einwilligungspflicht.
Freigabe und laufende Kontrolle konkret vereinbaren
Legen Sie für jede erlaubte Aufgabe fest:
- die gültige Informationsquelle und die zuständige Person;
- erwartete Antworten, Rückfragen und Übergaben;
- erlaubte Werkzeuge und erforderliche Freigaben;
- den Umgang mit fehlenden oder widersprüchlichen Informationen;
- den Prüfweg nach Änderungen und bei Beschwerden.
Verwenden Sie zunächst synthetische Fälle. Dokumentieren Sie bei einem tatsächlichen Test Erwartung, Ergebnis und offene Abweichung getrennt. Ein System, das „Ich leite weiter“ schreibt, hat noch keine Übergabe nachgewiesen. Auch eine kleine Stichprobe ohne beobachtete Fehler belegt nicht, dass seltene Fehler ausgeschlossen sind.
Wählen Sie Umfang und Rhythmus der Kontrolle nach Nutzung und Folgen möglicher Fehler. Bei relevanten Änderungen müssen betroffene Fälle erneut geprüft werden. Wenn echte Gespräche untersucht werden, brauchen deren Zugriff und Verwendung passende Schutzmaßnahmen; „alles unbegrenzt protokollieren“ ist keine Voraussetzung dieses Vorschlags.
Häufige Fragen
Reicht eine Anweisung, nur aus meinen Quellen zu antworten?
Nein, sie belegt nicht, dass das System die richtige Quelle findet, Bedingungen erhält oder Werkzeuge korrekt verwendet. Prüfen Sie diese Schritte und den Umgang mit fehlender Information.
Muss jeder Fehler zum vollständigen Abschalten führen?
Definieren Sie Maßnahmen passend zum betroffenen Vorgang. Manchmal lässt sich eine Funktion begrenzen, manchmal ist eine umfassendere Unterbrechung nötig. Der Artikel legt weder universelle Stoppschwellen noch gesetzliche Meldefristen fest.
Ist ein Chatbot bei guten FAQ überflüssig?
Nicht zwingend. Prüfen Sie, ob er eine nachgewiesene Lücke beim Finden von Informationen oder beim Vorbereiten von Anfragen schließt. Die Entscheidung über die Oberfläche ist von der Freigabe konkreter Antworten und Handlungen zu trennen.
Kann der Dienstleister die gesamte Verantwortung übernehmen?
Verlassen Sie sich nicht auf eine pauschale Zusage. Klären Sie tatsächliche Aufgaben, Rollen, Verträge und Nachweise. Der Einsatzplan hier bestätigt weder eine Haftungsverteilung noch Rechtskonformität.
Wenn Sie die erlaubten Aufgaben und Übergabepunkte Ihres Website-Assistenten festlegen möchten, beschreiben Sie den vorgesehenen Einsatz. Senden Sie keine vertraulichen Informationen Ihres Arbeitgebers oder personenbezogenen Gesprächsprotokolle.