Wenn die Maschine für dich antwortet — wer haftet dann?

Ein Kunde ruft an und sagt einen Satz, den es vor drei Jahren nicht gab: „Die KI hat gesagt, ihr habt bis 18 Uhr offen." Ihr habt bis 17 Uhr offen. Niemand hat das je so geschrieben. Und trotzdem stand es da, in einer Antwort, die aussah wie eine Auskunft von euch. Und damit steht die Frage im Raum, wer für eine solche Auskunft die Verantwortung trägt.

Wer ist das gewesen?

Die Frage, die Entscheider wirklich beschäftigt.

Zwischen dir und deinem Kunden steht seit Kurzem eine Instanz, die niemand beauftragt hat: eine Maschine, die über deinen Betrieb Auskunft gibt, ohne dich zu fragen. Sie antwortet in deinem Namen, aber nicht in deinem Auftrag. Sie zitiert dich, ohne dich zu zitieren.

Die naheliegende Frage lautet: Wer haftet? Sie ist verständlich, aber sie führt in eine Sackgasse — sie ist im Einzelfall eine Rechtsfrage, und die beantwortet weder ein Blogbeitrag noch ein Dienstleister. Der europäische Rechtsrahmen dafür entsteht gerade erst; wir haben ihn in einem eigenen Beitrag zur Datenhoheit gegenüber KI-Systemen beschrieben, dort allerdings mit Blick auf das Training, nicht auf die Antwort.

Die Frage, die du dagegen heute selbst beantworten kannst, ist eine andere — und praktisch die wichtigere: Kannst du nachvollziehen, woher eine Angabe stammt, und sie an der Quelle korrigieren?

Warum eine Maschine überhaupt etwas erfindet.

Sprachmodelle geben nicht Gespeichertes wieder, sie erzeugen die wahrscheinlichste Fortsetzung. Wo eine Angabe fehlt, entsteht trotzdem eine — das ist keine Störung, sondern die Arbeitsweise, und der Fachbegriff dafür ist die Halluzination.

Daraus folgt etwas Unbequemes: Eine Lücke ist gefährlicher als eine falsche Angabe. Wo nichts steht, wird etwas plausibel Klingendes eingesetzt — die üblichen Öffnungszeiten der Branche, der übliche Preisrahmen, die üblichen Leistungen. Wer keine Antwort hinterlegt, bekommt trotzdem eine.

Drei Fälle, die man nicht verwechseln sollte.

Es lohnt sich, sauber zu trennen, was da schiefgehen kann:

1. Falsche Aussage über dich. Die Maschine behauptet etwas Unzutreffendes. Das ist ein Reputationsthema — beschrieben in Wenn die KI dich falsch zitiert.
2. Veraltete Aussage. Die Angabe war einmal richtig und ist es nicht mehr. Der häufigste Fall, und der harmloseste — solange es eine aktuelle Quelle gibt, die dagegenhält.
3. Erfundene Aussage. Es gab nie eine Quelle. Der Fall, um den es hier geht.

Für alle drei gilt dieselbe Gegenmaßnahme, und sie ist unspektakulär: eine Stelle, an der die Wahrheit steht, aktuell, maschinenlesbar und eindeutig deiner Domain zugeordnet — der Gedanke aus Deine Domain ist die Quelle.

Nachvollziehbarkeit ist eine betriebliche Eigenschaft, keine Rechtsfrage.

Ob eine Angabe über deinen Betrieb nachvollziehbar ist, hängt an drei Dingen, die alle in deiner Hand liegen:

• Steht die Angabe irgendwo bei dir? Öffnungszeiten, Preisrahmen, Zuständigkeitsgebiet, Leistungen — als Datum, nicht nur als Satz auf einer Seite, den ein Mensch findet und eine Maschine überliest.
• Ist sie eindeutig? Zwei Stellen mit zwei Wahrheiten sind schlimmer als eine Lücke. Dann entscheidet die Maschine, welche sie glaubt.
• Ist sie aktuell? Ein Datum, das seit zwei Jahren steht, wird nicht falsch, weil es alt ist — aber es wird unglaubwürdig, wenn daneben etwas Neueres steht.

Wer diese drei Fragen mit Ja beantwortet, hat im Streitfall nicht nur ein besseres Gefühl, sondern etwas Vorzeigbares: eine belegbare Quelle mit Stand. Das ist der Unterschied zwischen „das haben wir nie gesagt" und „hier steht seit dem 12. März, was gilt".

Was das für die Entscheidung heißt.

Es geht nicht darum, jede mögliche Frage vorab zu beantworten — das schafft niemand. Es geht um die Handvoll Angaben, bei denen eine falsche Auskunft echten Schaden macht: Erreichbarkeit, Zuständigkeit, was ihr macht und was ausdrücklich nicht, und alles, was mit Sicherheit oder Fristen zu tun hat.

Diese Angaben gehören an eine Stelle, die man ohne Entwicklerhilfe ändern kann. Denn Nachvollziehbarkeit ist keine einmalige Einrichtung, sondern eine Gewohnheit: Wenn sich etwas ändert, muss es an einer Stelle geändert werden — nicht an sieben, von denen man vier vergisst.

Und wenn du wissen willst, was Maschinen heute über dich sagen: einmal selbst nachfragen kostet nichts. Wie man das systematisch prüft, statt es zufällig vom Kunden zu erfahren, steht im Sichtbarkeits-Cockpit.

Zum Mitnehmen.

Die Frage „wer haftet?" ist im Einzelfall eine für Juristen. Die Frage „woher stammt das, und wo korrigiere ich es?" ist eine für dich — und du kannst sie heute beantworten. Wer eine gepflegte, eindeutige Quelle hat, verwandelt einen Vorfall in eine Korrektur. Wer keine hat, führt eine Diskussion ohne Beleg.