Blog › Berufspraxis

Wer haftet, wenn die KI falschliegt? (Nach wie vor Sie)

Vom Quorello-Team · 4. Juli 2026 · 5 Min. · Berufspraxis

Das Werkzeug ist neu, die Haftungsregel ist es nicht. Wer eine Empfehlung unterzeichnet, steht dafür gerade — ob er mit einer Tabellenkalkulation, einem Kollegen oder einer KI dazu gelangt ist. „Das Modell hat es so gesagt“ hat noch nie als Rechtfertigung getaugt gegenüber einer Mandantin, einer Aufsichtsbehörde oder einer Berufskammer, und daran wird sich nichts ändern.

Das ist kein Grund, KI zu meiden. Es ist ein Grund, ihren Einsatz bewusst zu gestalten, damit ein wirklich nützliches Werkzeug Ihre Arbeit stärkt, statt still das eine zu untergraben, wofür Ihre Mandanten tatsächlich bezahlen: Ihr Urteilsvermögen.

Was auf die KI übergeht — und was nicht

Ein Modell kann echtes Gewicht tragen. Es kann entwerfen, zusammenfassen, einen ersten Wurf liefern und in kurzer Zeit prüfen: „Was übersehe ich hier?“ Richtig eingesetzt, erkennt es Dinge, die Ihnen entgangen wären.

Was es nicht tragen kann, ist der Teil, der Ihren Namen trägt: die Sorgfaltspflicht, das fachliche Urteil und die Folgen, wenn die Antwort falsch ist. Eine KI hat keine Zulassung zu verlieren, keine Mandatsbeziehung zu verantworten und keine Berufskammer, vor der sie sich verantworten muss. Die Verantwortung wandert nicht mit, wenn der Entwurf wandert. Sie bleibt genau dort, wo sie immer war.

Wie KI die Rechenschaftspflicht ganz konkret aushöhlt

Der Fehlermodus ist nicht dramatisch. Er ist leise und läuft so ab: Eine flüssige, selbstsichere, sauber strukturierte Antwort erscheint auf Ihrem Bildschirm — und Ihre kritische Prüfung lässt genau in dem Moment nach, in dem sie sich schärfen sollte.

Die Psychologie nennt das Automatisierungsverzerrung (automation bias) — den Sog, einer selbstbewussten Maschine mehr zu vertrauen, als die Belege es rechtfertigen. Je geschliffener die Ausgabe, desto stärker der Sog. Eine falsche Zahl, vergraben in einem sauberen, gut formatierten Memo, ist weit schwerer zu entdecken als dieselbe Zahl, hingekritzelt auf einen Bierdeckel. Die Darstellung übernimmt das Überzeugen, und der Fehler fährt mit.

Das ist das eigentliche Risiko der KI in der fachlichen Arbeit. Nicht, dass sie offensichtlich falschliegt, sondern dass sie plausibel und flüssig falschliegt — in genau dem Register, das eine vielbeschäftigte Fachperson das Prüfen einstellen lässt.

Ganz konkret: Angenommen, Sie fragen, wie eine erwerbstätige Person für einen Mandanten einzuordnen ist — Angestellte oder selbstständig Erwerbende. Ein Modell liefert eine saubere, selbstsichere Antwort, die Sie unmittelbar in eine Aktennotiz übernehmen könnten. Zwei andere widersprechen: Die richtige Einordnung hängt an Tatsachen, die in der Frage fehlten, und ein Fehler bringt echtes Haftungsrisiko mit sich. Nichts an dieser ersten Antwort deutete auf den Zweifel hin — erst der Widerspruch tat es. Hätte sie allein gestanden, hätten Sie auf dieser Grundlage beraten und Ihren Namen daruntergesetzt. Das Modell trägt keine dieser Folgen; Sie tragen sie alle.

Das Gegenprüfen nimmt Ihnen die Verantwortung nicht ab — es macht sie beherrschbar

Hier kommt der entscheidende Punkt. Eine Frage über mehrere unabhängige KI-Modelle hinweg gegenzuprüfen, lagert Ihr Urteil nicht aus. Es leistet etwas Nützlicheres: Es zeigt Ihnen, wo Ihr Urteil am meisten gebraucht wird.

Wenn mehrere Modelle unabhängiger Anbieter übereinstimmen, stehen Sie auf festerem Boden — nie eine Garantie, aber ein stärkerer Ausgangspunkt. Wenn sie auseinandergehen, haben Sie ein Warnsignal: die genauen Stellen, an denen Sie langsamer werden, die Primärquelle heranziehen und bewusst entscheiden. Sie bleiben für die Antwort verantwortlich. Sie haben nur aufgehört, blind zu prüfen und zu hoffen, dass der eine selbstsichere Absatz vor Ihnen zufällig der richtige ist.

Das ist eine kleinere, schärfer umrissene Verantwortung als „alles überprüfen, was die Maschine mir sagt“ — und eine weit sicherere als „der Maschine vertrauen, weil sie so überzeugt klang“.

Ein belastbarer Umgang mit KI

• Behandeln Sie KI-Ausgaben als Entwurf oder Zweitmeinung, nie als Schlussfolgerung. In dem Moment, in dem sie zur Antwort statt zur Zuarbeit wird, öffnet sich die Verantwortungslücke.
• Gleichen Sie alles Folgenreiche über unabhängige Anbieter hinweg ab und lesen Sie den Grad der Übereinstimmung, nicht nur die Antwort.
• Machen Sie aus jeder Abweichung eine Quellenprüfung. Gehen Sie zum Gesetz, zum Standard oder zur geltenden Regel, bevor Sie sich auf eine strittige Auslegung verlassen.
• Halten Sie die menschliche Freigabe ausdrücklich fest. Ein Mensch entscheidet und kann begründen, warum.
• Hinterlassen Sie eine kurze Spur. Eine Zeile — gefragt, gegengeprüft, X anhand von Quelle Y verifiziert — ist der Unterschied zwischen einem belastbaren Vorgehen und „die KI hat es so gesagt“.
• Fügen Sie nie ein, was Sie nicht weitergeben dürfen. Ein Modell muss Ihre Eingabe lesen, um sie zu beantworten; wie Quorello das vertraulich hält, zeigt unsere Seite zu Sicherheit und Datenschutz.

Das Fazit

KI kann Sie schneller machen und Dinge erkennen, die Ihnen sonst entgangen wären. Sie kann Ihre Berufsverantwortung nicht übernehmen, und kein seriöses Werkzeug sollte behaupten, es tue das. Quorello ist darauf ausgelegt, das Gegenprüfen einfach und ehrlich zu machen — es zeigt, wo unabhängige Modelle übereinstimmen und, wichtiger noch, wo sie sich widersprechen, damit Sie wissen, wo Sie hinschauen müssen. Die Freigabe liegt bei Ihnen und sollte es bleiben.

In der Praxis

Nichts davon verlangt von Ihnen, dem Werkzeug zu vertrauen. Es verlangt, es dort einzusetzen, wo es seinen Platz verdient — die folgenreichen Fragen gegenprüfen, am genauesten auf die Widersprüche schauen und die Freigabe bei sich behalten. Wenn Sie sehen möchten, wie das an einer echten Frage aussieht: Quorello stellt sie mehreren unabhängigen Modellen zugleich, mit standardmäßig aktivem Privatem Modus, sodass sensible Eingaben nicht gespeichert werden.