Woher wissen Sie, dass die KI richtig liegt?

Sprachmodelle formulieren überzeugend. Das ist ihre Stärke und zugleich ihr größtes Risiko: Ein falscher Satz klingt genauso souverän wie ein richtiger. In einem Beruf, in dem die Berufshaftpflicht an der Richtigkeit hängt, reicht Vertrauen als Qualitätssicherung nicht aus. Es braucht eine Architektur, die Fehler unwahrscheinlich macht – und sie sichtbar, wenn sie doch passieren.

Erste Ebene: Der Prozess entscheidet, nicht das Modell

Die meisten Fehlerquellen entstehen nicht im Modell, sondern in der Aufgabe, die man ihm gibt. Eine KI, die aus einer Mandantenmail erkennen soll, ob eine Rechnung fehlt, arbeitet in einem eng umrissenen Rahmen mit klaren Kriterien. Eine KI, die frei über einen steuerlichen Sachverhalt urteilen soll, arbeitet ohne Rahmen. Der erste Fall ist beherrschbar, der zweite nicht. Deshalb beginnt Qualitätssicherung mit der Auswahl: Welche Aufgaben sind überhaupt geeignet?

• Geeignet: strukturieren, zuordnen, vergleichen, formulieren nach Vorlage, auf Vollständigkeit prüfen
• Bedingt geeignet: vorschlagen, entwerfen, priorisieren – immer mit Prüfschritt
• Nicht geeignet: eigenständig steuerlich würdigen, Fristen final feststellen, ohne Prüfung nach außen kommunizieren

Zweite Ebene: Antworten müssen auf Quellen zeigen

Ein System, das aus Ihren eigenen Unterlagen antwortet, muss mitliefern, woher die Antwort stammt: Aus welchem Dokument, aus welchem Abschnitt, aus welcher Mandantenakte. Diese Rückverfolgbarkeit ist kein Komfortmerkmal, sondern das eigentliche Prüfinstrument. Wer die Quelle sieht, prüft in Sekunden. Wer nur das Ergebnis sieht, muss es nachrecherchieren – und dann hätte man es auch gleich selbst machen können.

Dritte Ebene: Das Freigabe-Prinzip

Nichts verlässt Ihre Kanzlei ohne menschliche Freigabe. Kein Mandantenschreiben, keine Nachforderung, kein Berichtstext. Die KI bereitet vor, Ihr Team entscheidet. Das klingt nach einer Einschränkung, ist aber der Grund, warum der Einsatz überhaupt verantwortbar ist – und warum die Verantwortung dort bleibt, wo sie berufsrechtlich hingehört: bei der Berufsträgerin oder dem Berufsträger.

Wichtig ist, dass die Freigabe echt ist und nicht zur Klickstrecke verkommt. Das erreicht man über die Darstellung: Was hat sich geändert, worauf stützt sich der Vorschlag, was ist unsicher. Ein Vorschlag, der seine eigenen Schwachstellen markiert, wird tatsächlich geprüft. Einer, der immer gleich souverän aussieht, wird irgendwann durchgewinkt.

Vierte Ebene: Messen statt hoffen

Qualität lässt sich beziffern. In den ersten Wochen nach der Einführung sollte jede Korrektur bei der Freigabe erfasst werden – nicht als Bürokratie, sondern als Regelkreis. Aus der Frage, welche Vorschläge wie häufig korrigiert werden mussten, ergibt sich, wo nachgeschärft wird. Nach ein paar Wochen sehen Sie eine Quote statt eines Bauchgefühls, und Sie sehen sie pro Prozess statt pauschal.

• Korrekturquote pro Prozess: Wie oft wird ein Vorschlag inhaltlich geändert?
• Art der Korrektur: Ton, Vollständigkeit oder Sachverhalt – nur Letzteres ist kritisch
• Zeit bis zur Freigabe: sinkt sie, arbeitet das System für Ihr Team, steigt sie, dagegen
• Ausreißer: Welche Fälle gehen regelmäßig schief, und was haben sie gemeinsam?

Fünfte Ebene: Ein Mensch ist zuständig

Jeder automatisierte Prozess braucht eine benannte verantwortliche Person in der Kanzlei. Nicht als Formalie, sondern damit Auffälligkeiten eine Adresse haben. In kleineren Kanzleien ist das oft die Person, die den Prozess ohnehin verantwortet hat – das ist gut so, denn sie erkennt Abweichungen am schnellsten.

Was das mit dem EU AI Act zu tun hat

Seit Februar 2025 gilt nach Art. 4 EU AI Act eine Pflicht zur KI-Kompetenz: Wer KI einsetzt, muss dafür sorgen, dass die damit arbeitenden Personen ausreichend geschult sind. Praktisch heißt das, Ihr Team muss verstehen, was das System kann, was es nicht kann und woran man einen fragwürdigen Vorschlag erkennt. Diese Schulung ist keine Zusatzaufgabe neben der Qualitätssicherung – sie ist ein Teil davon.

„

Ein System, das Sie nicht prüfen können, sollten Sie nicht einsetzen – unabhängig davon, wie gut es in der Demo aussieht.

Zusammengefasst: Qualitätssicherung ist keine Eigenschaft des Modells, sondern eine Eigenschaft des Aufbaus. Enge Aufgaben, sichtbare Quellen, echte Freigabe, gemessene Korrekturen, benannte Verantwortung. Wer diese fünf Ebenen hat, kann KI in einer Steuerkanzlei verantworten. Wer sie nicht hat, verlagert ein Haftungsrisiko in eine Software.

Verordnung (EU) 2024/1689 (EU AI Act), Art. 4; § 62a StBerG; Hinweise der Bundessteuerberaterkammer zum Einsatz digitaler Werkzeuge.