Viele Diskussionen über generative KI beginnen beim Prompt. Wie formuliere ich eine Aufgabe besser? Wie bekomme ich präzisere Ergebnisse? Welche Technik funktioniert besonders zuverlässig? Das ist sinnvoll, aber es greift zu kurz.

Denn ein guter Prompt löst nicht automatisch das richtige Problem. Er stellt auch nicht sicher, dass die richtigen Informationen verwendet wurden, dass menschliches Fachurteil an der richtigen Stelle erhalten bleibt oder dass ein professionell wirkendes Ergebnis tatsächlich belastbar ist.

Gerade im Qualitätsmanagement ist deshalb eine andere Frage mindestens genauso wichtig: Unter welchen Bedingungen darf ich ein KI-Ergebnis überhaupt verwenden?

Für mich lässt sich diese Frage gut über fünf aufeinander aufbauende Schritte betrachten: Problemdefinition, Input Authority beziehungsweise Gültigkeit der Eingaben, Human Judgment beziehungsweise menschliches Fachurteil, Verification beziehungsweise Verifizierung und schließlich Release beziehungsweise Freigabe.

1. Problemdefinition

Der erste Schritt beginnt noch vor dem eigentlichen Einsatz der KI. Es geht darum, zu klären, welches Problem tatsächlich gelöst werden soll.

„Erstelle einen Auditbericht“ beschreibt zunächst nur eine Tätigkeit. Interessanter wird es bei den Fragen dahinter: Welche Entscheidung oder Handlung soll der Bericht unterstützen? Für wen wird er erstellt? Welche Qualitätsanforderungen gelten? Welche Fehler wären besonders kritisch? Und welche Teile der Aufgabe dürfen überhaupt an eine KI delegiert werden?

Genau hier liegt ein häufig unterschätztes Risiko. Eine KI kann eine schlecht definierte Aufgabe sehr effizient bearbeiten. Das Ergebnis kann schnell, professionell und sprachlich überzeugend wirken und trotzdem am eigentlichen Bedarf vorbeigehen. Qualitätskontrolle beginnt deshalb nicht erst beim Ergebnis, sondern bereits bei der Definition der Aufgabe.

2. Input Authority, Gültigkeit und Autorität der Eingaben

Der zweite Schritt betrifft die Informationen, auf deren Basis die KI arbeitet.

Moderne KI-Systeme können auf immer mehr Quellen zugreifen. Das können Dateien, Projekte, Webseiten, Datenbanken oder angebundene Anwendungen sein. Technisch verfügbar bedeutet aber noch lange nicht fachlich gültig.

Ein Dokument kann vorhanden und leicht auffindbar sein und trotzdem veraltet, nicht freigegeben, unvollständig oder für einen anderen Zweck erstellt worden sein. Im Qualitätsmanagement ist dieses Problem bekannt: Nicht jede Datei im Ordner ist automatisch der gültige Stand.

Für den KI-Einsatz wird diese Unterscheidung besonders wichtig. Nicht alles, worauf ein System zugreifen kann, sollte automatisch Einfluss auf das Ergebnis haben. Vor der Nutzung muss deshalb geklärt sein, welche Informationen für die konkrete Aufgabe tatsächlich relevant, gültig und maßgeblich sind.

Damit verschiebt sich die Frage von „Welche Informationen kann die KI sehen?“ zu „Welche Informationen dürfen diese konkrete Aussage oder Entscheidung beeinflussen?“.

3. Human Judgment, menschliches Fachurteil

Auch wenn die richtigen Informationen vorliegen, bleibt die Frage, welche Rolle die KI im Entscheidungsprozess übernehmen soll.

KI kann vergleichen, strukturieren, klassifizieren und Empfehlungen formulieren. Daraus folgt aber nicht automatisch, dass sie auch entscheiden sollte. Gerade in qualitätsrelevanten, rechtlichen oder sicherheitskritischen Situationen muss klar sein, an welcher Stelle menschliches Fachurteil erforderlich bleibt.

Eine einfache Prüffrage lautet: Wer trägt die Konsequenz, wenn die Empfehlung falsch ist?

Je größer die Auswirkungen einer Fehlentscheidung sind, desto wichtiger wird die bewusste Festlegung der Verantwortungsgrenze. Die KI kann vorbereiten, bewerten oder Optionen darstellen. Bestimmte Entscheidungen oder Freigaben bleiben dennoch beim Menschen.

Das Entscheidende ist, diese Grenze vorher festzulegen und nicht erst dann, wenn etwas schiefgegangen ist.

4. Verification, Überprüfung und Verifizierung

Spätestens an diesem Punkt zeigt sich ein weiteres Problem des KI-Einsatzes: Professionelle Darstellung und fachliche Qualität werden leicht miteinander verwechselt.

Ein sauber formulierter Text kann sachlich falsch sein. Eine überzeugende Tabelle kann auf falschen Annahmen beruhen. Ein plausibel klingender Auditbefund kann entstehen, obwohl wesentliche Informationen fehlen.

Deshalb braucht ein KI-Ergebnis überprüfbare Kriterien. Es muss nachvollziehbar sein, ob alle relevanten Anforderungen berücksichtigt wurden, ob zentrale Aussagen auf Quellen zurückgeführt werden können, ob Annahmen erkennbar bleiben und ob Unsicherheiten sichtbar gemacht werden.

Bei wiederkehrenden KI-Anwendungen reicht außerdem ein einzelnes gutes Ergebnis nicht aus. Ein Verfahren sollte an unterschiedlichen Fällen geprüft werden, darunter normale Situationen, Grenzfälle und bewusst schwierige oder negative Beispiele.

Erst dann lässt sich sinnvoll beurteilen, ob die Anwendung nicht nur einmal funktioniert hat, sondern reproduzierbar belastbare Ergebnisse liefert.

5. Release, Freigabe zur Nutzung

Der letzte Schritt ist die eigentliche Freigabe.

Gerade dieser Punkt wird bei KI-Anwendungen häufig nicht ausdrücklich benannt. Ein Ergebnis wurde erzeugt, jemand hat kurz darübergeschaut und damit gilt die Aufgabe als abgeschlossen.

Aus Sicht des Qualitätsmanagements ist das zu wenig.

Eine Freigabe sollte an vorher definierte Bedingungen geknüpft sein. Je nach Anwendung kann dazu gehören, dass Pflichtprüfungen durchgeführt wurden, Quellen nachvollziehbar sind, kritische Fehler ausgeschlossen wurden, Verantwortlichkeiten geklärt sind und die notwendige menschliche Prüfung stattgefunden hat.

Damit entsteht ein wesentlicher Unterschied: Die KI produziert nicht einfach nur einen Output. Der Output durchläuft einen kontrollierten Prozess und wird erst dann für seinen vorgesehenen Zweck freigegeben.

Vom Prompt Engineering zum Quality Gate

Das Modell lässt sich deshalb auf fünf einfache Fragen verdichten:

Lösen wir das richtige Problem? Verwenden wir die richtigen und gültigen Informationen? Bleibt das notwendige Fachurteil beim Menschen? Haben wir das Ergebnis ausreichend überprüft? Und sind die Bedingungen für die Freigabe erfüllt?

In Kurzform:

Problemdefinition → Input Authority / Gültigkeit der Eingaben → Human Judgment / menschliches Fachurteil → Verification / Verifizierung → Release / Freigabe

Der Prompt ist innerhalb dieses Prozesses weiterhin wichtig. Er ist nur nicht der ganze Prozess.

Je leistungsfähiger KI-Systeme werden, desto weniger sollte sich KI-Kompetenz darauf beschränken, besonders geschickte Anweisungen zu formulieren. Die anspruchsvollere Aufgabe besteht darin, KI so in Arbeitsprozesse einzubauen, dass Ergebnisse nachvollziehbar, überprüfbar und kontrolliert nutzbar bleiben.

Genau an diesem Punkt beginnt für mich Qualitätsmanagement für KI.