Warum KI im Qualitätsmanagement klare Entscheidungskriterien und wirksame Quality Gates braucht
Generative KI kann Dokumente zusammenfassen, Reklamationen strukturieren, Informationen vergleichen, Auditfragen vorschlagen oder erste Ursachenanalysen formulieren. Was vor wenigen Jahren noch erhebliche manuelle Arbeit erforderte, lässt sich heute teilweise innerhalb weniger Sekunden erledigen.
Damit verschiebt sich eine zentrale Frage beim Einsatz von KI im Qualitätsmanagement. Es geht nicht mehr nur darum, ob ein System eine gute Antwort erzeugen kann. Wichtiger wird, welche Antwort wir für einen bestimmten Zweck brauchen, woran wir erkennen, ob sie gut genug ist, und wann wir ihr gerade nicht folgen sollten.
Für das Qualitätsmanagement ist das eigentlich vertrautes Terrain. Hinter diesen Fragen stehen Anforderungen, Risiken, Prüfungen und Freigaben. Neu ist vor allem, dass wir diese Prinzipien zunehmend nicht nur auf Produkte und klassische Prozesse anwenden müssen, sondern auch auf Entscheidungen, die von KI vorbereitet, beeinflusst oder teilweise automatisiert werden.
Wenn aus einer KI-Klassifikation eine Entscheidung wird
Nehmen wir ein alltägliches Beispiel aus dem Qualitätsmanagement. Ein Unternehmen erhält jeden Monat mehrere hundert Reklamationen. Ein KI-System analysiert die eingehenden Texte und ordnet sie automatisch Produktgruppen und Fehlerarten zu. Aus einem unstrukturierten Kundentext werden strukturierte Informationen wie Verpackungsfehler, Sensorik, Kennzeichnung oder Fremdkörperverdacht.
Für solche klar abgegrenzten Klassifikationsaufgaben benötigen wir nicht zwangsläufig das größte verfügbare Sprachmodell. Auch spezialisierte oder kleinere Modelle können interessant sein, wenn sie für die konkrete Aufgabe ausreichend zuverlässig arbeiten und sinnvoll in bestehende Prozesse integriert werden können.
Solange das System lediglich eine Kategorie vergibt, bleiben die Konsequenzen einer einzelnen Fehlklassifikation möglicherweise überschaubar. Doch bereits der nächste Prozessschritt kann die Situation verändern. Was passiert, wenn aus der Kategorie „Fremdkörperverdacht“ automatisch eine hohe Priorität entsteht? Wenn diese Priorität wiederum eine Eskalation auslöst? Oder wenn das System nicht mehr nur vorsortiert, sondern Maßnahmen vorschlägt oder unmittelbar einen weiteren Prozessschritt anstößt?
Aus einer Klassifikation ist eine Entscheidungskette geworden.
Genau hier beginnt eine wichtige Aufgabe des Qualitätsmanagements. Denn ein Modell kann für die erste Aufgabe sehr gut geeignet und für einen späteren Schritt derselben Entscheidungskette trotzdem ungeeignet sein. Deshalb reicht die Frage „Wie gut ist unser KI-Modell?“ nicht aus. Mindestens ebenso wichtig ist: „Was passiert, wenn es sich irrt?“
Ein Fehler bei der Zuordnung einer Reklamation für eine interne Statistik hat andere Konsequenzen als ein Fehler bei einer Eskalation, Freigabe oder Sperrung. Technisch können zwischen diesen Entscheidungen nur Sekunden liegen. Aus Sicht von Risiko und Verantwortung liegen möglicherweise Welten dazwischen.
Warum Human in the Loop noch kein Quality Gate ist
Eine häufige Antwort auf dieses Problem lautet: Der Mensch bleibt im Prozess. Die KI macht einen Vorschlag, ein Mitarbeiter prüft ihn und gibt ihn frei. Human in the Loop scheint damit zunächst die notwendige Kontrolle sicherzustellen.
Aus Sicht des Qualitätsmanagements reicht das allerdings nicht.
Wer schon einmal eine lange Reihe gleichartiger Freigaben bearbeitet hat, kennt das Problem. Wenn ein System hundertmal hintereinander plausible Ergebnisse liefert, steigt das Risiko, dass das 101. Ergebnis eher bestätigt als tatsächlich geprüft wird. Aus einer fachlichen Kontrolle kann ein zusätzlicher Klick im Prozess werden.
Ein wirksames Quality Gate braucht deshalb mehr als einen Menschen an der richtigen Stelle. Es muss klar sein, was geprüft wird, nach welchen Kriterien die Prüfung erfolgt, welche Informationen dafür erforderlich sind und wann ein KI-Vorschlag verworfen oder eskaliert werden muss.
Das unterscheidet KI-gestützte Prozesse gar nicht so sehr von anderen QM-Prozessen. Auch eine Unterschrift oder digitale Freigabe macht eine Kontrolle nicht automatisch wirksam. Entscheidend ist, welche Prüfung vor der Freigabe tatsächlich stattfindet.
Nicht jede KI-Entscheidung braucht dieselbe Kontrolle
Für die Gestaltung KI-gestützter Prozesse hilft es, unterschiedliche Stufen der Delegation auseinanderzuhalten.
Bei Aufgaben mit begrenzten Auswirkungen, deren Ergebnisse gut überprüfbar und korrigierbar sind, kann eine weitgehende Automatisierung sinnvoll sein. Die automatische Zuordnung von Reklamationen zu Produktgruppen könnte ein solches Beispiel sein. Nicht zwingend jeder einzelne Vorgang muss vor der Weiterverarbeitung von einem Menschen freigegeben werden. Das Quality Gate kann stattdessen auf Prozessebene liegen, etwa durch Stichproben, Kennzahlen und regelmäßige Überprüfung der Systemleistung.
Anders sieht es aus, wenn die KI beispielsweise eine Priorität oder eine mögliche Ursache vorschlägt. Hier kann es sinnvoll sein, dass eine fachkundige Person den Vorschlag anhand definierter Kriterien prüft und anschließend entscheidet. Das System unterstützt das Fachurteil, ersetzt es aber nicht.
Bei Entscheidungen mit erheblichen Auswirkungen kann die Rolle der KI noch stärker begrenzt werden. Sie kann Informationen zusammentragen, ähnliche Fälle identifizieren, Widersprüche markieren oder mögliche Handlungsoptionen aufbereiten. Die eigentliche Bewertung und Entscheidung verbleibt bei einer entsprechend qualifizierten Person.
Statt pauschal zu fragen „Darf KI entscheiden?“, ist deshalb eine differenziertere Frage hilfreicher:
Welche Aufgabe oder Entscheidung können wir unter welchen Bedingungen an ein KI-System delegieren?
Was bedeutet bei KI eigentlich „gut genug“?
Viele KI-Projekte beginnen mit einer technischen Frage: Kann das Modell diese Aufgabe erledigen? Für die Gestaltung eines belastbaren Prozesses ist das zu wenig. Zunächst muss klar sein, welche Aufgabe beziehungsweise Entscheidung überhaupt unterstützt werden soll.
„KI soll Reklamationen bearbeiten“ ist beispielsweise keine ausreichende Beschreibung. Soll das System Informationen aus einer Reklamation extrahieren? Soll es klassifizieren, priorisieren, Maßnahmen vorschlagen oder selbstständig einen weiteren Prozessschritt auslösen? Diese Tätigkeiten können technisch eng beieinanderliegen. Aus Sicht von Risiko und Verantwortung unterscheiden sie sich erheblich.
Danach folgt eine klassische QM-Frage: Was bedeutet für diese konkrete Aufgabe „gut genug“?
Eine hohe Trefferquote kann überzeugend aussehen und trotzdem ein falsches Sicherheitsgefühl erzeugen. Zwei Systeme können beispielsweise beide 95 Prozent der Fälle korrekt klassifizieren und dennoch ein völlig unterschiedliches Risikoprofil aufweisen. Das eine verwechselt gelegentlich zwei administrative Kategorien. Das andere übersieht einen Teil der kritischen Fälle.
Die gleiche Kennzahl beschreibt dann nicht die gleiche Qualität.
Bei der Bewertung eines KI-Systems sollten wir deshalb nicht nur betrachten, wie häufig es richtigliegt, sondern auch, wo es falschliegt und welche Konsequenzen genau diese Fehler haben. Erst wenn diese Anforderungen definiert sind, lässt sich sinnvoll festlegen, wie ein System getestet, freigegeben und im laufenden Betrieb überwacht werden sollte.
Vier Fragen für KI-gestützte Entscheidungen im Qualitätsmanagement
Für eine erste Einordnung können vier Faktoren helfen: Risiko, Überprüfbarkeit, Reversibilität und Kontext.
1. Risiko: Welche Auswirkungen hätte eine falsche Klassifikation, Empfehlung oder Entscheidung?
2. Überprüfbarkeit: Wie leicht können wir erkennen, ob das Ergebnis richtig oder zumindest plausibel ist?
3. Reversibilität: Wie gut lässt sich eine falsche Entscheidung korrigieren, nachdem sie getroffen oder umgesetzt wurde?
4. Kontext: Wie viel Wissen über die konkrete Situation, Vorgeschichte, Organisation oder weitere Zusammenhänge ist erforderlich, um fachlich sinnvoll entscheiden zu können?
Diese vier Faktoren ergeben keine universelle mathematische Formel. Sie helfen aber, sehr unterschiedliche KI-Anwendungen nicht vorschnell in dieselbe Kategorie einzuordnen.
Eine Entscheidung mit geringen Konsequenzen, hoher Überprüfbarkeit und guter Reversibilität ist eher für eine stärkere Automatisierung geeignet. Steigen dagegen die möglichen Auswirkungen, ist das Ergebnis schwer zu überprüfen, lässt sich eine Fehlentscheidung nur schwer zurücknehmen und wird viel situatives Wissen benötigt, verschiebt sich die sinnvolle Aufgabenverteilung in Richtung menschliches Fachurteil.
Damit verändert sich die Ausgangsfrage. Aus „Kann KI das?“ wird:
Unter welchen Bedingungen kann KI diesen Teil unseres Prozesses übernehmen?
Diese Frage ist weniger spektakulär. Für ein funktionierendes Qualitätsmanagement ist sie aber wesentlich nützlicher.
Warum Fachwissen bei KI-gestützten Entscheidungen wichtig bleibt
Wenn KI immer mehr operative Arbeit übernimmt, liegt die Annahme nahe, dass weniger Fachwissen benötigt wird. Für einzelne Tätigkeiten kann das durchaus zutreffen. Gleichzeitig verschiebt sich Fachwissen jedoch an eine andere Stelle.
Wer beurteilen soll, ob ein KI-System einen Vorgang zuverlässig bearbeiten kann, muss verstehen, was eine gute Bearbeitung dieses Vorgangs überhaupt ausmacht. Wer Grenzfälle definieren möchte, muss Grenzfälle erkennen können. Wer entscheidet, welche Fehler akzeptabel sind, muss ihre möglichen Konsequenzen verstehen. Und wer ein Quality Gate gestaltet, muss wissen, was dort überhaupt geprüft werden soll.
Zur Kompetenz „Ich kann diesen Vorgang fachlich korrekt bearbeiten“ kommt deshalb zunehmend eine zweite hinzu:
„Ich kann beurteilen, unter welchen Bedingungen ein System diesen Vorgang fachlich korrekt bearbeiten kann.“
Das ist nicht dasselbe. Es ist eine zusätzliche Ebene fachlicher Kompetenz.
Gerade für das Qualitätsmanagement könnte sie erheblich an Bedeutung gewinnen. Denn je mehr operative Schritte automatisiert werden, desto wichtiger wird die Gestaltung und Absicherung des Systems, in dem diese Automatisierung stattfindet.
KI im Qualitätsmanagement wird nicht immer wie KI aussehen
Hinzu kommt eine weitere Entwicklung: KI-Nutzung bedeutet nicht zwangsläufig, dass jemand vor einem Chatfenster sitzt und einen Prompt formuliert.
KI-Funktionen werden zunehmend Bestandteil von Anwendungen und Workflows. Ein spezialisiertes Modell klassifiziert einen Vorgang, ein anderes System priorisiert ihn, ein Workflow stößt den nächsten Prozessschritt an. Der Mitarbeiter sieht am Ende möglicherweise nur noch eine Kategorie, eine Priorität oder den Hinweis „Prüfung erforderlich“.
Die KI kann damit teilweise aus der sichtbaren Benutzeroberfläche verschwinden. Die Qualitätsfrage verschwindet nicht.
Im Gegenteil: Je selbstverständlicher KI-Systeme in Prozesse integriert werden, desto wichtiger wird die Frage, wer ihre Entscheidungslogik gestaltet, wie ihre Leistung überprüft wird und an welchen Stellen Kontrollmechanismen notwendig sind.
KI-Kompetenz kann deshalb langfristig nicht allein darin bestehen, bessere Prompts zu schreiben. Wir brauchen auch Menschen, die Arbeit in sinnvolle Schritte zerlegen, Anforderungen definieren, Fehlerbilder verstehen, Risiken bewerten und geeignete Kontrollpunkte gestalten können.
Für Qualitätsmanagerinnen und Qualitätsmanager ist vieles davon kein grundsätzlich neues Handwerkszeug. Neu sind die Systeme, auf die wir es anwenden.
Die wichtigste Frage kommt vor dem Prompt
Vielleicht liegt genau hier eine der wichtigen Rollen des Qualitätsmanagements beim Einsatz von KI. Es geht nicht darum, jede Antwort selbst zu erzeugen oder jede Entscheidung selbst zu treffen. Ebenso wenig ist es sinnvoll, vorsichtshalber hinter jede KI-Ausgabe einen Menschen zu setzen.
Die Aufgabe besteht darin, Prozesse so zu gestalten, dass klar ist, was die KI übernehmen darf, was „gut genug“ für die jeweilige Aufgabe bedeutet, wie Fehler erkannt werden und an welcher Stelle menschliches Fachurteil erforderlich ist.
Die Fähigkeit, einen guten Prompt zu schreiben, bleibt nützlich. Sie ist jedoch nur ein Teil von KI-Kompetenz.
Eine bislang vielleicht unterschätzte KI-Kompetenz im Qualitätsmanagement besteht darin, zu wissen, welche Antworten wir brauchen, woran wir ihre Qualität erkennen und wann wir ihnen nicht folgen dürfen.
Und genau an dieser Stelle kann Qualitätsmanagement in einer stärker automatisierten Arbeitswelt eine wichtige Aufgabe übernehmen: nicht als zusätzliche Kontrollschleife hinter jeder KI-Anwendung, sondern bei der Gestaltung der Anforderungen, Entscheidungsgrenzen und Quality Gates, die aus technischer Leistungsfähigkeit einen belastbaren Prozess machen.
