Generative KI kann erstaunlich gut darin sein, genau das zu tun, was wir von ihr verlangen. Sie fasst 40 Seiten zusammen, schreibt einen Auditbericht um, kategorisiert Reklamationen, erstellt eine Arbeitsanweisung oder entwirft Maßnahmen aus vorhandenen Informationen. Je klarer wir die Aufgabe formulieren, desto besser wird in der Regel das Ergebnis.
Genau darin liegt allerdings auch ein Problem, über das wir vergleichsweise selten sprechen. Denn die KI prüft nicht automatisch, ob wir ihr überhaupt die richtige Aufgabe gegeben haben. Ein sauber formulierter Prompt kann eine schlechte Aufgabenstellung hervorragend ausführen. Ein gut gebauter KI-Assistent kann einen überflüssigen Prozess zuverlässig unterstützen. Und eine Automatisierung kann ein Problem, das wir nie richtig verstanden haben, mit beeindruckender Geschwindigkeit skalieren.
Die Qualität des Prompts entscheidet darüber, wie gut eine Aufgabe bearbeitet wird. Die Qualität der Problembeschreibung entscheidet darüber, ob wir überhaupt die richtige Aufgabe bearbeiten.
Gerade für Menschen aus Qualitätsmanagement, Audit und Prozessmanagement ist dieser Gedanke eigentlich nicht neu. In anderen Zusammenhängen würden wir bei einem Problem normalerweise nicht direkt an der sichtbaren Oberfläche ansetzen. Wir versuchen zunächst zu verstehen, was hinter einem Symptom steckt, welche Ursachen infrage kommen und welches Ergebnis wir tatsächlich erreichen wollen. Bei KI überspringen wir diesen Schritt jedoch erstaunlich häufig.
Vom Symptom direkt zum Prompt
Nehmen wir ein einfaches Beispiel. Ein Qualitätsmanager stellt fest, dass die Erstellung von Reklamationsberichten zu lange dauert. Die naheliegende Idee lautet: Wir bauen einen KI-Assistenten, der diese Berichte schneller erstellt.
Das klingt zunächst nach einem guten Anwendungsfall. Man könnte einen Prompt entwickeln, Vorlagen hinterlegen, Kategorien definieren und vielleicht sogar einen kleinen Workflow aufsetzen. Aus den vorhandenen Informationen entsteht anschließend innerhalb weniger Minuten ein sauber strukturierter Reklamationsbericht.
Damit wäre die Aufgabe technisch erfolgreich gelöst. Ob damit auch das eigentliche Problem gelöst wurde, ist allerdings eine andere Frage.
Vielleicht kommen die Informationen aus Vertrieb oder Kundenservice unvollständig im Qualitätsmanagement an. Vielleicht werden Fehlerarten uneinheitlich kategorisiert. Vielleicht fehlen Informationen für die Ursachenanalyse. Vielleicht enthält der Bericht Angaben, die später niemand verwendet. Vielleicht werden dieselben Daten mehrfach in unterschiedlichen Systemen erfasst. Oder die eigentliche Verzögerung entsteht gar nicht beim Schreiben des Berichts, sondern bei der Entscheidung über Maßnahmen.
In all diesen Fällen kann KI die Berichtserstellung beschleunigen. Das bedeutet jedoch noch nicht, dass sie das zugrunde liegende Problem löst. Im ungünstigsten Fall entsteht lediglich ein effizienterer Weg, einen schlechten Prozess weiterzuführen.
Eigentlich müssten wir aus dem Qualitätsmanagement etwas anderes gewohnt sein
Die interessantere Frage lautet deshalb nicht zuerst: Wie schreibe ich einen besseren Prompt? Sie lautet: Welches Problem versuche ich eigentlich zu lösen?
Das ist keine neue KI-Methode. Im Grunde geht es darum, bekannte Prinzipien aus Qualitäts- und Prozessmanagement auf KI-Anwendungsfälle zu übertragen. Der Prozessansatz der ISO 9001 betrachtet miteinander verknüpfte Aktivitäten, Inputs, Outputs und die beabsichtigten Ergebnisse eines Prozesses. Risikobasiertes Denken soll helfen, unerwünschte Ergebnisse zu vermeiden und geeignete Steuerungsmaßnahmen festzulegen.
Bei einer Abweichung würden wir schließlich auch nicht sagen: Die Abweichungsbeschreibung dauert zu lange, also automatisieren wir die Beschreibung. Wir würden versuchen zu verstehen, was dahinterliegt.
Bei KI-Anwendungsfällen entsteht jedoch schnell eine verkürzte Kette: Ein Symptom wird beobachtet, daraus entsteht ein Prompt, und anschließend wird das Ergebnis bewertet. Sinnvoller wäre in vielen Fällen eine andere Reihenfolge: Symptom, Problemverständnis, Ziel, geeignete Lösung und erst danach gegebenenfalls KI.
Vier Fragen vor dem eigentlichen KI-Auftrag
Für größere, wiederkehrende oder organisatorisch relevante KI-Aufgaben lohnt sich deshalb ein kurzer Schritt vor dem Prompting. Dafür braucht es keine komplizierte Methode. Häufig reichen vier Fragen.
Die erste lautet: Was beobachte ich eigentlich? Dabei sollte das Symptom zunächst möglichst neutral beschrieben werden. Zum Beispiel: „Die Erstellung des monatlichen Lieferantenberichts benötigt ungefähr sechs Stunden.“ Das ist etwas anderes als die Formulierung: „Die Berichtserstellung ist ineffizient und muss automatisiert werden.“ In der zweiten Variante hätten wir bereits eine Bewertung vorgenommen und die Lösung gleich mitgedacht.
Die zweite Frage lautet: Welches Problem könnte hinter dieser Beobachtung liegen? Vielleicht müssen Daten aus mehreren Quellen zusammengesucht werden. Vielleicht liegen sie in schlechter Qualität vor. Vielleicht wird jedes Mal derselbe Text neu geschrieben. Vielleicht enthält der Bericht zu viele Informationen. Vielleicht ist gar nicht die Erstellung das Problem, sondern die Abstimmung über die Ergebnisse. Ein Symptom kann mehrere Ursachen haben, und unterschiedliche Ursachen brauchen unterschiedliche Lösungen.
Dann folgt die dritte Frage: Was soll sich konkret verändern? Diese Frage halte ich für besonders wichtig. „Der Bericht wird mit KI erstellt“ ist kein sinnvolles Ziel. „Die verantwortliche Person benötigt maximal zwei Stunden für Erstellung und Prüfung, ohne dass entscheidungsrelevante Informationen verloren gehen“ ist eines. Ebenso könnte das Ziel lauten: „Die Geschäftsführung erkennt innerhalb von fünf Minuten, bei welchen Lieferanten Handlungsbedarf besteht.“ Beide Ziele sind plausibel, aber sie führen wahrscheinlich zu unterschiedlichen Lösungen.
Erst danach kommt die vierte Frage: Ist KI dafür überhaupt die richtige Maßnahme? Vielleicht brauchen wir tatsächlich ein Sprachmodell, das Daten zusammenfasst und einen Berichtsentwurf erstellt. Vielleicht genügt eine bessere Excel-Auswertung. Vielleicht brauchen wir eine klare Eingabemaske. Vielleicht muss zunächst ein Prozess vereinheitlicht werden. Vielleicht reicht eine klassische Automatisierung ohne generative KI. Und manchmal lautet die fachlich saubere Entscheidung schlicht: Hier brauchen wir keine KI.
Diese Überlegung ist inzwischen auch in etablierten AI-Governance-Ansätzen verankert. Das NIST AI Risk Management Framework betrachtet nicht nur Risiken innerhalb eines KI-Systems, sondern auch die Frage, ob Entwicklung oder Einsatz überhaupt fortgeführt werden sollten. Im zugehörigen Playbook wird ausdrücklich darauf hingewiesen, dass KI nicht zwangsläufig die geeignete Lösung für eine bestimmte Geschäftsaufgabe oder ein Problem sein muss.
Je leistungsfähiger die KI, desto relevanter wird die Frage
Solange wir über einzelne ChatGPT- oder Claude-Prompts sprechen, bleibt der Schaden einer schlechten Aufgabenstellung häufig überschaubar. Ich stelle eine falsche Frage, bekomme eine gute Antwort und verliere vielleicht eine halbe Stunde.
Mit Skills, Assistenten, Agenten und automatisierten Workflows verändert sich die Situation. Ein schlecht definierter Auftrag kann dann regelmäßig ausgeführt, für viele Mitarbeiter verfügbar gemacht, automatisch in Folgeprozesse eingespeist oder zur Vorbereitung von Entscheidungen verwendet werden.
Damit verändert sich auch das Qualitätsrisiko. Aus einem schlecht verstandenen Einzelauftrag kann ein systematisch ausgeführter, schlecht verstandener Prozess werden.
Gerade deshalb reicht es bei der Einführung von KI nicht, nur über Promptqualität, Modellqualität oder technische Schutzmaßnahmen zu sprechen. Wir müssen auch die Qualität der Aufgabenstellung betrachten. Ein System kann technisch sauber funktionieren und trotzdem die falsche Aufgabe erfüllen.
Vor der Frage „Was darf die KI?“ kommt noch eine andere
In der KI-Governance beschäftigen wir uns zu Recht mit Fragen wie: Welche Daten darf ein System verwenden? Welche Aktionen darf es ausführen? Welche Ergebnisse müssen Menschen prüfen? Welche Entscheidungen dürfen nicht automatisiert werden? Welche technischen und organisatorischen Kontrollen benötigen wir?
Diese Fragen sind notwendig. Aber davor liegt noch eine weitere: Warum soll die KI diese Aufgabe überhaupt ausführen?
Denn auch ein perfekt abgesicherter KI-Prozess kann unnötig sein. Man kann Zugriffsrechte sauber definieren, Freigaben einbauen, Ergebnisse validieren und Rollen festlegen. Wenn der zugrunde liegende Prozess keinen klaren Zweck erfüllt oder das falsche Problem adressiert, bleibt das Ergebnis trotzdem fragwürdig.
Das wäre formal ordentlich gesteuerte Verschwendung.
Gerade im Qualitätsmanagement ist dieser Punkt relevant, weil wir dazu neigen, gute Steuerung mit guter Zweckmäßigkeit gleichzusetzen. Beides gehört zusammen, ist aber nicht dasselbe.
KI beschleunigt nicht nur gute Prozesse
Seit Jahren wird im Zusammenhang mit Digitalisierung sinngemäß darauf hingewiesen, dass ein schlechter Prozess nicht dadurch besser wird, dass man ihn digitalisiert. Für generative KI gilt dasselbe, allerdings mit einer zusätzlichen Dimension.
Generative KI kann nicht nur Verarbeitung beschleunigen. Sie kann Ergebnisse erzeugen, die plausibel, vollständig und professionell aussehen. Genau dadurch wird ein schlecht definierter Auftrag möglicherweise weniger sichtbar.
Ein sechsseitiger Bericht, den vorher offensichtlich jemand mühsam zusammengeschrieben hat, lässt sich relativ leicht kritisch hinterfragen. Ein innerhalb von 30 Sekunden erzeugter, hervorragend formulierter Bericht wirkt dagegen schnell wie ein Erfolg.
Formale Qualität kann damit inhaltliche Zweckmäßigkeit verdecken.
Gerade im Qualitätsmanagement sollten wir deshalb nicht nur fragen, ob ein Ergebnis richtig ist. Wir sollten auch fragen, ob dieses Ergebnis überhaupt erforderlich ist und welche Entscheidung oder Handlung dadurch besser werden soll.
Das verändert auch, was wir unter KI-Kompetenz verstehen sollten
Vielleicht liegt hier auch eine Grenze klassischer Prompt-Schulungen. Wer lernt, bessere Prompts zu formulieren, kann anschließend präzisere Aufträge an KI-Systeme geben. Das ist nützlich, aber es reicht nicht.
Professionelle KI-Anwendung verlangt zusätzlich die Fähigkeit, Probleme von Symptomen zu unterscheiden, Anforderungen zu klären, Annahmen sichtbar zu machen, geeignete Lösungswege zu vergleichen, Risiken abzuschätzen und Ergebnisse anhand ihres Zwecks zu beurteilen.
Das ist weniger spektakulär als der nächste Prompt-Trick. Für die tatsächliche Qualität von KI-Anwendungen dürfte es langfristig wichtiger sein.
Vor dem nächsten größeren Prompt, Skill oder KI-Workflow lohnt sich deshalb eine kurze Prüfung: Was beobachte ich? Welches Problem vermute ich dahinter? Was soll sich konkret verbessern? Und warum ist KI dafür die geeignete Lösung?
Wenn diese Fragen klar beantwortet sind, lohnt es sich, über Prompt Engineering nachzudenken. Wenn nicht, ist der nächste Schritt wahrscheinlich noch kein Prompt.
Denn ein sehr gutes KI-System kann eine falsch gestellte Aufgabe erstaunlich gut erledigen. Und genau das ist manchmal problematischer als eine offensichtlich schlechte Antwort.
Bevor wir KI beibringen, eine Aufgabe besser zu erledigen, sollten wir deshalb prüfen, ob es überhaupt die richtige Aufgabe ist.
