TL;DR
Die Frage, ob KI uns dümmer macht, greift zu kurz. Menschen lagern kognitive Arbeit seit Langem aus, an Schrift, Taschenrechner, Kalender, Navigationssysteme und Suchmaschinen. Generative KI erweitert dieses Prinzip jedoch deutlich, weil wir nicht mehr nur Erinnern oder Rechnen auslagern, sondern zunehmend auch Strukturieren, Analysieren, Formulieren und Teile der Entscheidungsunterstützung.
Das ist nicht automatisch Deskilling. Es verändert aber, welche Tätigkeiten Menschen regelmäßig selbst ausführen und damit auch, welche Fähigkeiten sie trainieren. Aus Qualitätsmanagement-Sicht wird deshalb eine andere Frage interessant: Welche Kompetenz muss beim Menschen erhalten bleiben, damit er einen KI-gestützten Prozess noch zuverlässig beurteilen, überwachen und im Fehlerfall übernehmen kann?
Ein „Human in the Loop“ hilft schließlich wenig, wenn der Mensch irgendwann nicht mehr beurteilen kann, was er freigibt.
—
Wir haben geistige Arbeit schon immer ausgelagert
Die Sorge, dass neue Technologien uns geistig etwas wegnehmen, ist nicht neu. Als Suchmaschinen selbstverständlich wurden, entstand die Diskussion darüber, ob wir unser Gedächtnis verlieren. Eine häufig zitierte Studie von Betsy Sparrow, Jenny Liu und Daniel Wegner aus dem Jahr 2011 zeigte tatsächlich einen Effekt: Wenn Menschen davon ausgehen, dass Informationen später wieder verfügbar sind, erinnern sie sich weniger gut an die Information selbst und besser daran, wo sie sie wiederfinden können. Die Autoren beschrieben das Internet damit als eine Art externes beziehungsweise transaktives Gedächtnis.
Das wurde später häufig verkürzt als Beleg dafür verwendet, dass Google uns vergesslicher oder sogar dümmer mache. So einfach ist es jedoch nicht. In der Forschung wird für solche Vorgänge der breitere Begriff Cognitive Offloading verwendet. Gemeint ist, dass wir Teile der kognitiven Belastung an unsere Umgebung oder an Hilfsmittel abgeben. Eine Einkaufsliste gehört genauso dazu wie ein Kalender, ein Taschenrechner oder die Erinnerungsfunktion im Smartphone.
Auslagerung ist damit zunächst weder gut noch schlecht, sondern schlicht eine Strategie. Und eine ziemlich alte. Auch Qualitätsmanagement funktioniert nur deshalb, weil wir nicht erwarten, dass einzelne Menschen das gesamte Managementsystem im Kopf tragen. Anforderungen werden dokumentiert, Verantwortlichkeiten festgelegt, Prüfungen aufgezeichnet, Kennzahlen gespeichert und Wissen strukturiert verfügbar gemacht.
Wir lagern also ständig Information aus. Die entscheidende Frage war deshalb eigentlich nie, ob wir kognitive Arbeit auslagern. Interessanter ist, welche Arbeit wir auslagern können, ohne dabei eine Kompetenz zu verlieren, die wir später noch benötigen.
Mit generativer KI verschiebt sich die Grenze
Ein Taschenrechner übernimmt eine Berechnung. Eine Suchmaschine hilft beim Finden von Informationen. Generative KI kann deutlich weiter in einen Arbeitsprozess hineinreichen. Sie kann Informationen auswählen, Dokumente vergleichen, Argumentationen strukturieren, Texte formulieren, Auffälligkeiten erkennen, mögliche Ursachen nennen und Handlungsvorschläge entwickeln.
Bei einem klassischen Wissensprozess könnte die menschliche Tätigkeit zum Beispiel so aussehen: Informationen finden, verstehen, vergleichen, bewerten und anschließend formulieren. Mit KI kann daraus werden: Aufgabe definieren, KI arbeiten lassen, Ergebnis prüfen, bewerten und entscheiden.
Das kann eine erhebliche Verbesserung sein. Gleichzeitig handelt es sich nicht einfach um dieselbe Tätigkeit mit einem schnelleren Werkzeug. Die Arbeit verändert sich, und damit verändern sich auch die Kompetenzen, die regelmäßig benötigt und trainiert werden.
Genau darauf deutet eine häufig zitierte CHI-Studie von 2025 hin. Hao-Ping Lee und Kollegen untersuchten 319 Wissensarbeiter und 936 konkrete Situationen, in denen diese generative KI bei ihrer Arbeit eingesetzt hatten. Höheres Vertrauen in die Leistungsfähigkeit der KI war mit weniger berichteter eigener kritischer Denkarbeit verbunden, während höheres Vertrauen in die eigene fachliche Kompetenz mit mehr kritischer Auseinandersetzung zusammenhing.
Interessant ist aber vor allem der zweite Teil der Ergebnisse. Die Forscher beobachteten nicht einfach, dass kritisches Denken verschwindet. Es verlagert sich. Weniger Denkarbeit findet bei Informationssuche und eigener Ausführung statt, dafür mehr bei Verifikation, Integration und Steuerung der Gesamtaufgabe.
Das ist für die Diskussion über KI-Kompetenz wesentlich interessanter als die einfache Aussage, dass Menschen weniger denken. Vielleicht denken sie an anderen Stellen, und vielleicht müssen sie dort sogar anspruchsvoller denken.
Genau hier beginnt das Qualitätsproblem
Nehmen wir ein einfaches Beispiel aus dem Qualitätsmanagement. Ein KI-Assistent wertet Reklamationen aus, clustert Fehlerbilder, erkennt wiederkehrende Muster, fasst Freitexte zusammen und schlägt mögliche Ursachen vor. Das kann sehr sinnvoll sein, weil ein Qualitätsmanager dann möglicherweise nicht mehr mehrere hundert Reklamationen einzeln lesen und manuell Kategorien vergeben muss.
Damit stellt sich aber sofort die nächste Frage: Welche Kompetenz muss erhalten bleiben?
Muss der Qualitätsmanager noch jede Reklamation selbst kategorisieren können? Wahrscheinlich nicht. Muss er verstehen, wie die Kategorien zustande kommen? Schon eher. Muss er erkennen können, dass plötzlich wichtige Reklamationen einer falschen Kategorie zugeordnet werden? Auf jeden Fall. Und muss er beurteilen können, ob aus einer statistischen Auffälligkeit tatsächlich eine plausible Ursache abgeleitet werden kann? Unbedingt.
An dieser Stelle wird aus einer allgemeinen Debatte über KI und Denken sehr schnell ein Thema der Prozessgestaltung.
Dass Tätigkeiten durch Technik verschwinden, ist zunächst nichts Problematisches. Kaum jemand würde fordern, dass ein Qualitätsmanager regelmäßig Berichte von Hand ausrechnet, nur damit seine Rechenkompetenz erhalten bleibt. Auch ein Auditor muss keinen Auditbericht vollständig aus dem Gedächtnis schreiben können. Nicht jede alte Fähigkeit verdient Bestandsschutz.
Die entscheidende Frage ist vielmehr, ob eine Fähigkeit für die verbleibende menschliche Aufgabe weiterhin benötigt wird.
Wenn eine KI einen Auditbericht formuliert, kann es völlig unproblematisch sein, dass der Auditor weniger Zeit mit Formulierungsarbeit verbringt. Wenn er dadurch aber irgendwann Schwierigkeiten bekommt, zwischen einer tatsächlichen Auditfeststellung und einer lediglich plausibel klingenden KI-Interpretation zu unterscheiden, haben wir ein anderes Problem. Dann wurde nicht nur Arbeit ausgelagert, sondern möglicherweise genau die Fähigkeit geschwächt, die für die Kontrolle der ausgelagerten Arbeit notwendig ist.
Human in the Loop klingt besser, als es manchmal ist
Viele KI-Konzepte lösen dieses Problem scheinbar einfach. Der Mensch bleibt verantwortlich, der Mensch prüft, der Mensch gibt frei. Damit ist ein „Human in the Loop“ vorgesehen.
Aus QM-Sicht müsste man allerdings sofort weiterfragen: Kann dieser Mensch die Aufgabe überhaupt noch wirksam kontrollieren?
Automation Bias ist seit Langem aus Bereichen wie Medizin, Luftfahrt und computerunterstützter Entscheidungsfindung bekannt. Menschen können automatisierten Empfehlungen zu stark vertrauen und dadurch eigene Prüfung oder Informationssuche reduzieren. Bei generativer KI kommt hinzu, dass Systeme ihre Ergebnisse häufig sehr überzeugend formulieren, auch dann, wenn die zugrunde liegende Aussage falsch, unvollständig oder aus dem Kontext gefallen ist.
Das macht Kontrolle nicht einfacher, sondern anspruchsvoller.
Ein formaler Human-in-the-Loop-Schritt reicht deshalb nicht unbedingt aus. Wenn der Mensch nur noch auf „Freigeben“ klickt, ohne die fachliche Kompetenz oder die notwendigen Informationen für eine echte Prüfung zu besitzen, ist menschliche Kontrolle möglicherweise nur noch organisatorische Dekoration.
Darin liegt eine ziemlich klassische QM-Parallele. Eine Arbeitsanweisung kann vorsehen, dass eine bestimmte Prüfung durchgeführt wird. Damit ist noch nicht nachgewiesen, dass diese Prüfung wirksam ist. Eine Person kann einen Haken setzen, ohne tatsächlich etwas geprüft zu haben.
Bei KI-gestützten Prozessen kann genau dasselbe passieren. Der Prozess sieht formal sauber aus: Die KI erstellt ein Ergebnis, der Mitarbeiter prüft es, der Mitarbeiter gibt es frei, die Kontrolle ist dokumentiert. Die entscheidende Frage bleibt trotzdem, was in diesem Prüfschritt tatsächlich passiert.
Vergleicht der Mitarbeiter Quellen? Bewertet er Annahmen? Sucht er nach Widersprüchen? Kann er Fehler überhaupt erkennen? Oder schaut er auf einen plausibel formulierten Text und klickt auf „Freigeben“?
Dann haben wir vielleicht einen Human in the Loop. Aber noch lange keine wirksame menschliche Kontrolle.
Damit wird Deskilling zu einem Thema des Kompetenzmanagements
Genau an diesem Punkt wird die Diskussion aus QM-Sicht greifbar. Bei einem KI-gestützten Prozess könnten wir systematisch fragen, welche Tätigkeiten die KI übernimmt, welche davon Menschen dadurch seltener selbst durchführen und welche Fähigkeiten damit möglicherweise weniger trainiert werden. Anschließend müsste geprüft werden, welche dieser Fähigkeiten für Prüfung, Freigabe, Eskalation oder Ausnahmefälle weiterhin benötigt werden und wie sie erhalten bleiben sollen.
Hinzu kommt die Frage, welche neuen Kompetenzen stattdessen entstehen. Wer nicht mehr alles selbst ausführt, muss vielleicht stärker darin werden, Ergebnisse zu beurteilen, Annahmen zu hinterfragen, Datenquellen einzuordnen, Eskalationspunkte zu erkennen oder zu entscheiden, wann eine KI überhaupt eingesetzt werden darf.
Das ist deutlich sinnvoller, als allgemein zu fordern, Mitarbeiter müssten „kritisch denken“. Kritisches Denken ist keine Checkbox. Es hängt davon ab, wie Arbeit organisiert ist, welche Informationen verfügbar sind und ob ein Prozess überhaupt Raum für eigenständige Beurteilung lässt.
Vielleicht brauchen gute KI-Prozesse manchmal sogar etwas Reibung
Das widerspricht zunächst einem verbreiteten Digitalisierungsprinzip. Wir versuchen üblicherweise, möglichst viel Reibung aus Prozessen zu entfernen. Weniger Klicks, weniger Übergaben, weniger manuelle Prüfung gelten als Fortschritt.
Bei KI könnte es Situationen geben, in denen wir bewusst etwas kognitive Reibung erhalten sollten.
Ein Mitarbeiter könnte bei einer kritischen Entscheidung zunächst seine eigene Einschätzung festhalten, bevor die KI-Empfehlung angezeigt wird. Bei einer Ursachenanalyse könnte die KI nicht sofort eine vermeintlich fertige Root Cause liefern, sondern zunächst Gegenhypothesen oder fehlende Informationen aufzeigen. Bei einer Lieferantenbewertung könnte ein System sichtbar kennzeichnen, welche Aussagen aus Originaldaten stammen und welche lediglich KI-Schlussfolgerungen sind. Bei einer Auditfeststellung könnte der Auditor zuerst Beobachtung und Nachweis dokumentieren, bevor die KI bei Formulierung und Strukturierung unterstützt.
Das Ziel wäre nicht, künstlich Arbeit zu erzeugen. Es wäre, Denkarbeit dort im Prozess zu belassen, wo sie für Urteilskraft und Kontrolle benötigt wird.
Genau darin liegt vielleicht eine der interessanteren Aufgaben bei der Gestaltung KI-gestützter Prozesse. Effizienz bedeutet nicht zwingend, jede kognitive Anstrengung zu entfernen. Manchmal kann gerade eine bewusst gesetzte Prüfung, ein Gegenargument oder eine eigene Einschätzung dafür sorgen, dass die verbleibende menschliche Rolle mehr ist als ein Klick auf „Freigeben“.
Vertrauen ist dabei vielleicht die falsche Zielgröße
In vielen Unternehmen hört man derzeit, Mitarbeiter müssten Vertrauen in KI entwickeln. Auch das ist mir zu pauschal.
Das Ziel sollte nicht möglichst viel Vertrauen sein, sondern angemessenes Vertrauen. In der Forschung wird dafür häufig von appropriate reliance oder calibrated trust gesprochen.
Ein Anwender sollte eine gute KI-Empfehlung nicht reflexartig ablehnen. Er sollte eine schlechte Empfehlung aber auch nicht akzeptieren, nur weil sie professionell formuliert ist. Für das Qualitätsmanagement könnte man es einfacher ausdrücken: Der Mitarbeiter muss wissen, wann er einer KI folgen kann und wann nicht.
Dafür braucht er Fachkompetenz, Kontext und die Möglichkeit, Aussagen zu überprüfen.
Und genau hier kommt wieder die Prozessgestaltung ins Spiel. Wenn Informationen fehlen, Quellen nicht sichtbar sind oder ein System Ergebnisse zu glatt präsentiert, erschwert das eine angemessene Prüfung. Wenn dagegen klar ist, woher eine Aussage stammt, welche Unsicherheiten bestehen und wo menschliche Entscheidung notwendig ist, wird Kontrolle überhaupt erst möglich.
Mit Agenten wird die Frage noch wichtiger
Bei einem klassischen Chatbot entscheidet der Mensch noch relativ häufig, wann er eine Anfrage stellt. Bei agentischen Systemen kann deutlich mehr der Prozesslogik bereits im System stecken.
Ein Reklamationsagent kennt vielleicht seine Aufgabe, seine Datenquellen, seine Regeln, die erlaubten Werkzeuge und seine Eskalationsgrenzen. Er sucht Informationen, analysiert sie und bereitet Handlungsschritte vor. Damit verschiebt sich die menschliche Tätigkeit erneut.
Nicht mehr jeder Mitarbeiter muss zwangsläufig selbst die komplette Analyse durchführen oder einen komplizierten Prompt formulieren. Dafür werden andere Fragen wichtiger: Welchen Agenten darf ich einsetzen? Welche Informationen fehlen ihm? Welche Ergebnisse muss ich überprüfen? Welche Handlungen darf er selbst ausführen? Wann muss ich eingreifen? Und woran erkenne ich, dass er außerhalb seines vorgesehenen Arbeitsbereichs agiert?
Genau deshalb halte ich die Diskussion über KI-Kompetenz für breiter als eine Diskussion über Prompting.
Je mehr Kontext, Regeln und Prozesswissen bereits im System stecken, desto weniger wichtig wird für viele Anwender die Fähigkeit, besonders ausgefeilte Prompts zu schreiben. Gleichzeitig steigen die Anforderungen an Beurteilung, Überwachung und verantwortliche Nutzung.
Vielleicht macht KI uns also weder dümmer noch klüger
Für einfache Antworten ist das Thema wahrscheinlich ungeeignet.
Generative KI kann Menschen kognitive Arbeit abnehmen. Das kann Kapazitäten freisetzen und ermöglichen, sich stärker auf komplexere Fragestellungen zu konzentrieren. Es kann aber ebenso dazu führen, dass bestimmte Fähigkeiten weniger trainiert werden.
Welche Variante eintritt, hängt nicht allein von der Technologie ab. Sie hängt davon ab, wie wir Arbeit gestalten.
Welche Aufgaben geben wir an die KI ab? Welche Verantwortung bleibt beim Menschen? Welche Fähigkeiten braucht er dafür weiterhin? Welche neuen Fähigkeiten kommen hinzu? Und sorgen unsere Prozesse überhaupt dafür, dass diese Fähigkeiten erhalten bleiben?
Vielleicht sollten wir deshalb weniger darüber diskutieren, ob KI unser Denken zerstört.
Die für Unternehmen wesentlich interessantere Frage lautet:
Welche Denkarbeit wollen wir zukünftig noch selbst leisten, und warum?
Im Qualitätsmanagement würden wir schließlich auch keinen Prozess nur danach beurteilen, ob er schneller geworden ist. Wir würden fragen, ob er weiterhin beherrscht ist.
Vielleicht sollten wir mit unserem Denken genauso umgehen.
