• Entwicklung/Architektur
  • Methoden
  • Programmiersprachen
• Betrieb
  • Künstliche Intelligenz
  • Datenbanken
  • Server
  • IT-Security
  • Speicher
  • Netzwerke
  • Virtualisierung
  • Verfügbarkeit
• Management und Recht
  • Projektmanagement
  • Digitalisierung
  • IT-Recht
  • IT-Selbständige
  • IT-Karriere
• Aktuelles
• Termine
• IT-Jobs

☰

• Entwicklung
• Betrieb
• Management und Recht
• News
• IT-Jobs
• Newsletter

Andreas Slogar 01. April 2026

Der Mythos des kritischen Denkens

Über das Paradoxon der Urteilskraft im Zeitalter der generativen KI

Die technokratische Hoffnung und der Trugschluss des Human-in-the-Loop

In der aktuellen Debatte um generative Künstliche Intelligenz (KI) – von Large Language Models (LLMs) bis hin zu diffusionsbasierten Bildgeneratoren – begegnet uns ein omnipräsentes Narrativ, das so beruhigend wie irreführend ist: Die KI sei ein mächtiges Werkzeug, doch ihre Sicherheit hänge letztlich vom "Human-in-the-Loop" ab. Der Nutzer wird zur epistemischen Notbremse stilisiert. 

Angesichts von Halluzinationen, Bias und algorithmischer Desinformation fordern Technologieunternehmen, Bildungseinrichtungen und die Politik unisono "AI Literacy" und "kritisches Denken". Der Mensch, so die Logik, muss die letzte Meile der Wahrheitsfindung gehen, die die Maschine nicht bewältigen kann.

Doch diese Forderung enthält ein tiefes, kaum diskutiertes Paradoxon. Während wir das kritische Denken als letzte Verteidigungslinie gegen algorithmische Fehlleistungen anrufen, beobachten wir gesellschaftlich eine Erosion genau jener Fähigkeiten, die wir nun als Sicherungsleine oder Rettungsanker deklarieren. In einer Ära des politischen Populismus, der technologiegetriebenen Fragmentierung der Öffentlichkeit in Echokammern sogenannter sozialer Netzwerke  und der zunehmenden Wissenschaftsleugnung wirkt der Appell an die individuelle Urteilskraft fast schon tragikomisch. Wir delegieren die Qualitätskontrolle an eine Instanz – den Menschen –, dessen Fundament für rationale Urteilsbildung gleichzeitig technologisch und politisch untergraben wird. An dieser Stelle ist ausdrücklich darauf hinzuweisen und zu betonen ist, dass vor allem die Technologiekonzerne, die von der Nutzung generativer KI profitieren, die Relevanz individueller Urteilskraft am lautesten betonen und sich damit erneut ihrer eigenen Verantwortung entledigen. Die Frage ist, wie so häufig: Cui bono?

Und wie selbstverständlich wird unterstellt, dass jeder Mensch quasi naturgegeben zum kritischen Denken fähig ist, obwohl diese Fähigkeit weder im schulischen noch im akademischen und schon gar nicht im wirtschaftlichen Umfeld explizit und konsequent gefördert oder gefordert wird. 

"Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt, so brauche ich mich ja nicht selbst zu bemühen."
Emanuel Kant

Das Paradoxon der delegierten Vernunft besteht darin, dass wir technologische Systeme bauen, die darauf optimiert sind, kognitive Reibung zu eliminieren, und gleichzeitig erwarten, dass der Nutzer genau diese Reibung künstlich wieder herstellt, um das System zu überwachen. 

Wir schaffen eine auf Effizienzmaximierung fixierte Architektur der Bequemlichkeit und fordern eine Disziplin der Anstrengung. Dieser Artikel wird die philosophischen und soziologischen Dimensionen dieses Widerspruchs analysieren und Wege aufzeigen, wie eine echte digitale Mündigkeit jenseits technokratischer Floskeln aussehen könnte.

Immanuel Kant und die Renaissance der Unmündigkeit

Um das Kernproblem der KI-Nutzung zu verstehen, müssen wir weit vor das digitale Zeitalter zurückblicken. Im Jahr 1784 definierte Immanuel Kant die Aufklärung als den "Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit". Unmündigkeit ist dabei das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen.

Das Spannende an Kants Definition ist das Adjektiv "selbstverschuldet". Diese Unmündigkeit liegt nicht am Mangel des Verstandes, sondern am Mangel an Entschlusskraft und Mut.

Generative KI ist, soziologisch betrachtet, das perfekteste Instrument zur Erzeugung selbstverschuldeter Unmündigkeit, das die Menschheit bisher hervorgebracht hat.

Kant nannte Faulheit und Feigheit als Ursachen, warum so viele Menschen gerne zeitlebens unmündig bleiben. "Es ist so bequem, unmündig zu sein", schrieb er. "Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt, so brauche ich mich ja nicht selbst zu bemühen."

Heute würde Kant wahrscheinlich schreiben: "Habe ich ein LLM, das für mich formuliert, eine KI, die für mich die Quellen zusammenfasst, einen Algorithmus, der für mich entscheidet, was relevant ist, so brauche ich nicht selbst zu denken."

Die generative KI institutionalisiert die Faulheit des Geistes. Sie liefert nicht nur Informationen, sondern fertige Urteile, synthetisierte Meinungen und simulierte Kreativität. Der "Human-in-the-Loop" soll nun gegen diese massive Verführungskraft der Bequemlichkeit ankämpfen. Doch die kognitive Ökonomie lehrt uns, dass das Gehirn stets den Weg des geringsten Widerstands sucht. Wenn die Antwort der KI plausibel klingt, wird der Durchschnittsnutzer den mühsamen Weg der Überprüfung (Kants "Sapere Aude!") scheuen. Die Forderung nach kritischem Denken verkennt die psychodynamische Wucht der Bequemlichkeit, die diese Systeme entfalten.

Wir trainieren das "erweiterte Denken" ab und ersetzen es durch "automatisiertes Bestätigen"

In einer stetig steigenden Zahl wissenschaftlicher Studien werden die kognitiven Auswirkungen dieser Wucht immer deutlicher erkennbar. Steven D. Shaw hat in seiner Veröffentlichung mit dem Titel "Thinking - Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender" einen sehr treffenden Begriff geprägt, der Kants selbstgewählter Unmündigkeit einen zeitgemäßen Ausdruck und eine Steigerungsform verleiht, die wir sinngemäß mit "geistiger Kapitulation" übersetzen können.

Hannah Arendt und die Einsamkeit des Urteils

Einen Schritt weiter führt uns Hannah Arendt. Für Arendt war das Urteilen keine rein logische Operation, die im stillen Kämmerlein stattfindet, sondern eine politische Tätigkeit par excellence. In ihren Vorlesungen über Kants politische Philosophie entwickelte sie den Begriff des "erweiterten Denkens" (enlarged mentality). Urteilskraft entsteht nicht durch das Anwenden von Regeln auf Einzelfälle (wie ein Algorithmus es tut), sondern durch die Fähigkeit, "an der Stelle jedes anderen zu denken".

Dies setzt eine Pluralität voraus – die Anwesenheit anderer Menschen, anderer Perspektiven, einer Öffentlichkeit. Die Interaktion mit generativer KI ist jedoch das Gegenteil dieses pluralistischen Raums. Sie ist ein monologisches Spiegelkabinett. Wenn Nutzer mit LLMs interagieren, befinden sie sich in einer epistemischen Isolation. Die KI liefert keine echten "Standpunkte", sondern statistische Wahrscheinlichkeiten von Wortfolgen, die oft darauf trainiert sind, dem Nutzer zu gefallen oder Konflikte zu vermeiden (Reinforcement Learning from Human Feedback, RLHF).

Wo Arendt die reale Präsenz der anderen und den Widerstand abweichender Meinungen als notwendige Bedingung für die Urteilskraft sah, bietet die KI die Illusion eines Gegenübers, das jedoch nur die (oft unbewussten) Erwartungen des Nutzers reflektiert oder einen nivellierten und damit reibungsarmen Durchschnittskonsens reproduziert. 

KI-Modelle sind Meister der Kohärenz. Sie produzieren Texte, die grammatikalisch perfekt und logisch schlüssig klingen, selbst wenn der Inhalt völliger Unsinn ist.

In einer Gesellschaft, in der durch Filterblasen und algorithmische Sortierung die (konstruktive und produktive) Begegnung mit dem "fremden Anderen" ohnehin erschwert wird, verstärkt die KI die Tendenz zum solipsistischen Urteil. Wir trainieren das "erweiterte Denken" ab und ersetzen es durch "automatisiertes Bestätigen". Wir fordern kritisches Denken von einem Subjekt, das zunehmend den Kontakt zur vielstimmigen Realität verliert, die dieses Denken erst nähren würde.

Jürgen Habermas und die Simulation des kommunikativen Handelns

Das Problem vertieft sich, wenn wir uns mit der Natur der Kommunikation befassen. Jürgen Habermas unterscheidet zwischen strategischem Handeln (auf Erfolg orientiert) und kommunikativem Handeln (auf Verständigung orientiert). Letzteres basiert auf der Unterstellung, dass das Gegenüber vernunftbegabt ist und Geltungsansprüche erhebt: Wahrheit (Fakten), Richtigkeit (Normen) und Wahrhaftigkeit (Authentizität).

Generative KI untergräbt die Basis dieses kommunikativen Handelns fundamental, indem sie diese Geltungsansprüche simuliert, ohne sie einlösen zu können.

• Keine Wahrheit: Ein LLM kennt keine Fakten, nur Wahrscheinlichkeiten. Es hat kein Konzept von Weltreferenz.
• Keine Wahrhaftigkeit: Ein LLM hat keine Innenwelt, keine Intention. Es kann nicht lügen, aber es kann auch nicht die Wahrheit sagen wollen.

Das Gefährliche ist die Verschiebung von Wahrheit zu Plausibilität. In der menschlichen Kommunikation gehen wir (im Idealfall des diskursiven Handelns) davon aus, dass Kohärenz ein Indiz für Wahrheit ist. KI-Modelle sind Meister der Kohärenz. Sie produzieren Texte, die grammatikalisch perfekt und logisch schlüssig klingen, selbst wenn der Inhalt völliger Unsinn ist. 

Wenn ChatGPT eine Gerichtsentscheidung erfindet, tut es das nicht, um zu täuschen, sondern weil das Muster der Anfrage statistisch mit dem Muster einer Gerichtsentscheidung korreliert.

Habermas’ "zwangloser Zwang des besseren Arguments" wird ersetzt durch den "sanften Zwang der besseren Formulierung". In der politischen Sphäre sehen wir diese Erosion bereits im Populismus. Populistische Narrative funktionieren strukturell ähnlich wie LLMs: Sie sind intern kohärent, emotional hochgradig anschlussfähig und ignorieren widersprüchliche externe Evidenz zugunsten der narrativen Konsistenz. Wenn wir nun von Menschen, die bereits politisch für populistische Vereinfachungen empfänglich sind, verlangen, KI-generierte Inhalte kritisch zu prüfen, verkennen wir die Realität. Die KI bedient die Sehnsucht nach "einfachen Wahrheiten" (Plausibilitätsfallen), während das habermas’sche Ideal des diskursiven Streits als zu anstrengend empfunden und zunehmend entwertet wird.

Harry G. Frankfurt und die Bullshit-Maschine

Um die Art der Desinformation, die KI produziert, philosophisch präzise zu fassen, ist das Konzept des "Bullshit" von Harry G. Frankfurt ausgesprochen erhellend. In seinem Essay On Bullshit unterscheidet Frankfurt den Lügner vom Bullshitter.

• Der Lügner kennt die Wahrheit und respektiert sie insofern, als er sie bewusst verbergen muss. Er spielt das Spiel der Wahrheit, aber auf der falschen Seite.
• Der Bullshitter hingegen ist an der Wahrheit vollkommen desinteressiert. Es ist ihm egal, ob das, was er sagt, wahr oder falsch ist; sein einziges Ziel ist die Wirkung, der Eindruck, das Durchsetzen oder Durchwursteln.

Generative KI ist, ontologisch betrachtet, die mächtigste Bullshit-Maschine der Geschichte. Sie "halluziniert" nicht (ein Begriff, der eine Psyche impliziert), sie "bullshittet". Wenn ChatGPT eine Gerichtsentscheidung erfindet, tut es das nicht, um zu täuschen, sondern weil das Muster der Anfrage statistisch mit dem Muster einer Gerichtsentscheidung korreliert. Das Modell ist indifferent gegenüber dem Faktum. Das Dilemma für das kritische Denken ist hier immens: Bullshit ist schwerer zu entlarven als eine Lüge. Eine Lüge hat einen logischen Bruchpunkt zur Realität. Bullshit hingegen ist eine amorphe Masse aus Fakten, Halbwahrheiten und Erfindungen, die oft nahtlos ineinander übergehen. Den Nutzer aufzufordern, Bullshit zu detektieren, verlangt eine extrem hohe fachliche Expertise, da der Bullshit oft fast richtig klingt. Die "Illusion of Explanatory Depth" führt dazu, dass Nutzer glauben, sie hätten verstanden und geprüft, während sie lediglich von der rhetorischen Qualität des Bullshits sediert wurden.

Joseph Weizenbaum und der ELIZA-Effekt

Warum fallen wir darauf herein? Warum behandeln wir die Maschine wie ein rationales Gegenüber? Hier müssen wir an den Informatik-Pionier und Kritiker Joseph Weizenbaum erinnern. Bereits in den 1960er Jahren beobachtete er bei seinem simplen Chatbot ELIZA, dass Nutzer auf das Programm menschliche Eigenschaften wie Empathie und Verständnis projizierten, obwohl sie wussten, dass es nur ein Skript war.

Dieser ELIZA-Effekt ist heute stärker denn je. Unsere Gehirne sind evolutionär darauf trainiert, hinter Sprache ein Bewusstsein zu vermuten. Wenn etwas so spricht wie ein Mensch, feuern unsere Spiegelneuronen, als wäre es ein Mensch. Wir projizieren Sinn in die Syntax. Das kritische Denken muss also nicht nur gegen die falsche Information ankämpfen, sondern gegen die eigene biologische "Programmierung", die der Maschine vertrauen will. Wir müssen aktiv gegen unsere Intuition denken. Das ist kognitive Schwerstarbeit. Zu erwarten, dass dies im hektischen Alltag der Informationsverarbeitung standardmäßig geschieht, ist eine grobe Fehleinschätzung oder gar Ignoranz menschliche Psychologie.

Von der Glätte zur Bequemlichkeit: Han und Postman

Die technologische Umgebung unterstützt diese Kapitulation des Denkens. Der Philosoph Byung-Chul Han liefert mit seiner Kritik an der "Glätte" des Digitalen eine entscheidende ästhetische Kategorie. Das Digitale eliminiert die Negativität des Widerstands; alles wird seamless, reibungslos, konsumierbar. Die KI-Antwort ist "glatt" – sie bietet keinen Angriffspunkt, sie gefällt. Wahrheit ist oft sperrig. Fakten können wehtun. Kritisches Denken ist "rau", es ist Arbeit, es ist Reibung an der Sache. Die KI hingegen liefert das "Gefällt mir" in Textform.

Ergänzend dazu warnt Neil Postman ("Wir amüsieren uns zu Tode") schon lange vor einer Kultur, die Diskurs durch Entertainment ersetzt. KI-Tools sind oft auf maximale User Experience (UX) optimiert, nicht auf epistemische Sorgfalt. Wir designen Interfaces, die "Frictionless" sind. Aber Denken ist Friction. Wer die Reibung aus dem Interface entfernt, entfernt das Denken aus dem Prozess.

Die Pragmatik des Widerstands: Strategien für digitale Mündigkeit

Ist der Kampf um das kritische Denken schon verloren? Nicht zwangsläufig. Aber wir müssen aufhören, die Verantwortung allein auf das Individuum abzuwälzen und moralische Appelle zu formulieren. Wir benötigen systemische, technologische und didaktische Strategien, um der "delegierten Vernunft" entgegenzuwirken. Hier einige konkrete Ansätze für den praktischen Umgang mit dem Paradoxon:

I. Technologisches Design: "Design Friction" und epistemische Warnsysteme

Wir müssen uns von der Idee verabschieden, dass eine gute KI-Interaktion "nahtlos" sein muss. Software-Design muss gezielt "epistemische Reibung" erzeugen.

1. Verzögerte Gratifikation: Stellen wir uns ein KI-Interface vor, das bei komplexen, faktischen Fragen die Antwort nicht sofort ausspuckt, sondern künstlich verzögert und anzeigt: "Verifiziere Datenbanken... Prüfe Widersprüche...". Dies bricht die Erwartung der Instant-Antwort.
2. Wahrscheinlichkeits-Visualisierung: Statt eines glatten Textes sollte die KI Textstellen farblich markieren, bei denen die statistische Wahrscheinlichkeit der Fakten-Korrektheit niedrig ist. Der Nutzer muss visuell alarmiert werden: "Dieser Absatz ist spekulativ."
3. Quellen-Zwang (Source-Interlock): Eine Copy-Paste-Sperre für faktische Behauptungen, die erst aufgehoben wird, wenn der Nutzer auf die Fußnote geklickt und die Quelle zumindest geöffnet hat. Ein radikaler Eingriff in die UX, aber notwendig, um das "System 2" (Kahneman) zu wecken.

II. Bildung: Vom "Prompt Engineering" zum "Sokratischen Dialog"

"AI Literacy" darf sich nicht in technischer Bedienkompetenz erschöpfen. Wir bringen Schülern bei, wie man Antworten generiert. Wir müssen ihnen beibringen, wie man Fragen stellt.

1. Adversariales Prompting: Das Bildungsziel muss sein, die KI als Sparringspartner, nicht als Orakel zu nutzen. Eine Übung könnte lauten: "Bringe die KI dazu, eine plausible Lüge über den 2. Weltkrieg zu erzählen, und analysiere dann rhetorisch, warum diese Lüge glaubwürdig klingt." Das entmystifiziert die Autorität der Maschine.
2. Epistemologie als Schulfach: Wir brauchen ein Verständnis dafür, wie Wissen entsteht. Was unterscheidet eine wissenschaftliche Theorie von einer Meinung? Was ist Evidenz? Ohne dieses meta-kognitive Rüstzeug ist der Nutzer der KI schutzlos ausgeliefert.
3. Die sokratische Methode: Nutzer sollten lernen, Prompts zu schreiben, die Reflexion auslösen: "Schreibe ein Argument für X, und dann widerlege es selbst im Stil von Schopenhauer." "Welche logischen Fehlschlüsse könnten in deiner letzten Antwort enthalten sein?" Wir müssen lernen, die Maschine gegen sich selbst zu wenden.

III. Institutionelle Rahmenbedingungen: Slow AI

Unternehmen und Behörden stehen in der Pflicht, Prozesse zu definieren, die Geschwindigkeit nicht über Sorgfalt stellen.

1. Vier-Augen-Prinzip Mensch-Maschine: In kritischen Bereichen (Journalismus, Recht, Medizin) darf kein KI-Text ungeprüft veröffentlicht werden. Es muss Prozess-Gatekeeper geben, deren einzige Aufgabe die Verifikation ist – nicht die Erstellung.
2. Haftung für Halluzinationen: Solange Unternehmen Effizienzgewinne durch KI privatisieren, aber die Kosten für Desinformation vergesellschaften (durch den Schaden am öffentlichen Diskurs), wird sich nichts ändern. Wir brauchen Compliance-Regeln, die den ungeprüften Einsatz von LLM-Outputs sanktionieren.

IV. Die Rehabilitation der Ungewissheit

Gesellschaftlich müssen wir den Wert der Ungewissheit neu entdecken. In einer Welt voller KI-generierter Gewissheiten wird das menschliche Zögern, das Abwägen, das Eingestehen von Nichtwissen ("Ich weiß es nicht genau, es ist kompliziert") zum eigentlichen Qualitätsmerkmal menschlicher Intelligenz. Wir müssen Räume schaffen – in Schulen, Universitäten, Medien und auch oder vor allem in Unternehmen –, in denen nicht die schnellste Antwort belohnt wird, sondern die fundierteste Frage.

Mündigkeit als Widerstand

Kritisches Denken im Zeitalter der KI ist keine Software, die man installiert, und kein Skill, den man in einem Wochenendseminar lernt. Es ist eine Haltung des Widerstands. Widerstand gegen die Bequemlichkeit, Widerstand gegen die Glätte der Oberfläche, Widerstand gegen die eigene biologische Neigung, dem Anschein zu vertrauen.

Solange wir Technologien bauen, die auf maximale Passivität des Nutzers optimiert sind, und eine politische Kultur dulden, die Fakten verachtet, ist und bleibt der „Human-in-the-Loop“ eine gefährliche Illusion. Wir können die Vernunft nicht delegieren – weder an die Maschine, noch an ein überfordertes Individuum in einer unvernünftigen Umgebung. Die Antwort auf die künstliche Intelligenz ist nicht weniger Technologie, sondern mehr Philosophie. Wir müssen wieder lernen, wie Sokrates Fragen zu stellen, anstatt uns wie die Kunden der Sophisten mit wohlklingenden Antworten berieseln zu lassen. Mündigkeit bedeutet heute: Den Mut zu haben, der Maschine zu misstrauen, auch wenn – und gerade wenn – sie uns Recht gibt. 

Autor