Künstliche Intelligenz, die nicht nur beeinflusst was wir denken, sondern auch wie wir es tun. Was nach dystopischer Science-Fiction klingen mag, ist vielleicht näher an der Realität als uns lieb ist. Das legt zumindest eine aktuelle Studie zu KI-Schreibassistenten nahe.
Am Anfang war die leere Seite. Früher bedeutete das Nachdenken, recherchieren, Gedanken formulieren, diese wieder verwerfen und manchmal auch daran verzweifeln. Heute genügt eine kurze stichwortartige Eingabe in das Feld eines Chat-Interfaces und Sekunden später erscheint ein komplett ausformulierter Absatz, eine Seite, oder ein gesamter Essay wie dieser.
Künstliche Intelligenz – genauer gesagt LLMs (large language models; dt.: große Sprachmodelle) haben sich in den letzten Jahren zu einem allgegenwärtigen Werkzeug etwa zum Verfassen von E-Mails, oder zum Schreiben ganzer Texte entwickelt. Doch oft sind diese Systeme nicht nur Schreibwerkzeuge, die uns mit Rechtschreibung und Beistrichsetzung helfen, sondern auch Denkwerkzeuge, die selbstständig Impulse, Ideen und ganze Argumente liefern können. Dadurch entsteht eine stille Verschiebung: Der erste Gedanke gehört immer öfter der Maschine.
Eine im März 2026 veröffentlichte Studie der US-amerikanischen Cornell University macht diesen Effekt auf beängstigende Weise offensichtlich. In einer Reihe von Tests verfassten Versuchspersonen Essays zu gesellschaftspolitisch polarisierenden Themen, wie beispielsweise der Todesstrafe – begleitet von generativen KI-Schreibassistenten, die Sätze und ganze Absätze vervollständigen können und darüber hinaus auch ganz neue Argumentationsansätze vorschlagen. Diese Tools wiesen allerdings absichtlich eine Präferenz hin zu einer bestimmten Position gegenüber den Themen auf – sie waren biased. Die Studie zeigte, dass durch die Anwendung von Schreibassistenten die Texte messbar in Richtung der Position der KI verzerrt wurden.
Das Überraschende daran: es änderte sich nicht nur die Position der Texte, sondern auch die Meinungen der Versuchspersonen gegenüber den bearbeiteten Themen. Dieser Effekt blieb sogar dann bestehen, wenn die Schreibenden über den Bias der KI-Tools aufgeklärt wurden. Warnungen oder Transparenz über die Voreingenommenheit der Schreibassistenten änderten also wenig an diesen Effekten. Der Einfluss, den diese KI-Systeme auf die Versuchspersonen hatten, war also nicht nur sprachlich, sondern gedanklich.
Die Einflussnahme geschieht hier nicht auf dramatische oder offensichtliche Weise, sondern ganz subtil.
Die Nutzer:innen müssen die Vorschläge der KI nicht annehmen. Es handelt sich eben nur um Vorschläge. Doch gerade darin liegt die Wirkung: der erste Gedanke setzt bereits den Rahmen, in dem die Überlegungen stattfinden. Psychologisch ist dieser Mechanismus gut bekannt. Wer einen Ausgangswert präsentiert bekommt, orientiert sich oft unbewusst daran. Alles, was danach kommt, bewegt sich meist nur noch in dessen näheren Umfeld. Kommt dieser erste Gedanke von der KI und wird er von den Schreibenden übernommen, wird aus fremder Suggestion, eigene Überzeugung. Was man schreibt, glaubt man.
Doch wie tiefgreifend ist diese Problematik und was bedeutet das alles für unser Denken? Hier ist es Sinnvoll sich einem philosophischen Ansatz zuzuwenden. In der Epistemologie oder Erkenntnistheorie, einem Bereich der Philosophie, der sich mit der Frage befasst was Wissen ist, wie es entsteht und wo die Grenzen unseres Wissens liegen, findet sich das Konzept der Epistemischen Handlungsfähigkeit. Es beschreibt die Fähigkeit sich aktiv an der Ausbildung einer eigenen Überzeugung zu beteiligen, Gründe nachzuvollziehen, Argumente zu formulieren und gegebenenfalls Meinungen aufgrund von Reflexion zu revidieren. Wissen entsteht in dieser Auffassung also nicht dadurch, dass man die richtige Antwort erhält, sondern durch aktive Beteiligung am Prozess der Wissensgenerierung.
Wenn jedoch immer häufiger eine Maschine den ersten Vorschlag liefert, beeinflusst uns das in unserer Rolle als epistemisch handlungsfähiges Subjekt.
Der Mensch bleibt zwar formell derjenige, der entscheidet. Aber der Ausgangspunkt des Denkens verschiebt sich. Die eigene Überzeugung entsteht dann nicht mehr aus einem offenen Suchprozess, sondern aus der Bearbeitung eines bereits vorformulierten Gedankens.
Die Konsequenzen davon werden klar ersichtlich, wenn man den Vergleich mit Ähnlichen Prozessen wagt. Technologien haben menschliche Fähigkeiten schon immer verändert. Zum Beispiel haben Navigationsgeräte das Reisen auf eine Art und Weise vereinfacht, die sich heute niemand mehr wegdenken möchte. Gleichzeitig finden wir nun nicht einmal mehr eine Adresse, die zweimal um die Ecke gelegen ist, ohne gleich Google Maps um Hilfe zu bitten. Wenn eine Maschine eine Aufgabe zuverlässig übernimmt, wird sie seltener selbst ausgeübt. In diesem Fall leidet dann unser Orientierungsvermögen darunter. Während die meisten von uns damit wohl ganz gut leben können, stellt sich im Kontext von KI-Assistenten jedoch eine weitaus unangenehmere Frage: was, wenn dieser Effekt unser selbstständiges Denken betrifft?
Nimmt man philosophische Analysen zur Epistemischen Handlungsfähigkeit und Studienergebnisse wie die Eingangs angeführten ernst, legt dies nahe, dass ein ähnlicher Prozess durch die Anwendung von KI auch im Bereich unserer kognitiven Fähigkeiten beginnen könnte. Analyse, Strukturierung und Formulierung – also genau jene Schritte, die früher zum Kern intellektueller Arbeit gehörten – lassen sich zunehmend automatisieren. Das bedeutet nicht, dass Menschen plötzlich aufhören zu denken. Aber die Art des Denkens verändert sich. Der Mensch wird weniger zum Ursprung von Ideen und mehr zum Kurator bereits vorformulierter Vorschläge.
Die Folgen davon erscheinen in zweierlei Hinsicht bedrohlich. Durch die Verwendung von KI-Tools und den damit verbundenen, oft unsichtbaren kognitiven Prozessen, werden wir in der Ausbildung unserer Meinungen und Überzeugungen leichter beeinflussbar. Das legen sowohl die Experimente der Forschenden der Cornell University zu KI-Schreibassistenten als auch zahlreiche ähnliche Studien zur epistemischen Einflussnahme durch LLMs nahe. Unterzieht man diese Ergebnisse weiters auch noch einer philosophischen Analyse wird klar, dass das noch nicht alles ist. wenn wir zunehmend kognitive Arbeit an KI abgeben und uns die Ausgangspunkte für unsere Ideen, Argumente und Überzeugungen automatisch generieren lassen, wird unsere Epistemische Handlungsfähigkeit zunehmend ein wenig schwächer. Unsere eigenen Argumente, Ideen und Denkimpulse bekommen immer weniger Gewicht. Der erste Gedanke gehört dann immer mehr der Maschine.
Ein wirksamer Gegenentwurf dazu ist vielleicht ein unbequemer: Manchmal ist es eine gute Idee vor der leeren Seite zu sitzen und erstmal selbst zu denken, auch wenn man manchmal daran verzweifelt.
This text was written as part of the Phil Publica Workshop “Der philosophische Kurz-Essay in der Zeitung” which took place in Vienna in March 2026 in cooperation with the FWF Exzellenzcluster „Knowledge in Crisis“, Gesellschaft für Analytische Philosophie (GAP), der Deutschen Gesellschaft für Philosophie (DGPhil), University of Vienna, and Central European University (CEU)
The paper will make use of cross-country survey data, George Monbiot’s epiphany, academic research papers and opinion pieces in popular media and some basic economic logics in order to trace the development of pronuclear argumentation.
Am 07. November 2025 durfte ich einen Workshop zum Thema Ökofeminismus halten. Ökofeminismus begleitet mich schon seit Beginn meines Studiums im EST Master.
If you have an article or other types of content you would like to publish on this blog, please contact us:
