Kognitive Kapitulation
Man kann am KI-Hype einiges kritisieren: angefangen bei der Penetranz, mit der IT-Unternehmen einem ihre Large-Language-Model-Anwendungen aufdrängen, über die Flut an sogenanntem KI-Slop, den Energie- und Wasserverbrauch von Rechenzentren, die großangelegte Plünderung geistigen Eigentums, Deepfakes, Massenentlassungen und Lohndumping, einen leergekauften Chipmarkt, die Ausbeutung von billigen Klickarbeiter:innen, fehlerträchtigen Output inklusive teils sicherheitsrelevanter Software, die selbstverstärkende Verfestigung von Diskriminierungsmustern, den Abbau von Kundenservice mit Hilfe begriffsstutziger Chatbots bis hin zu den Folgen für die Weltwirtschaft, wenn die Blase unweigerlich platzt. Aber darum soll es mal nicht gehen – sondern um die Auswirkungen die Nutzung von KI auf das Denkvermögen hat. Spoiler: keine guten.
Schon in den Sechzigern stellte der Informatiker Joseph Weizenbaum fest, dass Personen dazu neigten, das von ihm entwickelte Dialogprogramm Eliza, obwohl sehr simpel gestrickt, zu vermenschlichen. Und je besser die heutigen Modelle werden, umso häufiger tendiert der sogenannte Eliza-Effekt ins Wahnhafte. Immer wieder steigern sich Menschen dermaßen in die Kommunikation mit Chatbots hinein, dass sie sich in sie verlieben, zu verlustreichen Geschäften verleiten lassen oder glauben, Gott in der »Person« der LLMs gefunden zu haben. Sogar mehrere Suizide werden auf den Einfluss von Chat GPT und verwandten Modelle zurückgeführt.
Das Auslagern kognitiver Anstrengungen lässt geistige Fähigkeiten verkümmern; darüber hinaus tendieren Menschen dazu, sich selbst auf offenkundig falsche Antworten der Programme zu verlassen
Solche drastischen Fälle mögen die Ausnahme sein und bisher ist ungeklärt, ob die Systeme selbst psychische Probleme verursachen oder bereits vorhandene Tendenzen verstärken. Sie sind jedoch darauf angelegt, durch einschmeichelnde, bestätigende Antworten emotionale Abhängigkeit zu schaffen.
Dem können sich auch klinisch unauffällige Nutzer:innen nicht entziehen, und darin liegt gesellschaftlich betrachtet das größere Problem. Zahlreiche Studien befassen sich mit den Auswirkungen von KI auf das Denken und kommen zu klaren Ergebnissen: Das Auslagern kognitiver Anstrengungen lässt geistige Fähigkeiten verkümmern; darüber hinaus tendieren Menschen dazu, sich selbst auf offenkundig falsche Antworten der Programme zu verlassen, was die Autoren einer dieser Studien rundheraus als »kognitive Kapitulation« bezeichnen.
Kurzum, die massenhafte Verbreitung von LLMs fügt den ohnehin reichlich vorhandenen natürlichen Vorkommen eine große Portion künstlicher Dummheit hinzu und erodiert die Voraussetzungen für kritisches Denken. Dem tech bro-Faschismus kommt das sicherlich gelegen.
