»Junge Leute sind skeptisch gegenüber KI«

Universitäten haben KI-Programme lange vor allem deshalb als Problem betrachtet, weil Studenten mit ihnen Arbeiten schreiben. Nun ist in Deutschland immer öfter die Rede davon, dass KI Teil des Unterrichts sein soll. Wie ist die Situation in den USA?
Das Problem, dass Studenten KI benutzen, um Hausaufgaben und Essays zu schreiben, besteht weiterhin und ist sogar noch schlimmer geworden. Aber seit ein, zwei Jahren wird auch propagiert, KI in der Lehre einzusetzen. Wie bei früheren technischen Neuerungen aus dem Silicon Valley soll die KI den Unterricht verbessern, so wie irgendwann plötzlich alle Klassenzimmer voller iPads waren. Erst Jahre später haben Studien belegt, dass Computer beim Lernen nicht helfen oder sogar schädlich sind.

In welcher Form soll KI im Unterricht verwendet werden?
Beispielsweise sollen KI-Chatbots wie Tutoren eingesetzt werden, mit denen die Studenten den Stoff durchgehen. Oder Dozenten sollen sie nutzen, um ihren Lehrplan zu entwerfen, was angeblich Zeit spart. An meiner Universität, einer der größten in den USA, will die Verwaltung unbedingt vorne mit dabei sein, »KI-Kompetenzen« bei den Studenten zu fördern. Aber letztlich weiß niemand genau, was das bedeuten soll. Druck, diese Technologie einzusetzen und die Studenten mit ihr so schnell wie möglich vertraut zu machen, gibt es an vielen Universitäten – seitens der Universitätsverwaltungen, seitens privater Geldgeber, auch von Seiten des Gesetzgebers.

»Ein Lichtblick bei dem, was jetzt mit KI passiert, könnte dieser Impuls sein, zu sagen: Lass uns endlich darüber reden, wie wir Technologie nutzen. Unzufriedenheit gibt es ja in vielen Bereichen.«

Welche Rolle spielen die KI-Konzerne?
Open AI, Anthropic und deren Konkurrenten wollen Lizenzen an Universitäten verkaufen. Diese Firmen haben Billionen in Rechenzentren investiert und suchen nun händeringend nach Einnahmequellen. Der Bildungsbereich ist da potentiell wichtig.

Und die Bundesregierung unter Präsident Donald Trump?
Die war lange ein starker Verfechter der KI-Technologie. Das ändert sich allerdings gerade. Es gibt zum Beispiel einen Rechtsstreit zwischen der Bundesregierung und dem Unternehmen An­thropic. Noch entscheidender ist, dass die meisten Bürger KI-Technologie schlicht nicht mögen. Das zeigen Umfragen: Die US-Bevölkerung ist mehrheitlich skeptisch und besorgt, was die Auswirkungen von KI angeht. In einer Demokratie kann man so etwas nicht auf Dauer ignorieren.

Dabei heißt es doch immer, US-Amerikaner stünden neuen Technologien positiv gegenüber.
So war es früher auch. Als es Ende der Neunziger mit dem Internet richtig losging, war die große Mehrheit optimistisch. Aber seitdem haben sich die Verhältnisse umgekehrt. Die Entwicklung des Internets wurde von Profitinteressen bestimmt, und das Ergebnis war dieses Geschäftsmodell, die Nutzer so lange wie möglich an den Geräten zu halten. In vielerlei Hinsicht waren diese Technologien ein Desaster für das menschliche Wohlbefinden. Deshalb sagen heutzutage in den USA viele, wenn man sie nach KI fragt: Ich denke, dass es uns dümmer machen wird, das Denken an Chat GPT auszulagern, und ich habe Angst, dass ich meinen Arbeitsplatz verliere.

Und das beobachten Sie auch an Universitäten?
Auf jeden Fall. Es gibt eine Spannung zwischen jenen, die sagen: KI wird die Welt verändern, wir machen dabei mit. Und auf der anderen Seite eine Mehrheit der Studenten und auch der Lehrenden, die sagen: Moment mal, wir wissen nicht, wie sich diese Technologie auswirken wird, und es gibt gute Gründe, skeptisch zu sein. Zumal für die KI-Unternehmen ihr Profitinteresse im Vordergrund steht und nicht, die Lehre oder das Wohlbefinden der Studenten zu verbessern.

Allerdings muss man den Studenten die KI kaum aufzwingen. Die große Mehrheit benutzt sie doch längst. Oder nicht?
Ja, stimmt, so gut wie alle Studenten benutzen KI. Aber sie mögen es nicht. Sie sorgen sich, dass sie verlernen, schwierige Texte zu lesen oder selbst Probleme zu lösen. Aber sie fühlen sich machtlos, weil es eben alle machen. Auch in der Arbeitswelt wird das von ihnen verlangt. Ich rede viel mit Studenten. Auch Umfragen und Studien zeigen, dass die meisten von ihnen befürchten, dass sie zurückfallen würden, wenn sie als Einzige nicht KI benutzen. Junge Leute sind allgemein skeptisch gegenüber KI. Mit Social Media ist es ja ähnlich. Viele sagen: Ich brauche das leider für meine Arbeit, oder um Kontakt zu Leuten zu halten. Aber eigentlich hasse ich es.

»Das menschliche Gehirn lernt durch Anstrengung. So funktioniert Lernen nun mal. Und KI bietet die Möglichkeit, dieser Schwierigkeit zu entkommen und sofort eine Antwort zu generieren. Dann lernt man aber nichts, das Gehirn entwickelt sich nicht.«

Was würden Sie jemandem sagen, um ihn zu überzeugen, dass KI-Programme an Schulen und Universitäten schädlich sind?
Selbst wenn man annimmt, dass KI-Technologie Arbeit und Forschung tiefgreifend zum Positiven verändern wird, sollte man sehr vorsichtig damit sein, sie im Bildungsbereich einzusetzen. Das menschliche Gehirn lernt durch Anstrengung. So funktioniert Lernen nun mal. Und KI bietet die Möglichkeit, dieser Schwierigkeit zu entkommen und sofort eine Antwort zu generieren. Dann lernt man aber nichts, das Gehirn entwickelt sich nicht. Am Ende hat man Leute, die kaum Fähigkeiten haben, aber abhängig von Werkzeugen sind. Ihnen werden ironischerweise genau jene Fähigkeiten fehlen, die in einer KI-dominierten Welt wichtig sind: Texte interpretieren und Informationen einschätzen.

Unbehagen über die Auswirkungen des Internets auf die Öffentlichkeit und die geistige Verfassung der Nutzer gibt es ja schon länger. Wird KI-Technologie das noch verschärfen?
Ich halte die Entwicklungen im Zusammenhang mit KI für eine Chance, über den Einfluss von Technologie allgemein zu sprechen. Als es mit dem Internet losging, haben viele die Erfahrung gemacht, dass es ihr Leben besser machte. Sie fühlten sich produktiver, besser informiert, kreativer und so weiter. Aber mittlerweile zeigt empirische Forschung, dass die Gesamtauswirkung des Internets auf das Wohlbefinden und die Kreativität der Menschen negativ war. Der Psychologe und Autor Jonathan Haidt hat dazu viel veröffentlicht, insbesondere über die Auswirkungen auf Jugendliche. Es gibt einen enormen Zuwachs bei Angststörungen und Depressionen. Die Fähigkeit zum Lesen und Lösen von Matheaufgaben nimmt ab. Es ist ein Desaster.

Ist es also Zeit für eine Gegenbewegung?
Die Leute sehen ja selbst, wie sich das Internet auf sie und ihre Kinder auswirkt, und viele sagen, genug ist genug. Ein Lichtblick bei dem, was jetzt mit KI passiert, könnte dieser Impuls sein, zu sagen: Lass uns endlich darüber reden, wie wir Technologie nutzen. Unzufriedenheit gibt es ja in vielen Bereichen, nicht nur was soziale Medien betrifft: Ökonomisch hat es in den vergangenen 25 Jahren einen enormen Anstieg der Reichtumskonzentration an der Spitze gegeben, während unzählige Arbeiter weniger qualifizierte und weniger gut bezahlte Tätigkeiten ausführen. Die letzte Welle der Automatisierung in den neunziger und nuller Jahren hat Millionen qualifizierter Arbeitskräfte im Industriebereich verdrängt. Und KI-Programme könnten das Gleiche für viele Angestellte tun. Meine Hoffnung ist, dass daraus die Forderung erwächst, Technologie dem sozialen und menschlichen Wohlbefinden unterzuordnen, nicht umgekehrt.

Zumindest im Bildungsbereich gibt es in den USA vielerorts bereits Kritik am Einsatz von KI. Entsteht da eine Protestbewegung?
In den USA sind die am besten organisierten Proteste bislang die gegen den Bau der sehr energieintensiven Rechenzentren. Aber das ist ja nur ein Teilaspekt. Es braucht eine breite gesellschaftliche Debatte darüber, wie die Kontrolle über Technologie zurückgewonnen werden kann. Als Individuen sind wir machtlos. Außerdem hat man es mit einflussreichen Interessen zu tun. Es geht um Investitionen im Wert von Billionen US-Dollar und die KI-Firmen betreiben gut finanzierte Lobbyarbeit. Aber ich beobachte in der Tat, dass zum Beispiel Eltern von Schülern und Studenten sehr besorgt sind und sich zusammen mit Lehrern und Dozenten fragen, was sie gemeinsam dagegen tun können, dass wie mit der Dampfwalze KI-Technologie überall eingeführt wird. Es macht auch Hoffnung, dass es in beiden großen Parteien in den USA bereits Lager gibt, die KI skeptisch gegenüberstehen und Regulierungen befürworten.

In Deutschland wird KI-Kritikern oft entgegengehalten, ihr Technologiepessimismus führe dazu, dass der deutsche Standort gegenüber den USA zurückfällt. Und in den USA wird auf China verwiesen, wo die KI-Entwicklung enorm unterstützt wird. Besteht im Kapitalismus nicht das Problem, dass auf der Ebene der Staatenkonkurrenz Ähnliches gilt wie für Ihre Studenten: Wenn man auf KI verzichtet, gerät man ins Hintertreffen?
Das ist eine Frage, die man nicht leicht abtun kann. Ich befürworte nicht, KI ganz zu verbieten. Das wäre in einer von Konkurrenz geprägten Welt, in der es Spannungen zwischen den atomar bewaffneten Großmächten gibt, auch unrealistisch. China ist ein nationalistischer Staat, der offen erklärt hat, dass er Taiwan gegen den Willen von dessen Bevölkerung übernehmen will. Es wäre naiv zu erwarten, dass China und Russland einen Verzicht der USA auf KI nicht nutzen würden, um für ihre autoritären Systeme einen Vorteil zu erlangen. Aber das heißt nicht, dass KI in alle Bereiche des menschlichen Lebens vordringen muss. Oder dass der Bildungsbereich der KI zu übergeben ist.

»›Slop‹ ist ein wunderbares Wort. Darin drückt sich die Abscheu aus, die viele angesichts ihrer medialen und technologischen Umwelt immer mehr empfinden.«

Was ist mit der Auswirkung von KI auf die Kultur? Kürzlich erregte die Literaturnobelpreisträgerin Olga Tokarczuk Aufsehen, als sie zugab, dass sie Chat GPT beim Entwerfen ihrer Texte benutzt hat. Eine offenbar KI-generierte Kurzgeschichte gewann den Commonwealth-Literaturpreis. Ist das die Zukunft des Schreibens?
Ich verstehe diesen Impuls überhaupt nicht, denn meiner Ansicht nach besteht der Wert von Kunst darin, dass es die Kommunikation zwischen Menschen ist und sich menschliche Intentionen und Erfahrungen darin ausdrücken. KI einzusetzen, um Kunstwerke zu schaffen, zerstört diese menschliche Qualität. Ich würde allerdings sagen, dass schon das Internet und die sozialen Medien für die menschliche Kreativität verheerend waren. Literatur, Kunst, Film, Musik, alles ist schlechter geworden. Wenn ich das vor zehn Jahren gesagt habe, nannten mich noch alle elitär. Aber heutzutage erlebe ich oft, wie selbst junge Menschen, beispielsweise bei meinen Lesungen, sagen, dass sie das Gefühl haben, es habe früher mehr Kreativität gegeben. Das ist eine Auswirkung der Algorithmen, die eine von Konformität geprägte Inter­net­kultur befördern.

Ist das nicht einfach eine typische elitäre Geringschätzung der jüngsten Massenkultur, wie es sie früher auch schon immer gegeben hat?
Nein, unsere Gesellschaft hat vielmehr die Fähigkeit verloren, Urteile über Qualität zu fällen. Dabei zeigt KI nur, wie wichtig es ist, klar zwischen wirklichen Werken, die den Reichtum der menschlichen Erfahrungen ausdrücken, und Schrott zu unterscheiden. Eine Jury hat nur deshalb einer KI-generierten Kurzgeschichte einen Literaturpreis gegeben, weil die anderen Geschichten genauso roboterhaft, konformistisch, vorhersagbar und leer waren. Unsere Gesellschaft schätzt künstlerische Qualität nicht mehr, sondern es herrscht eine pseudodemokratische (faux-demokratic) Vorstellung, der zufolge alles irgendwie gleich wertvoll sei. Das spielt einem marktbasierten, von Algorithmen getriebenen Kulturkonsum in die Hände, von dem wir uns emanzipieren müssen. KI stellt uns nur noch schärfer vor die Herausforderung zu fragen, was menschliche Werke eigentlich besonders macht und was für eine Art von Kultur wir haben wollen. Darüber bräuchte es eine Auseinandersetzung.

Es ist zumindest bezeichnend, dass sich für KI-generierte Inhalte die Bezeichnung AI slop« (KI-Fraß) etabliert hat.
Es ist ja auch Mist, einfach totaler Mist. »Slop« ist ein wunderbares Wort. Darin drückt sich die Abscheu aus, die viele angesichts ihrer medialen und technologischen Umwelt immer mehr empfinden. Es stimmt mich hoffnungsvoll, dass im Internet dieser Begriff geprägt wurde.