Verstecke dein Gesicht

Seoul. Südkorea ist zu einer der technologisch fortschrittlichsten Nationen der Welt geworden, doch nun zeigt sich eine besonders dunkle Seite der Digitalisierung: Die Verbreitung von deep fake-Pornographie hat die südkoreanische Gesellschaft tief erschüttert. Bei dieser Form digitaler Gewalt wird Künstliche Intelligenz genutzt, um in pornographische Inhalte die Gesichter unbeteiligter Menschen zu montieren.

Nicht zum ersten Mal erlangt Südkorea traurige Berühmtheit für Sexualstraftaten im digitalen Raum: 2019 wurde die »Nth Room«-Affäre bekannt: Über 100 Mädchen und junge Frauen waren auf verschiedenste Art und Weise zu Selbstverletzungen und Preisgabe intimer Bild- und Videoaufnahmen genötigt worden, die in Telegram-Kanälen mit Tausenden Mitgliedern ver­öffentlicht wurden. Ein alltägliches Problem sind zudem versteckte Kameras in öffentlichen Toiletten oder Gastunterkünften, deren Aufnahmen oft im Internet landen.

Präsident Yoon Suk-yeol betonte, dass Vergehen, bei denen »deep fakes« zum Einsatz kommen, hart bestraft werden müssten, doch eine umfassende Strategie zur Prävention fehlt.

Die nun verbreiteten deep fake-Videos machen jeden zum potentiellen Opfer, dessen Gesicht im Internet, etwa in sozialen Medien, auffindbar ist. Nach einem Bericht des Cybersecurity-Unternehmens Security Hero ist die Anzahl der online verfügbaren deep fake-Videos von 2019 bis 2023 um 550 Prozent gestiegen. Fast alle dieser Videos haben einen pornographischen Inhalt, in 99 Prozent der Fälle sind die Opfer weiblich und mit 53 Prozent kommen mit großem Abstand die meisten Opfer solcher Videos aus Südkorea.

Bekannt wurden zuletzt die Machenschaften eines 40jährigen Absolventen der angesehenen Seoul National University, der mit Komplizen pornographische deep fakes von über 60 Opfern erstellte und diese über Telegram verbreitete. In einem anderen Fall wurde ein Telegram-Kanal entdeckt, der über 220.000 Mitglieder hatte und ein Programm bot, das aus jedem beliebigen Foto in Sekundenschnelle ein Nacktbild erstellen konnte.

An über 500 Schulen im ganzen Land sind mittlerweile Verbrechen mit KI-erstellter Pornographie aufgedeckt worden. Die meisten Täter sind Jugendliche, sie prahlen auf Online-Plattformen offen mit der Qualität der von ihnen erstellten Videos und geben Anleitungen, wie man Ermittlungen der Polizei entgeht. Diese Hybris wird durch die weitverbreitete Auffassung genährt, dass die diesbezüglichen Gesetze in Südkorea lasch seien.

Verschärfungen des Sexualstrafrechts ­haben wenig bewirkt

Während einzelne Täter wie Cho Ju-bin, der Kopf hinter den »Nth Room«-Verbrechen, hart bestraft wurden, blieben die Nutzer, die die missbräuchlichen Inhalte verbreiteten, weitgehend unbehelligt. Verschärfungen des Sexualstrafrechts in den vergangenen Jahren, wonach nicht mehr nur die Verbreitung, sondern auch Besitz und Konsum illegal produzierter sexueller Aufnahmen strafbar ist, ­haben wenig bewirkt.

Immer mehr Kritik zieht in diesem Zusammenhang das südkoreanische Bildungssystem auf sich. Die meisten Schüler lernen zwar, wie sie Computer und Software nutzen, so dass viele in der Lage sind, deep fake-Videos zu erstellen und zu verbreiten, doch kritisches Denken und die verantwortungsvolle Nutzung digitaler Medien spielen im Unterricht kaum eine Rolle.

Die wichtigste Aufgabe der Behörden ist derzeit, die illegalen Inhalte löschen zu lassen, was aber beispielsweise bei Telegram oftmals misslingt. Opfer fordern härtere Strafen für Herstellung, Verbreitung, Besitz und Konsum von deep fakes. Auch Präsident Yoon Suk-yeol betonte kürzlich, dass Vergehen, bei denen deep fakes zum Einsatz kommen, hart bestraft werden müssten, doch eine umfassende Strategie zur Prävention fehlt bislang. Die ergriffenen Maßnahmen wirken allenfalls kurzfristig, denn solange sich die Verbreitung von deep fakes nicht verhindern lässt und das Problem nicht als ein gesellschaftliches anerkannt wird, wird es sich nicht lösen lassen.

Selfie in wenigen Minuten in ein Pornovideo verwandelt

Die potentiellen Opfer verstecken sich: Viele Frauen in Südkorea haben in den vergangenen Monaten ihre Social-Media-Profile gelöscht oder den Zugang zu ihnen eingeschränkt. Neben Schülerinnen sind vor allem Lehrerinnen Opfer der Porno-Manipulationen von Jugendlichen. Die Vorstellung, dass ein harmloses Selfie in wenigen Minuten in ein pornographisches Video verwandelt und mit Hunderttausenden geteilt werden könnte, beängstigt derzeit viele Südkoreanerinnen.

Manche Frauen können sich im Internet nicht so leicht verstecken, da sie als Personen des öffentlichen Lebens auf mediale Präsenz angewiesen sind. K-Pop-Stars aus Girl Groups zählen besonders häufig zu den Opfern von pornographischen deep fakes. Frauenrechtsgruppen betonen unterdessen, die ­Lösung könne ohnehin nicht darin bestehen, dass Frauen ihre Social-­Media-Profile löschen oder sich aus der digitalen Öffentlichkeit zurückziehen.

Frauen objektifiziert und entmenschlicht

Die »wiederholte Gewalt gegen Frauen«, so Kim Su-jeong, die Leiterin des Women’s Human Rights Counseling Center, sei »ein Ergebnis staatlichen Versagens«; man habe Warnungen ignoriert, Täter seien nicht hart genug bestraft worden und es fehle ein Bewusstsein dafür, dass es sich um schwere Straftaten handele.

Die Notwendigkeit eines tiefgreifenden gesellschaftlichen Wandels wird immer offensichtlicher. Die deep fake-Kriminalität entspringt tief in der koreanischen Gesellschaft verwurzelten pa­triarchalen Strukturen und einer Szene jugendlicher »Incels«, die Frauen objektifiziert und entmenschlicht. Der Druck auf die Regierung wächst, neue gesetzliche Regelungen für deep fakes, Technologien zur Verbreitungsverhinderung und umfassende Bildungsprogramme zur Medienkompetenz einzuführen. Doch es bleibt zweifelhaft, ob das die Wirkung entfalten wird, die sich viele erhoffen. Für viele digital frühsozialisierte Jugendliche sind diese Delikte nichts weiter als ein Spiel, ein Wettbewerb um soziale Anerkennung in dunklen Telegram-Kanälen zu erlangen.