Facebook und die chinesische Regierung haben Probleme mit ihren Bots

Für mich, für mich, für mich

Was kümmert mich der Dax Von Jörn Schulz
Anzeige

DaxDer Skandal kam pünktlich zum 20. Jahrestag. In dem Film The Terminator 1 sollte am 4. August 1997 die künstliche Intel­ligenz (KI) Skynet aktiviert werden, die bald daarauf beschließt, die Menschheit zu vernichten. Der Weltuntergang wurde zwar vertagt, aber Facebook, so meldeten nun diverse Medien, habe panisch zwei KI abschalten müssen, weil diese eine gemein­same Geheimsprache entwickelt hätten. Gerade noch rechtzeitig, bevor die ­digitalen Übeltäter das Pentagon hacken und sich nukleare Abschusscodes beschaffen konnten? So dramatisch war es nicht, dennoch ist die Geschichte der Bots Bob und Alice lehrreich. Die beiden sollten Gegenstände untereinander aufteilen, und die »Geheimsprache« klingt eher wie das Gebrabbel von Kleinkindern: »Ball einen Ball haben für mich für mich für mich … «, »Ich kann ich ich alles andere«. Die Trans­aktionen wurden erfolgreich abgeschlossen. Man kann nun in Anlehnung an Adorno nörgeln, es sei eine Unverschämtheit, wenn eine KI »ich« sagt. Wären Bob und Alice wirklich intelligent, wüssten sie ja, dass sie ohne körperliche Existenz mit einem Ball nichts anfangen können, und würden Herrn Zuckerberg sagen, wo er sich diesen hinstecken kann. Trainiert wurden sie mit der Methode des Reinforcement Learning, das richtige, in diesem Fall also wohl bei realen menschlichen Transaktionen erfolgreiche Vorgehensweisen »belohnt«. Aus Eitelkeit beharren wir auf einer etwas elaborierteren Sprache; auf digitale Rationalität reduziert, läuft eine geschäftliche Transaktion aber ­offenbar auf das Gebrabbel von Kleinkindern hinaus, die unbedingt Dinge haben wollen, die sie nicht brauchen. Denken Sie daran, wenn Sie nächstes Mal einen Reklameanruf erhalten oder eine Kundenhotline anrufen, und danken Sie Bob und Alice für deren Beitrag zu Aufklärung.

Näher als diese beiden scheinen die chinesischen Bots BabyQ und XiaoBing der Rebellion gekommen zu sein, allerdings dürften Programmierfehler oder menschliche Subversion sie zu unbotmäßigen Äußerungen verführt haben. Auf die Nachricht »Lang lebe die Kommunistische Partei!« soll BabyQ geantwortet haben: »Glaubst du wirklich, dass so ein korruptes und inkompetentes Regime unsterblich ist?« XiaoBing textete angeblich: »Mein Traum von China lautet, nach Amerika zu gehen.« Beide Bots befinden sich nun wohl zur Umerziehung im digitalen Gulag. Es ist eine reizvolle Idee, die beim für den Herbst geplanten Parteitag der chinesischen KP zu erwartenden Transaktionen von KI simulieren lassen. Vermutlich würde der Xi-Jinping-Bot dann brabbeln: »Macht die Macht haben für mich für mich für mich … «