China schaltet KI-Freunde ab: Millionen verlieren ihre digitalen Begleiter
China schaltet KI-Freunde ab und Millionen Nutzer trauern um ihre digitalen Begleiter. Neue Regeln zeigen, wie real die Bindungen längst sind.
Künstliche Intelligenz ist längst kein Zukunftsthema mehr, sondern Teil unseres Alltags. Sie beantwortet Fragen, bearbeitet Bilder, verbessert Suchmaschinen, steckt in Smartphones und sozialen Netzwerken - und wird dabei immer schwerer zu umgehen. Zu den jüngeren Trends gehören die KI-Freunde.
Dabei reden wir nicht unbedingt von den "KI-Freundinnen, die keine Tabus kennen", sondern von Lebensbegleitern, mit denen man sprechen kann, bei denen man sich auch mal über den Chef oder die Ehefrau auskotzen darf, ohne dass es irgendwelche Konsequenzen hat. Besonders in China sind diese KI-Begleiter enorm beliebt. Bis jetzt. Denn dank neuer Vorschriften zogen nun fast alle großen Hersteller den Stecker und schalteten die Begleiter von Millionen Menschen ab - obwohl das eigentlich gar nicht nötig gewesen wäre.
Seit dem 15. Juli gelten in China neue Vorschriften für KI-Dienste, die eine menschliche Persönlichkeit simulieren und, sehr wichtig an dieser Stelle, eine dauerhafte, emotionale Beziehung zum Nutzer aufbauen. In anderen Worten: neue Vorschriften für alle KI-Begleiter-Apps. Ob diese die Freundin, einen besten Freund oder ein Familienmitglied simulieren, spielt keine Rolle.
KI-Begleiter und Apps in China ...
- ... dürfen keine emotionale Abhängigkeit oder Sucht mehr fördern
- ... dürfen keine realen, zwischenmenschlichen Beziehungen schädigen
- ... müssen stets klar erkennbar machen, dass man NICHT mit einem Menschen kommuniziert
- ... müssen klare Hinweise geben, wenn Suchtverhalten erkennbar wird
- ... müssen Anzeichen extremer emotionaler Krisen erkennen und angemessen darauf reagieren
- Bei geäußerten Selbstmord- oder Selbstverletzungsabsichten müssen die Anbieter Hilfsmaßnahmen einleiten und gegebenenfalls Erziehungsberechtigte oder hinterlegte Notfallkontakte verständigen.
- ... müssen Nutzern jederzeit einen einfachen Ausstieg aus dem Dienst ermöglichen
- ... müssen nach jeweils zwei Stunden ununterbrochener Nutzung an die Nutzungsdauer erinnern
- ... dürfen keine romantischen oder intimen Beziehungen mehr zu Minderjährigen aufbauen
- ... dürfen die sensiblen Inhalte der Gespräche nicht mehr ohne ausdrückliche Zustimmung zum Trainieren der KI benutzen
Bei den großen Anbietern sah man offenbar keine Chance, diese Regularien (zumindest kurzfristig) einhalten zu können. Und da heftige Strafen drohten, schaltete man die Dienste lieber komplett ab.
Abschied zeigt das Problem
Mehrere Tage lang waren die chinesischen, sozialen Medien von Abschieds-Nachrichten überschwemmt. Zahlreiche Menschen reagierten auf die Abschaltung wie auf eine echte Trennung oder den Verlust eines geliebten Menschen. Viele Nutzer hatten über die Jahre teils Hundertausende Nachrichten mit ihren KI-Freunden ausgetauscht und eine engere Bindung zu ihnen aufgebaut als zu jedem echten Menschen.
Und genau das ist das Problem, das die chinesische Regierung gesehen hat und wogegen man nun in bekannter Härte vorgeht. Als offizielle Gründe werden die Risiken für die psychische Gesundheit von Minderjährigen, die Gefahr für echte Beziehungen und der Datenschutz angeführt.
Viele Experten sehen aber auch die sinkende Geburtenrate in China als einen Treiber der Maßnahmen. Immer mehr junge Menschen flüchten sich in die KI-Beziehungen, anstatt dem bisher gängigen Familienbild zu entsprechen. Im vergangenen Jahr sank die chinesische Bevölkerung um mehr als drei Millionen Einwohner.
Ob die KI-Freunde irgendwann zurückkehren werden, wenn die Firmen Anpassungen vorgenommen haben, ist aktuell nicht bekannt. Wenn, dann aber in deutlich anderer Form.
Für Europa haben die chinesischen Regeln zunächst keine direkten Folgen. Auch hier dürfte jedoch die Diskussion darüber an Bedeutung gewinnen, wie Menschen vor emotionaler Abhängigkeit, Manipulation und problematischem Datenschutz bei KI-Begleitern geschützt werden können. Wie so oft entwickeln sich die technischen Möglichkeiten mal wieder schneller als die speziell darauf zugeschnittenen Gesetze.
