Wie KI für Ruhe sorgt: Algorithmen gegen toxische Spieler
KI macht in der Gamingwelt immer mehr von sich reden, kommt im Hintergrund aber schon seit Jahren zum Einsatz.
Nachdem Ubisoft bereits im März angekündigt hatte, dass man intern eine KI namens "Ghostwriter" als Tool für die Entwickler nutze, um bessere Skripte, Quests und Dialog zu schreiben, zieht Microsoft nun nach. In einer Kooperation mit Inworld will der Xbox-Konzern solche KI-Werkzeuge massenmarkttauglich machen und auch anderen Studios zur Verfügung stellen. Dabei hilft KI nicht nur schon längst beim Schreiben von Dialogen, sondern ersetzt sie in manchen Spielen bereits ganz, wie wir es beim Early-Access-Titel Cygnus Enterprises unter die Lupe genommen haben.
Von Spieleinhalten, die rein auf der Rechenleistung von KI basiert, kann man halten, was man will und die Meinungen könnten nicht unterschiedlicher sein; zwischen Befürchtungen vor Einheitsbrei bis hin zu Hoffnungen auf Innovation ist alles vertreten. Aber auch abseits der kreativen Entwickler-Federn findet KI Einsatzgebiete im Gaming, die weniger kontrovers diskutiert werden - auch, weil kaum jemand um sie weiß. Im Interview mit Maria Laura Scuri, VP of Product bei den ESL Faceit Group Laps, erfahren wir, dass die Matchmaking-Plattform schon seit Jahren auf KI setzt, um Spieler-Chats zu moderieren - die erste Implementierung fand 2019 statt. Faceit ist vor allem bekannt dafür, dass man darüber hochrangige Counter-Strike-Matches spielen kann und 2018 haben sie ein offizielles Turnier mit einem Preisgeld von einer Million Dollar gehostet.
Auch andere Spiele findet man in ihrem Portfolio, etwa Rocket League, Splatoon 3, Valorant und FIFA - bei so einer Menge an Auswahl finden sich so auch zahlreiche Spieler zusammen, die viele Nachrichten austauschen. Wie man das Internet kennt, fallen die Chats selten durch ihre ausgeprägte Freundlichkeit auf, eine Moderation ist also unabdingbar.
Die findet zum Teil durch Menschen statt, allerdings nur zur Unterstützung der moderierenden KI Minerva, die monatlich rund zehn Millionen Nachrichten kontrolliert. Ein ganzer Haufen also, der ohne Algorithmen gar nicht mehr zu überblicken wäre.
Und ohne Menschen im Hintergrund würde es auch gar nicht gehen, denn der Algorithmus braucht viel Pflege. Mit einmal Aufsetzen der KI ist es in direkter Maschine-Mensch-Kommunikation nämlich nicht getan, wie Maria erklärt, dafür sind die dahinter liegenden Systeme einfach zu komplex.
Die Erfindung eines Moderators
Wenn man eine KI damit beauftragt, menschliche Nachrichten zu moderieren, muss man ihr verschiedene Sprachebenen näherbringen. Allerdings funktionieren künstliche Intelligenz nur dann wirklich gut, wenn sie nur eine einzige Sache können müssen.
Laut Maria braucht es für komplexe Aufgaben mehrere KIs, die man hintereinander schaltet. Eine ist dann zum Beispiel darauf trainiert, in Voice-Chats Gespräche von zum Beispiel Musik zu unterscheiden, eine andere erkennt Rassismus.
Die einzelnen Algorithmen finden dann auf einer zweiten Ebene zusammen und müssen erneut trainiert werden. Da geht es laut Maria darum, dass die KI lernt, dass es einen Unterschied macht, wie die Spieler in Matches gelangen. Betreten Gruppen zusammen ein Match, handelt es sich vermutlich um Freunde, die sehr viel bissiger miteinander umgehen können, ohne dass die KI als Moderator eingreifen soll.
Auch Religionsgemeinschaften zensieren und das auch schon sehr lange. Auch auf der Wikipediaseite finden wir den Hinweis auf das privatwirtschaftliche. Zensur und Zensieren ist mitnichten ein Begriff nur für den Staat. Und ja, ich denke die Beispiele in Bezug auf Foren können durchaus in den Bereich der Zensur fallen.
Und wenn's um die Mondlandung geht, fragen wir dann Boris Becker, oder wie?
Wie kommst du darauf? Kritikwürdig, sicher. Aber gesetzeswidrig?
Rechtswidrige Inhalte sind nicht von der Meinungsfreiheit gedeckt. Man kann sie frei äußern, muss dann aber auch die Konsequenzen in Kauf nehmen. Es wäre sicher produktiver, wenn solche Poster direkt belangt werden könnten. Den Anbieter zur Rechenschaft zu ziehen, praktischer, sorgt zu Übervorsichtigkeit, da stimme ich zu.
Aber was ist die Alternative, außer jede Person online individuell identifizierbar, also belangbar, zu machen? Kann ich drauf verzichten. :|
Es sind zur Impfung viele wissenschaftliche Studien zu finden. Die auch sehr wenig Presse bekommen.
Wie kommst du darauf? Kritikwürdig, sicher. Aber gesetzeswidrig?
Und wenn's um die Mondlandung geht, fragen wir dann Boris Becker, oder wie?
https://i.imgur.com/YxCQFB8.png
Kurz gesagt, Chats und Foren sind keine öffentlichen Plätze, sondern ein privates Angebot. Man ist gerne eingeladen, sich zu äußern. Und man ist gerne ausgeladen, wenn das nicht nach den gegebenen Regeln geschieht.
Rechtlich ist das felsenfest verankert; Artikel 2 schlägt Artikel 5. ;)
(Telepolis: Meinungsfreiheit und das Hausrecht - [Ins Forum, um diesen Inhalt zu sehen])
Zum Thema Zensur: Der Staat darf nicht zensieren. Kleines, wichtiges Detail.
Und je größer die Plattform, desto eher wird eine KI oder auch ein Mensch im Zweifel erst mal lieber zensieren als etwas stehen zu lassen, was als Hatespeech ausgelegt werden könnte.
Meiner Ansicht nach, würde man der Gesellschaft vielleicht mehr einen Gefallen tun, hier einen neuen Ansatz zu finden, der eine Zensur weniger oft notwendig macht. In der Regel reicht ja schon eine politische Ausrichtung eines Moderators oder Plattformbetreibers um an bestimmten Themen und Worten Anstoß zu finden und diese als zensierende Inhalte zu klassifizieren. Das wird auch durch KI nicht besser werden, aber so einen Idealweg habe ich dazu bisher auch noch nicht ergründen können.
Foren haben bestimmte Ausrichtungen und Leitlinien, was als Inhalt erwünscht ist und was nicht.
So ist es dann zB in einem Gamingforum untersagt, über Raubkopien und Umgehung von Kopierschützen zu reden; in einem veganen Forum könnten Threads über Grillparties mit Fleisch zugemacht werden; in einem Naziforum würden Threads gelöscht, die sich für-welche-Minderheit-auch-immer aussprechen; und in einem Bänker-Forum würden sämtliche Beiträge gegen den Kapitalismus entfernt.
Das alles ist keine Zensur, denn Zensur ist eine staatliche Beschränkung der Meinungsäußerung, deren Umgehung mit einer rechtlichen Strafe verbunden ist. (Einzige potentielle Ausnahme ist die "vorauseilende Selbst-Zensur", die allerdings auch die staatliche Beschränkung als Auslöser hat)
Ich erkenne schon die Vorteile solcher Regeln an, aber ich zweifele hin und wieder dran, ob man an mancher Stelle nicht zu weit geht. Nicht jeder ist sich immer die Konsequenzen seines Handelns bewusst. Ein Sperre oder Zensur radikalisiert Menschen vielleicht eher anstatt dass man hier wirklich durch irgend eine Art von Betreuung einen Lerneffekt auslösen könnte. Das ist aber alles ein rein philosophischer Standpunkt und keine Kritik am System selbst.