Wie KI für Ruhe sorgt: Faceit geht gegen toxische Spieler vor
KI macht in der Gamingwelt immer mehr von sich reden, kommt im Hintergrund aber schon seit Jahren zum Einsatz.
Jede Machine-Learning-Stufe braucht dafür Tausende von Beispielen, um zuverlässige Ergebnisse zu liefern. Dafür braucht es Daten, die im besten Falle alle richtig sind, nicht das Urheberrecht Dritter verletzen und tatsächlich auch Toxizität abbilden - das muss die KI schließlich erkennen. Was Toxizität dabei genau ist, legt ESL Faceit laut Maria zusammen mit der Community fest, denn jeder versteht etwas anderes darunter: Was für den einen schon eine Beleidigung darstellt, ist für den anderen noch blödes Rumgealbere.
Außerdem befindet sich Sprache stets im Wandel, wie Maria anmerkt: "Alle paar Monate gehen wir die Datensets neu durch." Denn Umgangssprache, Memes oder gängige Witze versteht die KI beim ersten Hören nicht: "Spieler können die Entscheidungen anfechten, dann gehen sie an Menschen und die können alles rückgängig machen, was die KI entschieden hat. So lernt der Algorithmus gleichzeitig."
Keine KI ist perfekt
Gleichzeitig verhindert man durch das ständige Warten, dass die KI Vorurteile gegen bestimmte Gruppen entwickelt und zum Beispiel rassistisch wird. Das kann etwa passieren, wenn viele Nutzer einer bestimmten Sprache auffälliges Verhalten zeigen, dann wirft die KI irgendwann alle betreffenden in einen Topf, statt bei jeder Person einzeln abzuwägen.
Ein ähnliches Phänomen demonstrierte Microsoft 2016 äußerst anschaulich mit dem Chatbot Tay, der mit gezielten Eingaben von Internettrollen unvorhergesehene Stellungnahmen von sich gab.
In kürzester Zeit sprach sich die zuvor unbedarfte KI auf X, ehemals Twitter, gegen das Judentum aus, forderte einen Rassenkrieg, stellte sich an die Seite von Hitler und schimpfte Feminismus eine Krankheit - bevor Microsoft den Bot schließlich entfernte.
Am Ende muss man als Entwickler einer KI abwägen, was einem wichtiger ist, wie Maria uns erklärt: eine strenge KI, die auch Verhalten meldet, das eigentlich noch ok ist, oder eine lasche KI, die viel durchrutschen lässt. Bei Faceit hat man sich für die zweite Variante entschieden: Der Algorithmus meldet zwar trotzdem noch harmlose Nachrichten als falsch, der Fehlerquotient liegt aber unter einem Prozent.
Ein stetes Abwägen
Das heißt im Umkehrschluss aber auch, dass die KI manche Nachrichten nicht erkennt und flaggt. Schaut man sich das Feedback der Nutzer in den zugehörigen Foren an, findet man dementsprechend viel Kritik:
Alles, was nicht englisch ist, wird sehr schlecht erkannt, auch wenn es klare Verstöße gegen die Richtlinien sind - andere Nutzer empfinden den Algorithmus namens Minerva als willkürlich und beschweren sich, dass das Tool nicht ausgereift sei.
Aber es ist keine Neuigkeit, dass Nutzer eher bereit sind, negatives Feedback von sich zu geben als lobende Worte und tatsächlich zeigen die Umfrage-Ergebnisse ein anderes Stimmungsbild. Vor der Veröffentlichung von Minerva 2018 war Toxizität mit 30 Prozent auf Platz eins der Probleme, die Spieler wahrnahmen.
Bis 2022 verringerte sich der Wert auf 20 Prozent und Toxizität nimmt nur noch Platz fünf ein bei der Frage, was Spieler auf der Matchmaking-Plattform als problematisch sehen. Natürlich ist das immer noch ein hoher Wert und das Problem ist lange nicht behoben, allerdings scheint der Schritt, den man an dieser Stelle mit KI geht, kein falscher zu sein.
Auch Religionsgemeinschaften zensieren und das auch schon sehr lange. Auch auf der Wikipediaseite finden wir den Hinweis auf das privatwirtschaftliche. Zensur und Zensieren ist mitnichten ein Begriff nur für den Staat. Und ja, ich denke die Beispiele in Bezug auf Foren können durchaus in den Bereich der Zensur fallen.
Und wenn's um die Mondlandung geht, fragen wir dann Boris Becker, oder wie?
Wie kommst du darauf? Kritikwürdig, sicher. Aber gesetzeswidrig?
Rechtswidrige Inhalte sind nicht von der Meinungsfreiheit gedeckt. Man kann sie frei äußern, muss dann aber auch die Konsequenzen in Kauf nehmen. Es wäre sicher produktiver, wenn solche Poster direkt belangt werden könnten. Den Anbieter zur Rechenschaft zu ziehen, praktischer, sorgt zu Übervorsichtigkeit, da stimme ich zu.
Aber was ist die Alternative, außer jede Person online individuell identifizierbar, also belangbar, zu machen? Kann ich drauf verzichten. :|
Es sind zur Impfung viele wissenschaftliche Studien zu finden. Die auch sehr wenig Presse bekommen.
Wie kommst du darauf? Kritikwürdig, sicher. Aber gesetzeswidrig?
Und wenn's um die Mondlandung geht, fragen wir dann Boris Becker, oder wie?
https://i.imgur.com/YxCQFB8.png
Kurz gesagt, Chats und Foren sind keine öffentlichen Plätze, sondern ein privates Angebot. Man ist gerne eingeladen, sich zu äußern. Und man ist gerne ausgeladen, wenn das nicht nach den gegebenen Regeln geschieht.
Rechtlich ist das felsenfest verankert; Artikel 2 schlägt Artikel 5. ;)
(Telepolis: Meinungsfreiheit und das Hausrecht - [Ins Forum, um diesen Inhalt zu sehen])
Zum Thema Zensur: Der Staat darf nicht zensieren. Kleines, wichtiges Detail.
Und je größer die Plattform, desto eher wird eine KI oder auch ein Mensch im Zweifel erst mal lieber zensieren als etwas stehen zu lassen, was als Hatespeech ausgelegt werden könnte.
Meiner Ansicht nach, würde man der Gesellschaft vielleicht mehr einen Gefallen tun, hier einen neuen Ansatz zu finden, der eine Zensur weniger oft notwendig macht. In der Regel reicht ja schon eine politische Ausrichtung eines Moderators oder Plattformbetreibers um an bestimmten Themen und Worten Anstoß zu finden und diese als zensierende Inhalte zu klassifizieren. Das wird auch durch KI nicht besser werden, aber so einen Idealweg habe ich dazu bisher auch noch nicht ergründen können.
Foren haben bestimmte Ausrichtungen und Leitlinien, was als Inhalt erwünscht ist und was nicht.
So ist es dann zB in einem Gamingforum untersagt, über Raubkopien und Umgehung von Kopierschützen zu reden; in einem veganen Forum könnten Threads über Grillparties mit Fleisch zugemacht werden; in einem Naziforum würden Threads gelöscht, die sich für-welche-Minderheit-auch-immer aussprechen; und in einem Bänker-Forum würden sämtliche Beiträge gegen den Kapitalismus entfernt.
Das alles ist keine Zensur, denn Zensur ist eine staatliche Beschränkung der Meinungsäußerung, deren Umgehung mit einer rechtlichen Strafe verbunden ist. (Einzige potentielle Ausnahme ist die "vorauseilende Selbst-Zensur", die allerdings auch die staatliche Beschränkung als Auslöser hat)
Ich erkenne schon die Vorteile solcher Regeln an, aber ich zweifele hin und wieder dran, ob man an mancher Stelle nicht zu weit geht. Nicht jeder ist sich immer die Konsequenzen seines Handelns bewusst. Ein Sperre oder Zensur radikalisiert Menschen vielleicht eher anstatt dass man hier wirklich durch irgend eine Art von Betreuung einen Lerneffekt auslösen könnte. Das ist aber alles ein rein philosophischer Standpunkt und keine Kritik am System selbst.