Digitale Tarnung für Hass: Was KI nicht erkennt, bleibt online

Digitale Tarnung für Hass: Was KI nicht erkennt, bleibt online - Mit dem sogenannten "Leetspeak", auch bekannt als "1337" oder "Leet" geben User ihrem Alias einen rechtsextremen Spin. So wird dann Hitler zu H1tl4r umbenannt. Für KI ist die Bedeutung nicht zu erfassen, für Menschen aber offensichtlich. An diesem Beispiel zeigt sich, dass es den Playern in der Branche vor allem an Personal mit Haltung fehlt.

Mick Prinz kritisiert, dass oftmals als erstes beim Moderationsteam und Community-Managern gespart wird. Zu wenige Mitarbeitende müssten wachsenden Communities gerecht werden. Künstlicher Intelligenz (KI) fehlt es an menschlicher Haltung. Automatisierte Systeme scheitern oft in der Praxis an Leetspeak, Ironie, Meme-Codes - all das unterläuft die KI-Filter problemlos. Hier wird deutlich, dass Technik keine (menschliche) Haltung ersetzen kann und Unternehmen an der falschen Stelle sparen, wenn sie Mitarbeiter im Community Management durch Algorithmen ersetzen.

Warum sich Rechtsextreme im Gaming so wohlfühlen

Quelle: Timon stock.adobe.com Rechtsextremismus im Gaming: Wie die Industrie oft wegschaut (2)

Mick Prinz von Good Gaming - Well Played Democracy macht drei Faktoren dafür aus, dass sich Rechtextreme auf Gaming Plattformen wie Roblox und Steam wohlfühlen:

1. Die mangelnde Moderation auf Plattformen: Langsame und spärliche Moderation oder Einsparungen in den Moderationsteams. So sind die Hürden gleich von Beginn an relativ niedrig.
2. Das toxische Grundrauschen: Es gibt in vielen Spielen eine Ellenbogen-Mentalität und einen eher rauen Ton. Oftmals herrsche eine aufgeladene und nicht selten beleidigende Sprache. Diese Sprache fördere ein Klima, in dem Rechtsextreme sich weniger Sorgen machen müssten, wenn sie ihre Inhalte teilten.
3. Die mangelnde Gegenwehr: Äußert sich eine Person diskriminierend, gebe es wenig bis keine Gegenwehr als in anderen Bereichen der digitalen Welt.

Hinzu kommt, dass viele Debatten, die rund ums Gaming geführt wurden, auch immer sehr aufgeladen waren. Ob es um die Killerspieldebatte ging, die zwischen 2002 bis 2009 nach den Amokläufen in Erfurt, Emsdetten und Winnenden um gewalthaltige Shooter aufkam oder die Gamergate-Kontroverse die 2014 um Zoë Quinn begann. Spieler reagieren gereizt, wenn es die vermeintliche Politisierung ihres Hobbys geht. Dabei waren und sind Spiele nie unpolitisch. Laut Mick Prinz funktioniere es gut, sich dem Narrativ Get politics out of my game! anzuschließen.

Nicht alles schlecht - es gibt auch positive Entwicklungen

Trotz problematischer Entwicklungen gibt es auch Positives. Die Berichterstattung nimmt zu, sachlicher und ohne die Polemik früherer Debatten wie etwa bei den sogenannten Killerspielen. Außerdem merkt Prinz auch persönlich bei Good Gaming - Well Played Democracy, dass sich Spieleentwickler sich häufiger zu Darstellungen in Spielen beraten lassen. Auch Politiker sind offen für Beratung zu dem Thema. Die Entwicklung des Onlinedienstes Discord sieht er ebenfalls durchaus positiv.

Anm. d. Red.:
Das Projekt "Good Gaming - Well Played Democracy" der Antonio Amadeu Stiftung gibt es nicht mehr und läuft jetzt unter dem Namen "Good Gaming Support". Aktuell gibt es allerdings noch keine neue Internetpräsenz und so findet ihr alles Wissenswertes rund um die Projekte auf der Webseite, welche im Text genannt wird.

Lange Zeit stand Discord in der Kritik, zu wenig gegen rechtsextreme Server zu unternehmen. Extremisten sollen diese für die eigene Kommunikation und Einflussnahme auf Jugendliche genutzt haben. Prinz sieht jedoch eine positive Entwicklung und glaubt, dass die Plattform erkannt habe, wofür ihr Dienst auch missbraucht wird. Es habe in jüngster Vergangenheit immer wieder Bannwellen für rechtsextreme Server gegeben.

Artikel teilen

Rechtsextremismus im Gaming: Wie die Industrie oft wegschaut Rechte Gruppen nutzen Online-Games zur Verbreitung ihrer Ideologie und zur Rekrutierung. Dagegen unternimmt die Branche zu wenig. Aber auch Spieler sollten Haltung zeigen. Eine kommentierende Analyse von Autor Christoph Jaschinski.

Per E-Mail versenden

5

1. Seite 1 Rechtsextremismus im Gaming: Wie die Industrie oft wegschaut
2. Seite 2 Digitale Tarnung für Hass: Was KI nicht erkennt, bleibt online
3. Seite 3 Gegenwehr ist mühselig, aber notwendig!