Xbox hat gestern den dritten Transparency Report veröffentlicht. Dieser bietet Einblicke und Daten über die Bemühungen von Xbox, eine sichere und inklusive Umgebung für Gamer*innen zu schaffen. Dazu gehört unter anderem die Kombination von menschlichen und KI-basierten Einflüssen, die auf unserer bisherigen Arbeit aufbaut.
Xbox verfolgt weiterhin das Ziel, allen Spieler*innen eine sichere und inklusive Plattform zu bieten. Dafür setzt Xbox präventive Maßnahmen ein, um unerwünschte Inhalte oder Verhaltensweisen auf der Plattform zu begrenzen. Rund 87 Prozent (17,09 Mio.) der gesamten Durchsetzungsmaßnahmen in diesem Zeitraum resultieren aus unseren proaktiven Moderationsbemühungen.
Die Highlights aus dem Report (Januar bis Juni 2023):
- Der verantwortungsvolle Einsatz von KI zur Vermeidung von unangemessenem Verhalten: Wir nutzen KI-Modelle wie Community Sift und Turing Bletchley v3 zur Erkennung schädlicher Inhalte. Community Sift basiert auf menschlichen Erkenntnissen und analysiert Milliarden menschlicher Interaktionen zur Verbesserung der Sicherheit auf Xbox. Turing Bletchley v3 ist ein mehrsprachiges Modell, das nutzergenerierte Bilder scannt, um die Anzeige angemessener Inhalte sicherzustellen.
- Neue Erkenntnisse zur Anzahl der blockierten Inhalte: Um unseren Erfolg bei der Verhinderung schädlicher Inhalte zu messen, haben wir einen neuen Datensatz namens „Toxicity Prevented“ eingeführt. In einem kürzlich gemessenen Zeitraum wurden über 4,7 Millionen Inhalte blockiert, bevor sie die Spieler*innen erreichen konnten, was einem Anstieg von 135.000 (+39% im Vergleich zum vorherigen Zeitraum) bei visuellen Inhalten entspricht. Dieser Erfolg wurde durch die Verwendung des neuen Turing Bletchley v3 Foundation-Modells ermöglicht.
- Gesteigertes Engagement im Umgang mit Belästigungen: Xbox arbeitet aktiv daran, jegliches missbräuchliche Verhalten, einschließlich Hatespeech, Mobbing und Belästigung, zu erkennen und zu bekämpfen. Zu diesem Zweck wurden die internen Prozesse verbessert, um die proaktiven Durchsetzungsmaßnahmen zu fördern. So wurden 84k proaktive Durchsetzungsmaßnahmen gegen Belästigung/Mobbing erlassen (+95 % gegenüber dem letzten Zeitraum).
- Verständnis des Verhaltens der Spieler*innen: Unsere Bemühungen zur transparenteren Kommunikation unserer Community-Standards umfassen verschiedene Maßnahmen: Eine davon besteht darin, das Verhalten der Spieler*innen nach Erteilung von Ermahnungen zu analysieren. Erste Erkenntnisse deuten darauf hin, dass die Mehrheit der Spieler*innen die Community-Standards nach einer Ermahnung nicht verletzen und sich positiv in der Community engagieren.
Weitere Details zu den kürzlich eingeführten Sicherheitsmaßnahmen von Xbox findest Du hier.
