Die weltweit beliebte Call of Duty-Reihe wagt sich in die trüben Gewässer der Voice-Chat-Zensur und setzt dabei auf KI-Technologie. Activision, das Unternehmen hinter der Serie, hat eine einzigartige Partnerschaft mit dem KI-Technologielieferanten Modulate angekündigt, um die Giftigkeit von Chats im Spiel einzudämmen.
Dieser rigorose Ansatz sieht die Integration von ToxMod, dem proprietären Sprachmoderations-Tool von Modulate, in Modern Warfare 2, Warzone 2 und das erwartete Modern Warfare 3 vor.
Während Zensurbefürworter diese Nachricht begrüßen werden, sehen Verfechter der Meinungsfreiheit darin ein weiteres Beispiel dafür, wie Big Tech die digitale Leine enger zieht. Sie könnten argumentieren, dass die Anwendung einer solchen KI-Zensur den Geist der freien Meinungsäußerung untergraben und es den großen Unternehmen ermöglichen könnte, ihre Nutzer zu manipulieren und zu überwachen.
ToxMod, das diese Woche in die Betaphase eintritt, soll in der Lage sein, “toxische Sprache” zu erkennen und zu kontrollieren – ein Oberbegriff, den Activision verwendet, um sogenannte Hassreden, Belästigungen und eine Vielzahl diskriminierender Äußerungen zu beschreiben.
Es ist jedoch wichtig zu erwähnen, dass es sich hierbei um einen Meilenstein handelt, da es sich um das erste dedizierte und proaktive Voice-Chat-Moderationstool handelt, das speziell für Spiele entwickelt wurde.
Der neue KI-basierte Sheriff von Call of Duty, ToxMod, wird vorerst nicht die Macht haben, Spieler zu verbannen. Seine Funktion ist rein beobachtend und zielt darauf ab, potenzielle Verstöße zu identifizieren und zu melden.
Wenn der Voice-Chat einer Person Gegenstand einer Beschwerde ist, wird ein Mensch das Urteil fällen, bevor eine Strafe verhängt wird, so dass ein gewisser Spielraum für menschliches Ermessen bleibt.
Der entscheidende Punkt ist, dass ToxMod den Anspruch erhebt, über den eigentlichen Text hinaus auf den Tonfall und die Absicht zu achten. Der Umfang der Sprachinterpretation wird ein interessantes Experiment sein, das mit vielen Versprechungen angepriesen wird, ähnlich wie bei einigen anderen KI-Unternehmen.
Weltweit wird das ehrgeizige ToxMod-Projekt mit der Veröffentlichung von Modern Warfare 3 am 10. November in Call of Duty eingeführt, zunächst für die englischsprachige Moderation, mit Plänen, es später auf andere Sprachen auszuweiten. Es bleibt abzuwarten, was dieses Projekt wirklich leisten kann und welche Auswirkungen es auf Meinungsfreiheit und Zensur haben wird.
