「悪質なボイスチャットを検出するシステムを開発中」とVALORANTの開発者が明かす、人気配信者の永久BANを受け

悪質な発言が問題視されるVALORANTですが、「悪質なボイスチャットを検出するシステム」を開発中であることが、VALORANTの開発者の発言から明らかになっています。

先日、YouTubeのチャンネル登録者数700万人超を誇る人気配信者"IShowSpeed"が差別的発言を配信上で連呼し、VALORANT含むRiot Gamesの全タイトルからBANされたことが明らかになりましたが、Twitterに寄せられた「彼だけでなく、報告されたユーザー全員を永久BANをしてほしい」のコメントに対し、VALORANTのゲームプロデューサーを務めるSara Dadafshar氏が反応。以下のように回答しています。

私たちは間違いなくその問題に取り組んでいます！音声関連の情報を検出することは非常に難しいのですが、私たちはそれらを検出するシステムの開発に取り組んでいます。現状のシステムは、レポート機能に大きく頼っている面があります。

We’re definitely trying! It’s hard to catch voice related stuff sometimes :( but we are working on tech to make it detect and do all this for us. Right now we rely heavily on reports and people raising these up to us.

— 🌱 Sara Dadafshar (@npcSara) April 7, 2022

今年3月に公開されたパッチ4.05のPBE（パブリックベータ環境）では悪質行為を防ぐボイスチャット検出機能のテスト版を実装しましたが、パッチ4.05では正式に実装されていません。同氏は上記の質問回答後にTwitterを更新し、音声検出機能実装の難しさ、そして現状のシステムでは報告機能を活用していただくことがより良い環境に繋がる近道と語っています。

音声検出機能について、2つの注意点があります。まず、悪質音声の検出は非常に難しいです。そして、多くの言語と発音を考慮する必要があります。

適切な技術を導入するまでは、ゲームをプレイする皆様の報告に大きく頼っている面があります。そして、関連する動画やクリップがある場合は、インターネット上に公開してみてください。私たちはそのような動画を常に監視していると約束します。

A couple things to note:
Voice moderation is HARD. There’s so many languages & accents to take into consideration. We heavily rely on reports to action against players until we get the proper tech in place. If there’s clips, continue to circulate. I promise we are looking at them

— 🌱 Sara Dadafshar (@npcSara) April 7, 2022

今年1月には1ヵ月で4万アカウント以上を悪質なコミュニケーションで停止処分したことを明らかにしており、悪質な行為に対して断固たる措置を取り開発を進めるRiot Gamesですが、今後の取り組みと対策に注目が集まります。