Singkatnya: Banyak spekulasi bermunculan mengenai kemungkinan manfaat teknologi seperti AI generatif dan pembelajaran mesin terhadap video game. Meskipun rekonstruksi gambar telah terbukti berguna dan AI generatif dilaporkan telah memasuki proses produksi, analisis berbasis AI telah mulai memengaruhi moderasi obrolan suara di ruang game kompetitif.
Activision Blizzard melaporkan bahwa paparan obrolan suara beracun di Call of Duty telah menurun sebesar 43 persen sejak awal tahun ini. Penerbit memuji penerapan moderasi berbasis AI baru-baru ini atas hasilnya, yang meyakinkan mereka untuk memperluas penggunaannya ketika Call of Duty: Black Ops 6 diluncurkan pada 25 Oktober.
Penerbit memperkenalkan moderatornya, ToxMod, saat meluncurkan Call of Duty: Modern Warfare III November lalu. Menurut situs ToxMod, sistem menganalisis transkrip teks obrolan suara dalam game dan mendeteksi kata kunci berdasarkan berbagai faktor.
Untuk membedakan antara pembicaraan sampah dan pelecehan, ToxMod memantau kata kunci dan reaksi terhadap komentar, mengenali emosi pemain dan memahami kode etik permainan. Selain itu, sistem memperkirakan usia dan jenis kelamin pembicara dan penerima untuk memahami konteks setiap percakapan dengan lebih baik.
ToxMod tidak dapat melarang siapa pun sendirian, namun dapat dengan cepat menandai pelanggaran untuk ditinjau oleh moderator manusia. Activision kemudian memutuskan apakah akan memperingatkan atau membisukan pemain, hanya mengeluarkan larangan setelah pelanggaran berulang kali. Jumlah pelaku berulang di Modern Warfare III dan Call of Duty: Warzone turun 67 persen sejak Activision menerapkan perbaikan pada Juni 2024. Pada bulan Juli saja, 80 persen pemain yang kedapatan melanggar aturan obrolan suara tidak melakukan pelanggaran lagi.
Semua wilayah kecuali Asia saat ini mendukung ToxMod, dan Call of Duty menggunakan sistem tersebut untuk memoderasi obrolan suara dalam bahasa Inggris, Spanyol, dan Portugis. Saat Black Ops 6 diluncurkan, Activision akan menambahkan dukungan untuk bahasa Prancis dan Jerman.
Sementara itu, moderasi nama pengguna dan obrolan berbasis teks diperluas dari 14 menjadi 20 bahasa pada bulan Agustus. Community Sift telah menjadi mitra moderasi teks Call of Duty sejak game reboot Modern Warfare pertama diluncurkan pada tahun 2019, memblokir 45 juta pesan sejak Modern Warfare III dirilis pada bulan November.
Penggunaan AI untuk memoderasi perilaku pemain tidak terlalu kontroversial dibandingkan penggunaan teknologi untuk aset dalam game. Akhir tahun lalu, karya seni yang dihasilkan AI muncul di skin konten untuk Modern Warfare III. Di tengah banyaknya PHK di industri game yang terjadi pada masa itu, beberapa penerbit khawatir akan mencoba mengganti artis dengan model AI.
