Perusahaan menyebut pendekatan sistem AI moderasi obrolan Roblox ini sebagai “setir, bukan tanda berhenti”. Artinya, sistem membantu mengarahkan pengguna tanpa langsung menghentikan percakapan.
Rajiv Bhatia, Wakil Presiden Produk Pengguna dan Penemuan Roblox, mengatakan bahwa komunikasi merupakan inti dari pengalaman bermain di platform tersebut. Karena itu, keamanan pemain Roblox menjadi prioritas utama.
Sistem baru ini dirancang untuk melindungi komunitas besar Roblox yang memiliki sekitar satu juta pengguna aktif harian. Mayoritas pemain di platform tersebut diketahui berusia di bawah 16 tahun.
Data awal menunjukkan moderasi chat AI Roblox mampu mendeteksi hingga 20 kali lebih efektif dalam mencegah upaya berbagi data sensitif seperti nomor telepon atau akun media sosial dibandingkan filter lama.
Selain itu, sistem keamanan pemain Roblox ini dapat digunakan di semua bahasa yang tersedia melalui teknologi terjemahan otomatis di dalam platform.
Pengembangan fitur chat Roblox ini juga melanjutkan strategi moderasi yang mulai diperkenalkan pada Mei 2025. Saat itu, Roblox meluncurkan peringatan real time yang memberi tahu pemain ketika pesan mereka berpotensi melanggar aturan.
Hasil uji coba menunjukkan kebijakan tersebut berhasil menurunkan sekitar 5 persen pesan yang difilter serta mengurangi konsekuensi dari laporan penyalahgunaan hingga 6 persen.
