IKNPOS.ID – Platform game online populer Roblox resmi memperkenalkan Sentinel, sistem kecerdasan buatan (AI) yang diklaim mampu mendeteksi tanda-tanda awal potensi eksploitasi anak di percakapan online.
Langkah ini datang di tengah meningkatnya sorotan publik, kritik tajam, hingga gugatan hukum terkait praktik keamanan Roblox.
Bedanya dari teknologi sebelumnya? Sentinel tidak hanya fokus pada kata-kata terlarang di satu pesan saja, tapi menganalisis pola percakapan jangka panjang untuk mendeteksi perilaku mencurigakan.
Gratis dan Open Source, Bisa Dipakai Platform Lain
Salah satu poin menarik, Roblox memutuskan membuka Sentinel secara gratis dan open source. Artinya, platform lain bisa mengintegrasikannya langsung ke sistem moderasi mereka.
Dengan lebih dari 111 juta pengguna aktif bulanan dan sekitar 6 miliar pesan chat per hari, Roblox berharap langkah ini akan menjadi standar baru dalam keamanan digital untuk anak.
Bagaimana Cara Kerja AI Sentinel?
Menurut Matt Kaufman, Chief Safety Officer Roblox, sistem lama hanya memblokir kata atau frasa tertentu di satu pesan.
Namun, kasus grooming atau eksploitasi anak sering kali terjadi secara bertahap, lewat interaksi yang berlangsung berhari-hari bahkan berminggu-minggu.
Untuk itu, Sentinel memproses cuplikan percakapan berdurasi satu menit, lalu membandingkannya dengan dua indeks besar:
Indeks Chat Aman → berisi contoh percakapan yang normal dan tidak berbahaya.
Indeks Pelanggaran → berisi chat yang melanggar pedoman keamanan anak.
Setiap kali menemukan pola baru dari pelaku, indeks akan diperbarui secara otomatis sehingga AI terus belajar.
Monitoring Perilaku, Bukan Hanya Kata
Naren Koneru, VP Engineering Trust & Safety Roblox, menjelaskan bahwa Sentinel mengamati tren perilaku pemain, bukan sekadar kata-kata yang diketik.
“Kalau hanya satu pesan, sistem tidak langsung menandai. Tapi kalau pola interaksi sehari-hari mengarah ke perilaku berisiko, baru akan dianalisis lebih lanjut,” ujarnya.
Jika terindikasi mencurigakan:
