IKNPOS.ID – Roblox Corporation memperkenalkan sebuah sistem kecerdasan buatan bernama Sentinel. Teknologi ini dirancang untuk mendeteksi dan mencegah eksploitasi anak secara dini di dalam platform Roblox. Sentinel dinilai penting untuk segera diperkenalkan menyusul kekhawatiran global akan keamanan anak di dunia virtual.
Vice President of Engineering, Safety Naren Konery dan Eleonore Vonck, menjelaskan Sentinel merupakan sistem berbasis AI canggih yang mampu membaca pola perilaku berbahaya dengan akurasi tinggi.
Bagaimana Sentinel Bekerja?
Sentinel menggunakan metode contrastive learning, sebuah pendekatan dalam machine learning yang melatih model untuk membedakan antara interaksi positif dan negatif dalam obrolan pengguna.
Sistem ini tidak hanya membaca kata per kata, tetapi memetakan konteks dengan membuat embedding, representasi matematis dari potongan obrolan. Ini agar AI bisa memahami makna di balik kata.
Ada dua indekutama yang dikembangkan
Positive Index, yang mencerminkan interaksi wajar seperti ajakan bermain atau bersosialisasi sehat.
Negative Index, yang menyimpan contoh dari potensi grooming, eksploitasi, atau bahasa manipulatif.
Dengan menggunakan teknik embedding tersebut, AI Sentinel membandingkan obrolan baru dengan dua indeks tersebut. Jika obrolan mulai menyerupai pola-pola dalam Negative Index, sistem akan mengirim peringatan ke tim Trust & Safety Roblox untuk ditindaklanjuti.
Tak hanya itu, Sentinel mampu melakukan pattern tracking secara real-time, melacak perilaku jangka panjang pengguna yang mungkin mencoba menyamarkan niat buruknya.
Perlindungan untuk Anak dan Orang Tua
Sentinel hadir sebagai bagian dari komitmen Roblox dalam melindungi 70 juta pengguna hariannya, mayoritas adalah anak-anak dan remaja. Teknologi ini memberikan lapisan keamanan tambahan, sekaligus menjadi alat bantu bagi orang tua dan komunitas untuk merasa lebih aman.
Langkah ini juga diharapkan menjadi penangkal kritik, terutama dari kalangan pemerhati anak dan regulator yang mempertanyakan keamanan dunia virtual. Roblox Sentinel bukan hanya filter kata kotor biasa, ini adalah sistem observasi cerdas yang memetakan niat, bukan sekadar teks.
