IKNPOS.ID – Indonesia mengambil langkah tegas dengan menjadi negara pertama di dunia yang memblokir akses terhadap AI Grok, fitur kecerdasan buatan (AI) yang dikembangkan oleh platform media sosial X.
Keputusan ini diambil sebagai respons terhadap temuan praktik deepfake seksual non-konsensual yang dianggap sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital.
“Pemutusan akses AI Grok dilakukan sebagai langkah preventif untuk mencegah potensi penyebaran konten berbahaya, terutama yang tidak ramah anak dan berpotensi mengancam keselamatan perempuan di ruang siber,” demikian pernyataan resmi Kementerian Komunikasi dan Informatika (Kominfo).
Tak lama setelah Indonesia mengambil tindakan tegas, pemerintah Malaysia juga resmi menangguhkan akses terhadap chatbot AI Grok.
Keputusan ini diambil setelah regulator teknologi setempat menemukan penyalahgunaan layanan untuk menghasilkan konten pornografi berbasis AI.
Gelombang Kecaman Global
Langkah Indonesia dan Malaysia ini menyusul gelombang kritik global terhadap fitur pembuatan gambar Grok yang dinilai memungkinkan manipulasi foto perempuan dan anak-anak menjadi konten seksual hanya melalui perintah teks sederhana.
Sejumlah pejabat Uni Eropa serta aktivis teknologi juga menyuarakan kecaman terhadap Grok.
Kominfo menegaskan bahwa kebijakan pemblokiran AI Grok bukan untuk menghambat inovasi teknologi, melainkan untuk memastikan pemanfaatan kecerdasan buatan tetap berjalan sesuai norma hukum dan nilai sosial yang berlaku.
Dengan kebijakan ini, Kominfo menegaskan komitmen Indonesia dalam menciptakan ekosistem digital yang aman, sehat, dan melindungi kelompok rentan, khususnya perempuan serta anak-anak.
Pemblokiran AI Grok di Indonesia dan Malaysia menjadi preseden penting bagi negara-negara lain yang menghadapi masalah serupa.
Langkah ini menunjukkan pemerintah memiliki kewajiban untuk melindungi warganya dari potensi bahaya yang ditimbulkan oleh teknologi AI. Terutama yang terkait dengan konten pornografi dan deepfake seksual.
