Bisnis.com, JAKARTA— Pemerintah Malaysia memutuskan untuk memblokir sementara akses chatbotkecerdasan artifisial (AI) Grok mulai 11 Januari 2026.

Kebijakan ini diambil menyusul temuan penyalahgunaan Grok untuk menghasilkan konten tidak senonoh, termasuk materi seksual eksplisit dan gambar manipulasi tanpa persetujuan yang melibatkan perempuan serta anak-anak.

Melansir laman The Straits Times pada Senin (12/1/2026) Komisi Komunikasi dan Multimedia Malaysia (Malaysian Communications and Multimedia Commission/MCMC) menyatakan pemblokiran dilakukan setelah ditemukan pelanggaran berulang, meskipun regulator telah melakukan pendekatan dan mengirimkan peringatan resmi kepada platform media sosial X dan xAI, perusahaan pengembang Grok.

“MCMC telah mengeluarkan pemberitahuan kepada X dan xAI pada 3 dan 8 Januari, menuntut, antara lain, penerapan perlindungan teknis dan moderasi yang efektif untuk mencegah konten yang dihasilkan AI yang dapat melanggar hukum Malaysia, termasuk Section 233 Communications and Multimedia Act,” tulis MCMC dalam pernyataan resmi pada 11 Januari 2026.

Namun demikian, regulator menilai tanggapan X yang disampaikan pada 7 dan 9 Januari belum memadai karena masih mengandalkan mekanisme pelaporan berbasis pengguna dan belum mengatasi risiko yang melekat pada desain serta pengoperasian alat AI tersebut.

Menurut MCMC, pendekatan tersebut tidak cukup untuk mencegah potensi bahaya maupun memastikan kepatuhan terhadap peraturan yang berlaku.

MCMC menegaskan pembatasan akses Grok diterapkan sebagai langkah pencegahan yang proporsional selama proses hukum dan regulasi berjalan.

Akses terhadap chatbot tersebut akan tetap dibatasi hingga pengembang dapat menerapkan pengamanan yang efektif, khususnya untuk mencegah konten yang melibatkan perempuan dan anak-anak.

Regulator Malaysia juga menyatakan tetap membuka ruang dialog dengan X dan xAI, dengan syarat adanya bukti kepatuhan terhadap hukum nasional.

“Masyarakat diimbau untuk segera melaporkan konten daring yang berbahaya kepada MCMC dan, jika perlu, mengajukan laporan polisi kepada pihak kepolisian,” tulis MCMC.

Langkah Malaysia tersebut mengikuti kebijakan Pemerintah Indonesia, yang sebelumnya menjadi negara pertama di dunia melakukan pemutusan akses sementara terhadap Grok.

Kebijakan ini diambil setelah ditemukannya penyalahgunaan teknologi Grok untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake.

Langkah tersebut ditempuh sebagai bagian dari upaya perlindungan masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital. Menteri Komunikasi dan Digital Meutya Hafid menegaskan praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).

Menurut Meutya, ruang digital tidak dapat dibiarkan berkembang tanpa pengawasan hukum. Pemerintah menilai penyalahgunaan AI untuk menghasilkan konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, serta nilai-nilai kemanusiaan.

Selain pemutusan akses sementara, Kementerian Komunikasi dan Digital juga meminta X selaku pengelola platform untuk memberikan klarifikasi serta bertanggung jawab atas dampak penggunaan teknologi tersebut. Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait. Kebijakan ini mengacu pada kewenangan pemerintah sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat atau memfasilitasi konten yang dilarang oleh hukum Indonesia.

Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah pemerintah tersebut tepat dan patut diapresiasi, terutama karena Indonesia menjadi pelopor dalam memastikan keamanan platform digital.

Menurut Alfons, apabila suatu platform terbukti menimbulkan ancaman serius terhadap perempuan dan anak melalui eksploitasi pornografi digital, pemutusan akses merupakan langkah yang wajar.

“Jika ancamannya sudah nyata, terutama bagi perempuan dan anak, tetapi tidak diambil tindakan, siapa yang akan bertanggung jawab atas dampak mental dan moral yang ditimbulkan?” ujar Alfons saat dihubungi, Minggu (11/1/2026).

Dia menegaskan penyedia platform digital tidak dapat semata-mata berorientasi pada keuntungan bisnis tanpa memperhatikan nilai moral, etika, serta kepatuhan terhadap hukum di negara tempat beroperasi.

“Setiap negara memiliki nilai dan standar yang berbeda. Apa yang dianggap wajar di negara lain belum tentu sesuai dengan norma di Indonesia. Platform global tidak bisa menerapkan satu standar untuk semua negara,” katanya.

Alfons juga membandingkan Grok dengan sejumlah platform AI lain yang dinilai telah menerapkan sistem pengamanan lebih ketat terhadap konten sensitif, sehingga tidak mudah disalahgunakan melalui perintah sederhana.

Pemutusan akses terhadap Grok pun menjadi penanda penguatan pengawasan teknologi kecerdasan artifisial di Indonesia, sekaligus menegaskan inovasi teknologi harus berjalan seiring dengan tanggung jawab sosial serta perlindungan hak-hak warga negara.