Bisnis.com, JAKARTA – Grok, chatbot kecerdasan buatan (artificial intelligence/AI) besutan Elon Musk, didera kritik global dan ancaman tindakan pemerintah setelah mampu merespons prompt pengguna di platform X dengan gambar bernuansa seksual, termasuk yang melibatkan anak di bawah umur.

Melansir Bloomberg, Minggu (4/1/2026), di Malaysia, otoritas menyatakan tengah menyelidiki konten visual yang dihasilkan Grok menyusul keluhan atas penyalahgunaan AI untuk memanipulasi citra perempuan dan anak-anak menjadi materi tidak senonoh, sangat ofensif, atau berbahaya.

Komisi Komunikasi dan Multimedia Malaysia menegaskan bahwa pembuatan maupun transmisi konten semacam itu merupakan pelanggaran hukum. Regulator juga akan menyelidiki pengguna X yang diduga melanggar aturan serta memanggil perwakilan perusahaan.

”Meski X belum berstatus penyedia layanan berlisensi di Malaysia, platform tersebut dinilai tetap memiliki kewajiban mencegah penyebaran konten berbahaya,” ungkap komisi tersebut.

Elon Musk menyatakan X menindak konten ilegal dengan penghapusan, penangguhan permanen akun, serta kerja sama dengan otoritas, termasuk konten yang berkaitan dengan anak di bawah umur.

Semua pengguna yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama beratnya dengan pelanggaran larangan mengunggah konten ilegal,” ungkap Elon Musk di X.

India menjadi negara terbaru yang menyuarakan kekhawatiran. Pemerintah India mengirim surat kepada X untuk memerintahkan evaluasi komprehensif Grok agar tidak menghasilkan konten bermuatan ketelanjangan, seksualisasi, materi eksplisit, atau konten melanggar hukum.

Platform diwajibkan menyerahkan laporan tindakan dalam 72 jam kepada Kementerian Elektronika dan Teknologi Informasi, dengan peringatan potensi sanksi pidana dan hukum TI. Pemerintah bahkan membuka opsi regulasi khusus atas konten AI yang tidak pantas di media sosial.

Di Eropa, Prancis menuding Grok menghasilkan konten seksual yang “jelas ilegal” tanpa persetujuan, yang berpotensi melanggar Digital Services Act Uni Eropa—aturan yang mewajibkan platform besar memitigasi risiko penyebaran konten ilegal.

Gambar-gambar bermasalah tersebut juga dinilai melanggar kebijakan penggunaan Grok sendiri yang melarang seksualisasi anak. Sejumlah konten telah diturunkan.

Dalam dua pekan terakhir, semakin banyak pengguna meminta Grok membuat atau memodifikasi gambar perempuan dan anak-anak dalam konteks seksual.

Tren ini merebak secara global setelah platform memperkenalkan fitur pengeditan gambar menjelang Natal.

Menanggapi hal tersebut, Grok menyatakan telah mengidentifikasi “celah pengamanan” yang kini tengah diperbaiki secara mendesak.