Bisnis.com, JAKARTA— Kementerian Komunikasi dan Digital (Komdigi) mengungkapkan sejumlah persyaratan utama yang harus dipenuhi oleh penyedia layanan chatbot berbasis kecerdasan artifisial (AI) Grok AI, yang terintegrasi di platform X, agar aksesnya dapat dibuka kembali di Indonesia.

Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menyampaikan bahwa persyaratan tersebut meliputi penyesuaian algoritma serta penguatan sistem pengamanan atau moderasi konten agar tidak menghasilkan konten yang melanggar hukum.

“Khususnya terkait perlindungan hak dan martabat individu; penerapan mekanisme mitigasi risiko; serta kepatuhan terhadap kewajiban pendaftaran PSE [Penyelenggara Sistem Elektronik],” kata Alexander kepada Bisnis, Rabu (14/1/2026).

Alexander menjelaskan pemutusan akses terhadap Grok bersifat sementara. Pemerintah akan membuka kembali layanan tersebut setelah seluruh ketentuan peraturan perundang-undangan dipenuhi, terutama penyesuaian sistem dan algoritma agar Grok AI tidak lagi memproduksi atau memfasilitasi konten deepfake seksual nonkonsensual yang melanggar hukum dan merugikan masyarakat.

Menurut Alexander, Komdigi telah memanggil dan melakukan komunikasi resmi dengan pihak X selaku penyedia layanan Grok. Dalam pertemuan tersebut, X menyampaikan komitmen untuk melakukan perbaikan dan penyesuaian teknis sesuai dengan ketentuan yang berlaku di Indonesia.

“Komitmen tertulis akan segera disampaikan X ke Komdigi,” katanya.

Alexander menambahkan pemerintah pada prinsipnya tidak menutup ruang bagi inovasi teknologi, termasuk pengembangan kecerdasan artifisial. Namun, akses Grok AI hanya akan dibuka kembali apabila pihak X secara nyata mematuhi seluruh peraturan yang berlaku di Indonesia.

Dia mengatakan pertimbangan utama pemerintah adalah pelindungan masyarakat, keamanan ruang digital, serta kepastian hukum, agar pemanfaatan teknologi AI berjalan secara bertanggung jawab, etis, dan sejalan dengan norma hukum nasional serta nilai-nilai moral yang ada di masyarakat.

“Pemerintah akan terus melakukan pengawasan dan evaluasi secara ketat terhadap seluruh penyelenggara sistem elektronik, guna memastikan ruang digital Indonesia tetap aman, sehat, dan berkeadilan bagi seluruh masyarakat,” ungkapnya.

Sebelumnya diberitakan, pemerintah Indonesia melakukan pemutusan akses sementara terhadap layanan Grok AI setelah ditemukan penyalahgunaan teknologi tersebut untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake.

Langkah tersebut diambil sebagai bagian dari upaya perlindungan masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital. Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).

Meutya menyatakan ruang digital tidak dapat berkembang tanpa pengawasan hukum. Pemerintah menilai penyalahgunaan kecerdasan artifisial untuk menghasilkan konten seksual nonkonsensual sebagai ancaman terhadap keamanan publik, privasi individu, dan nilai-nilai kemanusiaan.

Selain pemutusan akses, Komdigi juga meminta klarifikasi serta pertanggungjawaban dari X sebagai pengelola platform. Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait.

Kebijakan tersebut mengacu pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat atau memfasilitasi konten yang dilarang oleh hukum Indonesia.

Jakarta, CNBC Indonesia - Fenomena banjir konten buatan kecerdasan buatan (AI) di internet makin tak terbendung. Laporan terbaru perusahaan SEO Graphite mengungkap bahwa lebih dari separuh artikel di internet kini ditulis oleh AI, menandai pergeseran besar dalam ekosistem produksi informasi global.

Dalam risetnya, Graphite menemukan bahwa antara November 2024 hingga Maret 2025, artikel buatan AI mulai menyalip tulisan yang dibuat manusia.

Puncaknya terjadi pada Januari 2025, ketika 55% konten tertulis di internet dihasilkan oleh AI, demikian dikutip dari ZDNet, Jumat (17/10/2025).

Meski begitu, Graphite mencatat porsi konten AI kini berada dalam kondisi "relatif stabil". Para peneliti menilai ledakan konten buatan mesin itu mulai melambat karena hasilnya tidak terlalu efektif dalam peringkat mesin pencari.

"Kami berhipotesis bahwa hal ini terjadi karena para praktisi menemukan bahwa artikel buatan AI tidak berkinerja baik dalam pencarian, sebagaimana ditunjukkan dalam studi terpisah," tulis Graphite dalam laporannya.

Para analis menduga Google dan mesin pencari lainnya justru melatih AI mereka untuk mendeteksi serta menurunkan peringkat artikel yang dibuat oleh AI.

Sejak ChatGPT dirilis oleh OpenAI pada 2022, jumlah artikel yang dihasilkan AI melonjak drastis. Setahun setelah peluncuran, 39% konten di internet sudah dibuat oleh AI, menurut data Graphite.

Namun, meski volumenya besar, artikel-artikel tersebut tidak banyak muncul di hasil pencarian Google maupun ChatGPT, menandakan efektivitasnya masih terbatas.

Graphite juga memperingatkan bahwa kemajuan teknologi AI yang sangat cepat akan membuat semakin sulit membedakan mana konten buatan manusia dan mana buatan mesin, bahkan dengan adanya alat pendeteksi AI yang terus dikembangkan.

Sementara itu, Pew Research Center melaporkan hanya 2% warga Amerika yang secara rutin mendapatkan berita dari AI, sedangkan 75% mengaku tidak pernah menggunakan AI untuk mencari berita. Sebagian besar dari mereka yang menggunakan AI pun tidak sepenuhnya mempercayai informasi yang dihasilkan.

Seiring dengan meluasnya penggunaan AI di berbagai industri dan aspek kehidupan sehari-hari, menghindari teknologi ini menjadi semakin sulit.

Laporan Graphite kembali menyoroti pertanyaan lama, sekaligus tantangan besar, tentang seberapa layak AI dijadikan alat penyedia informasi yang tepercaya.

Jakarta, CNBC Indonesia - Aplikasi pencipta konten visual 'Sora' buatan OpenAI langsung mendulang popularitas di kalangan pengguna internet. 'Saudara' ChatGPT tersebut dilaporkan sudah diunduh 1 juta kali dalam kurun waktu kurang dari 5 hari pasca dirilis resmi, menurut pengakuan Kepala Sora OpenAI, Bill Peebles, di akun X personalnya pada pekan lalu.

Model baru Sora 2 yang merupakan tool video-generatif berbasis AI kemudian banyak digunakan untuk membuat gambar super realistis, namun tak lepas dari kontroversi.

Dikutip dari BBC, Senin (13/10/2025), konten-konten buatan AI yang memanfaatkan Sora ramai beredar di TikTok. Lebih dari 400.000 unggahan menggunakan hashtag #Sora.

Beredar konten viral buatan Sora yang memperlihatkan artis legendaris yang sudah meninggal dunia 'bangkit dari kubur'. Di antaranya video mendiang pebasket legendaris Kobe Bryant seakan 'berargumen dengan penjual es krim', hingga mendiang musisi John Lennon seakan 'membeli teh di supermarket'.

Tak cuma itu, ada juga penampakan legenda pop Michael Jackson hingga Amy Winehouse. Video-video ini menghimpun jutaan view di TikTok dan menimbulkan kontroversi terkait etika di balik pembuatan video tersebut.

Meskipun ada beberapa kasus di mana suara atau rupa selebriti yang sudah meninggal dihasilkan menggunakan AI dalam film, musik, dan permainan, kejadian seperti ini biasanya sudah mendapat izin dari keluarga dan ahli waris mendiang.

Sementara itu, video yang saat ini muncul di media sosial tidak mendapatkan persetujuan yang sama. Hal ini yang memicu perdebatan terkait etika pembuat video-video tersebut.

Misalnya, Zelda Williams yang merupakan putri Robin Williams, seorang komedian dan bintang Aladdin serta Jumanji. Robin meninggal dunia pada tahun 2014, tetapi telah tampil di banyak video AI, yang membuat Zelda mempertanyakan etika tren ini.

"Tolong, berhentilah mengirimiku video AI Ayah," kata Zelda dalam unggahan postingan di Instagram Story-nya.

"Kalau kalian punya sopan santun, berhentilah melakukan ini padanya dan padaku, bahkan pada semua orang, titik. Itu bodoh, buang-buang waktu dan tenaga, dan percayalah, itu bukan yang diinginkannya [Robin Williams]," ia menuturkan.

Sebagai informasi, Sora saat ini hanya tersedia di Amerika Serikat (AS) dan Kanada. Namun, ada banyak konten-konten yang tersebar dibuat oleh pengguna dari Inggris.

Sora 2 menggunakan perintah teks untuk membuat video realistis. Meskipun ada batasan yang diberlakukan untuk menghentikan pengguna membuat konten yang menampilkan selebritas yang masih hidup, aplikasi ini akan memungkinkan Anda membuat video AI yang menampilkan tokoh-tokoh bersejarah.

Tanggung jawab diklaim sebagai salah satu prioritas utama tim Sora, terutama dalam hal melindungi keamanan remaja. Tim telah menetapkan batasan standar terkait jumlah konten yang dapat dilihat remaja per hari di linimasa mereka.

Mereka juga menerapkan izin yang lebih ketat bagi remaja dalam penggunaan kameo, yaitu kemampuan untuk langsung masuk ke dalam adegan Sora mana pun.

Aturan seputar penggunaan kemiripan orang terkenal yang masih hidup lebih ketat, dengan OpenAI melarang penggunaannya di Sora. OpenAI awalnya mengizinkan video buatan AI yang menampilkan selebritas yang telah meninggal, namun, mereka merilis pernyataan baru pada 8 Oktober 2025.

"Meskipun terdapat kepentingan kebebasan berbicara yang kuat dalam penggambaran tokoh sejarah, kami percaya bahwa tokoh publik dan keluarga mereka pada akhirnya harus memiliki kendali atas bagaimana kemiripan mereka digunakan," kata perusahaan.

Untuk tokoh publik yang baru saja meninggal, OpenAI menyatakan bahwa perwakilan resmi atau pemilik ahli waris mereka dapat meminta agar kemiripan sosok mereka tidak digunakan dalam kameo Sora.

Hal ini menyebabkan penghapusan konten yang menampilkan Michael Jackson setelah ahli warisnya dilaporkan mengajukan klaim hak cipta terhadap OpenAI.

Di Inggris, undang-undang hak cipta melindungi karya seseorang, seperti buku yang mereka tulis atau film yang mereka sutradarai hingga 70 tahun setelah kematiannya, tetapi ini tidak berlaku untuk kemiripan orang.