Bisnis.com, JAKARTA — Kekerasan siber terhadap perempuan terus meningkat secara global, terutama seiring pesatnya perkembangan teknologi kecerdasan buatan (AI). Hasil penelitian menunjukkan sekitar 90% korban dalam konten pornografi berbasis AI adalah perempuan.

Menurut laporan Sidang Umum PBB ke-79 tahun 2024 berjudul “Intensification of Efforts to Eliminate All Forms of Violence Against Women and Girls: Technology-Facilitated Violence Against Women and Girls”, kekerasan terhadap perempuan dan anak perempuan yang difasilitasi teknologi (TF VAWG) mengalami peningkatan signifikan di berbagai negara.

Berbagai studi menunjukkan bahwa kekerasan daring terhadap perempuan terjadi di hampir semua wilayah dunia. Di negara-negara Arab, sekitar 60% perempuan pengguna internet pernah mengalami kekerasan daring.

Di Eropa Timur dan Asia Tengah, lebih dari 50% perempuan dewasa di 12 negara melaporkan pernah mengalami beberapa bentuk pelecehan berbasis teknologi sepanjang hidup mereka.

Sementara itu, di Afrika Sub-Sahara, 28% perempuan pernah menjadi korban kekerasan daring, dan di Eropa serta Amerika Serikat, survei terhadap perempuan berusia 18–55 tahun di beberapa negara, termasuk Denmark, Italia, Polandia, Spanyol, Swedia, Inggris, dan AS, menunjukkan 23% melaporkan setidaknya satu pengalaman pelecehan atau intimidasi daring.

Data yang dikutip dari UN Women pada Selasa (24/2/2026) menyebutkan prevalensi TF VAWG berkisar antara 16% hingga 58%. Sebanyak 67% perempuan dan anak perempuan yang mengalami TF VAWG melaporkan menjadi korban misinformasi dan pencemaran nama baik.

Selain itu, 73 % jurnalis perempuan mengaku pernah mengalami kekerasan secara online. Pada 2024, sekitar 300 juta anak terdampak eksploitasi dan pelecehan seksual secara daring. Secara global, satu dari tiga perempuan mengalami kekerasan fisik dan/atau seksual setidaknya sekali seumur hidupnya.

Perkembangan teknologi yang sangat cepat menciptakan risiko dan ruang baru bagi terjadinya kekerasan terhadap perempuan dan anak perempuan. Semua perempuan berisiko, namun beberapa kelompok lebih rentan, seperti perempuan di ruang publik, jurnalis, pembela hak asasi manusia, politisi, aktivis feminis, serta remaja perempuan.

Kemajuan teknologi khususnya AI, juga memperparah kekerasan berbasis gender melalui penyebaran disinformasi terarah, penyalahgunaan gambar berbasis AI, serta konten pornografi deepfake.

Menurut Sensity AI yang dikutip UN Women, sekitar 90% hingga 95% konten deepfake online merupakan pornografi tanpa persetujuan, dan sekitar 90 % korbannya adalah perempuan.

Salah satu kasus yang sempat menjadi sorotan adalah penggunaan Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI, yang dilaporkan menghasilkan dan menyebarkan gambar perempuan bermuatan pornografi.

Kasus tersebut menuai kecaman luas hingga mendorong sejumlah negara, termasuk Indonesia, memblokir akses Grok. Meski demikian, akses tersebut kemudian dibuka kembali secara bersyarat setelah adanya komitmen tertulis dari pihak X.

Di sisi lain, teknologi juga dinilai memperkuat norma misoginis atau kebencian terhadap perempuan. Ruang online kerap menjadi tempat berkembangnya ujaran kebencian dan normalisasi kekerasan terhadap perempuan.

Fenomena seperti “manosphere” komunitas daring pria misoginis turut memperluas penyebaran stereotip seksis dalam skala besar dengan pelaku yang anonim dan minim akuntabilitas.

Sebuah studi di 31 negara menunjukkan pria muda cenderung lebih konservatif dibanding generasi sebelumnya dan lebih sering menganggap promosi kesetaraan gender sebagai bentuk diskriminasi terhadap pria.

Penelitian tahun 2022 juga mencatat peningkatan59 % retorika kekerasan dalam setahun terakhir, termasuk konten yang membenarkan eksploitasi seksual anak.

Meski membawa risiko, teknologi juga dapat menjadi bagian dari solusi untuk mencegah dan merespons kekerasan. Perusahaan teknologi asal Prancis, Bodyguard.AI, misalnya, mengembangkan aplikasi berbasis AI untuk menyaring pelecehan online.

Selain itu, berbagai aplikasi kini membantu perempuan berbagi lokasi, menghubungi layanan darurat, serta mengakses layanan khusus bagi korban kekerasan berbasis gender. Kolaborasi dengan organisasi hak perempuan menjadi kunci agar teknologi yang dikembangkan benar-benar aman, efektif, dan berpihak pada korban. (Nur Amalina)

Bisnis.com, JAKARTA — Perempuan disebut menjadi target utama ancaman siber deepfake dengan 99% konten pornografi dilakukan pelaku menggunakan teknologi kecerdasan buatan itu.

Konten ini berupa gambar atau video yang tampak sangat nyata, padahal sepenuhnya palsu dan dibuat dengan teknologi kecerdasan buatan (AI).

Kemajuan pesat teknologi AI membuat pembuatan deepfake menjadi semakin mudah, sementara upaya untuk mendeteksinya justru semakin sulit.

Para ahli menilai kondisi ini berbahaya karena banyak perempuan menjadi korban tanpa pernah mengetahui bahwa wajah atau tubuh mereka telah dimanipulasi dan disalahgunakan.

Spesialis keamanan siber menyebutkan deepfake kini bukan lagi sekadar penyalahgunaan teknologi, tetapi telah berkembang menjadi bentuk kekerasan berbasis gender di dunia digital. Dampaknya bisa sangat merugikan korban, baik secara psikologis, sosial, maupun profesional.

Pada Januari lalu Grok AI chatbot buatan perusahaan Elon Musk yang terintegrasi dengan platform media sosial X menjadi sorotan publik. Laporan menyebutkan bahwa chatbot tersebut menghasilkan gambar-gambar seksual eksplisit yang menampilkan perempuan dan anak-anak.

Akibatnya, platform tersebut kini sedang diselidiki untuk memastikan apakah langkah pencegahan yang dilakukan sudah cukup dan sesuai dengan hukum.

Pakar keamanan siber Alex Nette, memperingatkan bahwa situasi ini kemungkinan akan memburuk sebelum benar-benar membaik. Nette menekankan pentingnya sikap waspada saat melihat gambar atau video yang viral di internet. Jika konten yang ditampilkan terlihat janggal, itu memang bukan konten asli.

“Cari tahu sendiri. Ada banyak situs pengecek fakta untuk video AI viral di internet” ujar Nette, Mengutip dari 12 On Your Side Selasa (3/2/2026).

Para ahli juga mengingatkan agar siapapun yang merasa menjadi sasaran deepfake segera bertindak dan tidak mengabaikan tanda-tanda mencurigakan.

Langkah awal perlindungan digital, menurut Nette adalah lebih berhati-hati terhadap apa yang dibagikan secara publik di internet. Meski begitu, membatasi kehadiran daring bukanlah hal yang mudah, terutama bagi figur publik seperti selebriti atau jurnalis.

Ancaman deepfake paling banyak ditemukan di media sosial.

Dalam kasus seperti ini, Nette menegaskan pentingnya segera melaporkan akun palsu atau aktivitas mencurigakan langsung ke platform terkait, meskipun proses pelaporannya sering kali terasa rumit.

Nette juga menyarankan untuk mencari kontak resmi perusahaan melalui kebijakan privasi di situs web platform tersebut, karena di sanalah biasanya tersedia email atau jalur komunikasi yang memungkinkan pengguna berinteraksi langsung dengan pihak pengelola.

Selain itu, membuat laporan polisi tetap disarankan meskipun hasilnya tidak langsung terlihat. Laporan tersebut dapat menjadi bukti penting jika di kemudian hari korban membutuhkan perlindungan hukum atau mengajukan klaim asuransi.

Semakin cepat korban merespons, semakin besar peluang untuk membatasi dampak kerugian dan menghapus konten deepfake sebelum menyebar lebih luas. (Nur Amalina)

Bisnis.com, JAKARTA— Kementerian Komunikasi dan Digital (Komdigi) menegaskan aplikasi chatbot berbasis kecerdasan buatan Grok AI hingga kini masih diblokir di Indonesia.

Hal tersebut disampaikan Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar.

“Masih diblokir,” kata Sabar ditemui usai Peluncuran Peraturan Menteri Komunikasi dan Digital tentang Registrasi Biometrik: SEMANTIK (SEnyum, aMAN dengan BimoeTrik) di Jakarta, Selasa (27/1/2026).

Sabar menjelaskan pihak X selaku pemilik Grok AI telah datang ke Komdigi dan menyatakan kesediaannya untuk mematuhi aturan yang berlaku di Indonesia. Menurutnya, dari sisi pelaksanaan, komitmen tersebut sudah mulai terlihat, termasuk dengan diterapkannya geoblocking khusus untuk wilayah Indonesia.

Meski demikian, Sabar menegaskan apabila pihak X tidak mematuhi ketentuan yang berlaku, maka kemungkinan pemblokiran permanen dapat dilakukan. Adapun terkait batas waktu yang diberikan kepada perusahaan tersebut, dia menyebut hal itu menjadi kewenangan tim teknis.

“Itu tim teknis yang bicara,” kata Sabar.

Dia juga berharap pihak Grok dapat menunjuk perwakilan resmi di Indonesia. Pasalnya, hingga kini belum terdapat perwakilan perusahaan tersebut di dalam negeri.

Sebelumnya diberitakan, pemerintah Indonesia melakukan pemutusan akses sementara terhadap layanan Grok AI setelah ditemukan penyalahgunaan teknologi tersebut untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake.

Langkah tersebut diambil sebagai bagian dari upaya perlindungan masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital. Menteri Komunikasi dan Digital Meutya Hafid menegaskan praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).

Meutya menyatakan ruang digital tidak dapat berkembang tanpa pengawasan hukum. Pemerintah menilai penyalahgunaan kecerdasan artifisial untuk menghasilkan konten seksual nonkonsensual sebagai ancaman terhadap keamanan publik, privasi individu, dan nilai-nilai kemanusiaan.

Selain pemutusan akses, Komdigi juga meminta klarifikasi serta pertanggungjawaban dari X sebagai pengelola platform. Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait.

Kebijakan tersebut mengacu pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat atau memfasilitasi konten yang dilarang oleh hukum Indonesia.

Bisnis.com, JAKARTA - Pemerintah Indonesia menjadi negara pertama di dunia yang melakukan pemutusan akses sementara terhadap Grok, aplikasi chatbot berbasis kecerdasan artifisial (AI).

Kebijakan tersebut diambil menyusul temuan penyalahgunaan teknologi Grok untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake. Langkah ini ditempuh sebagai bagian dari upaya perlindungan masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital.

Menteri Komunikasi dan Digital Meutya Hafid menyatakan praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia serta martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).

Menurut Meutya, ruang digital tidak dapat dibiarkan menjadi wilayah tanpa pengawasan hukum. Pemerintah menilai penyalahgunaan AI untuk menghasilkan konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, serta nilai kemanusiaan.

Selain pemutusan akses sementara, Kementerian Komunikasi dan Digital juga meminta X selaku pengelola platform untuk memberikan klarifikasi serta bertanggung jawab atas dampak penggunaan teknologi tersebut. Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait.

Kebijakan ini merujuk pada kewenangan pemerintah sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat maupun memfasilitasi konten yang dilarang oleh hukum Indonesia.

Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah pemerintah tersebut tepat dan patut diapresiasi, terutama karena Indonesia menjadi pelopor dalam memastikan keamanan platform digital.

Menurut Alfons, apabila suatu platform terbukti menimbulkan ancaman serius terhadap perempuan dan anak melalui eksploitasi pornografi digital, pemutusan akses merupakan langkah yang wajar.

“Jika ancamannya sudah nyata, terutama bagi perempuan dan anak, tetapi tidak diambil tindakan, siapa yang akan bertanggung jawab atas dampak mental dan moral yang ditimbulkan?” ujar Alfons saat dihubungi, Minggu (11/1/2026).

Ia menegaskan penyedia platform digital tidak dapat semata-mata berorientasi pada keuntungan bisnis tanpa memperhatikan nilai moral, etika, serta kepatuhan terhadap hukum di negara tempat beroperasi.

“Setiap negara memiliki nilai dan standar yang berbeda. Apa yang dianggap wajar di negara lain belum tentu sesuai dengan norma di Indonesia. Platform global tidak bisa menerapkan satu standar untuk semua negara,” katanya.

Alfons juga membandingkan Grok dengan sejumlah platform AI lain yang dinilai telah menerapkan sistem pengamanan lebih ketat terhadap konten sensitif, sehingga tidak mudah disalahgunakan melalui perintah sederhana.

Pemutusan akses Grok menjadi penanda babak baru pengawasan teknologi kecerdasan artifisial di Indonesia. Kebijakan ini menegaskan bahwa inovasi teknologi harus berjalan seiring dengan tanggung jawab sosial serta perlindungan hak-hak warga negara.

Bisnis.com, JAKARTA - Pemerintah Indonesia menjadi negara pertama di dunia yang melakukan pemutusan akses sementara terhadap Grok, aplikasi chatbot berbasis kecerdasan artifisial (AI).

Kebijakan tersebut diambil menyusul temuan penyalahgunaan teknologi Grok untuk memproduksi dan menyebarkan konten pornografi palsu berbasis deepfake. Langkah ini ditempuh sebagai bagian dari upaya perlindungan masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital.

Menteri Komunikasi dan Digital Meutya Hafid menyatakan praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia serta martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resmi di Jakarta, Sabtu (10/1/2026).

Menurut Meutya, ruang digital tidak dapat dibiarkan menjadi wilayah tanpa pengawasan hukum. Pemerintah menilai penyalahgunaan AI untuk menghasilkan konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, serta nilai kemanusiaan.

Selain pemutusan akses sementara, Kementerian Komunikasi dan Digital juga meminta X selaku pengelola platform untuk memberikan klarifikasi serta bertanggung jawab atas dampak penggunaan teknologi tersebut. Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang disampaikan oleh penyelenggara sistem elektronik terkait.

Kebijakan ini merujuk pada kewenangan pemerintah sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, yang mewajibkan setiap platform memastikan layanannya tidak memuat maupun memfasilitasi konten yang dilarang oleh hukum Indonesia.

Pakar keamanan siber dari Vaksincom, Alfons Tanujaya, menilai langkah pemerintah tersebut tepat dan patut diapresiasi, terutama karena Indonesia menjadi pelopor dalam memastikan keamanan platform digital.

Menurut Alfons, apabila suatu platform terbukti menimbulkan ancaman serius terhadap perempuan dan anak melalui eksploitasi pornografi digital, pemutusan akses merupakan langkah yang wajar.

“Jika ancamannya sudah nyata, terutama bagi perempuan dan anak, tetapi tidak diambil tindakan, siapa yang akan bertanggung jawab atas dampak mental dan moral yang ditimbulkan?” ujar Alfons saat dihubungi, Minggu (11/1/2026).

Ia menegaskan penyedia platform digital tidak dapat semata-mata berorientasi pada keuntungan bisnis tanpa memperhatikan nilai moral, etika, serta kepatuhan terhadap hukum di negara tempat beroperasi.

“Setiap negara memiliki nilai dan standar yang berbeda. Apa yang dianggap wajar di negara lain belum tentu sesuai dengan norma di Indonesia. Platform global tidak bisa menerapkan satu standar untuk semua negara,” katanya.

Alfons juga membandingkan Grok dengan sejumlah platform AI lain yang dinilai telah menerapkan sistem pengamanan lebih ketat terhadap konten sensitif, sehingga tidak mudah disalahgunakan melalui perintah sederhana.

Pemutusan akses Grok menjadi penanda babak baru pengawasan teknologi kecerdasan artifisial di Indonesia. Kebijakan ini menegaskan bahwa inovasi teknologi harus berjalan seiring dengan tanggung jawab sosial serta perlindungan hak-hak warga negara.

Bisnis.com, JAKARTA — Kementerian Komunikasi dan Digital (Kemkomdigi) resmi memutus akses sementara terhadap aplikasi kecerdasan artifisial (AI) Grok AI di platform X milik Elon Musk.

Langkah ini diambil sebagai respons atas potensi penyalahgunaan teknologi tersebut untuk memproduksi konten pornografi palsu atau deepfake.

Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid menegaskan bahwa pemutusan akses ini merupakan upaya pemerintah dalam melindungi masyarakat, khususnya perempuan dan anak-anak, dari risiko paparan konten negatif yang dihasilkan oleh AI.

"Pemerintah memandang praktik deepfake seksual, nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," ujar Meutya dalam keterangan resmi, dikutip Sabtu (10/1/2026).

Selain pemutusan akses, Kementerian Komdigi juga telah melayangkan permintaan resmi kepada Platform X (sebelumnya Twitter) untuk memberikan klarifikasi.

Dalam laporannya, pemerintah RI meminta pengelola platform X untuk segera hadir dan menjelaskan mitigasi dampak negatif dari penggunaan fitur Grok di ekosistem mereka.

Adapun secara regulasi, tindakan tegas pemutusan akses ini didasarkan pada kewenangan kementerian yang tercantum dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Berdasarkan Pasal 9 regulasi tersebut, setiap PSE memiliki kewajiban hukum untuk memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, maupun menyebarluaskan informasi atau dokumen elektronik yang dilarang oleh peraturan perundang-undangan di Indonesia.

"Pasal 9 mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang," pungkas Meutya.