Bisnis.com, JAKARTA — Para peneliti melihat kecerdasan buatan (AI) menjadi senjata baru dalam perang. Banyak disinformasi yang dihasilkan oleh AI, misalnya gambar dan video palsu yang sengaja dibuat untuk menjadi alat politik global.

Selain itu banyak juga gambar dan video mengenai perang Iran dan Amerika-Israel bertebaran di dunia maya, seperti foto ledakan besar di bandara Irak, citra satelit yang menggambarkan kerusakan pada pangkalan angkatan laut AS di Qatar, atau video rudal balistik Iran yang menghantam pusat kota Tel Aviv.

Melihat informasi gambar dan video yang tersebar, banyak orang yang percaya tentang keadaan di dalam gambar atau video tersebut. Namun nyatanya tidak satu pun dari gambar-gambar itu nyata.

Gambar dan video tersebut adalah palsu atau dimanipulasi dengan AI. Padahal gambar tersebut terlihat sangat realistis dan banyak orang langsung percaya serta membagikannya. Hal ini membuat orang sulit membedakan mana yang fakta dan mana yang propaganda.

Seorang peneliti AI terkemuka Rumman Chowdhury, yang juga mantan kepala etika di X (yang saat itu dikenal sebagai Twitter), mengatakan sekarang teknologi AI sudah bisa membuat video, suara, dan gambar palsu (deepfake) sangat realistis, sehingga kebanyakan orang tidak bisa membedakan mana yang asli dan mana yang palsu.

Selain itu, Chowdhury juga menambahkan meskipun perusahaan AI telah menyetujui penambahan watermark dan metode verifikasi lainnya, metode tersebut tidak dibangun dengan mempertimbangkan bagaimana pengguna berinteraksi dengan media sosial.

“Ini sangat berbahaya jika mempertimbangkan situasi seperti perang di Iran,” kata Chowdhury dikutip dari Rolling Stone, Senin (9/3/2026).

Namun masalah ini tidak sesederhana orang-orang yang diberi deepfake dan tertipu. Ilmuwan politik Steven Feldstein mengatakan seiring meningkatnya pemahaman masyarakat tentang AI, para pembuat konten disinformasi juga menjadi lebih canggih dalam menyajikan sesuatu, sehingga menghasilkan “shallowfake”, yaitu manipulasi yang lebih halus.

“Daripada menyajikan sesuatu yang tampak sepenuhnya salah, [mereka] menyajikan nuansa kebenaran, memanipulasi apa yang ada,” kata Feldstein.

Artinya, pembuat konten palsu sering menambahkan detail yang terlihat meyakinkan agar orang tidak curiga. Walaupun terlihat nyata, sebenarnya informasi tersebut sudah diubah sehingga menggambarkan kejadian sesuai sudut pandang tertentu.

Perubahannya kadang sangat kecil, misalnya foto asli bandara di Irak yang hanya menunjukkan asap di atas pangkalan militer AS. Lalu foto itu diedit dengan AI sehingga terlihat seperti ada ledakan api besar. Bisa juga dengan cara lain, seperti memakai foto lama tetapi menyebarkannya seolah-olah foto tersebut baru saja diambil.

Feldstein mengatakan sekarang informasi dan gambar di internet sering digunakan untuk mendorong orang melakukan suatu tindakan. Karena media sosial menyebarkan informasi dengan sangat cepat, banyak orang langsung mempercayainya tanpa sempat memeriksa sumbernya. Akibatnya, sulit mengetahui apakah informasi tersebut benar atau hanya mewakili kepentingan pihak tertentu.

Dia juga menambahkan pemimpin Amerika Serikat dan Israel menggunakan gambar dan pesan tertentu untuk mendorong warga Iran menentang pemerintah mereka.

Menurutnya, AS tidak hanya menggunakan kekuatan militer, tetapi juga menyebarkan informasi untuk mempengaruhi situasi di lapangan.

Selain dampak politik, informasi palsu juga berbahaya bagi kemanusiaan. Orang yang hidup di daerah perang membutuhkan informasi yang benar untuk mengetahui tempat aman, lokasi serangan, dan kapan harus mengungsi. Karena itu, informasi yang dapat dipercaya sangat penting. (Nur Amalina)

Bisnis.com, JAKARTA — Kekerasan siber terhadap perempuan terus meningkat secara global, terutama seiring pesatnya perkembangan teknologi kecerdasan buatan (AI). Hasil penelitian menunjukkan sekitar 90% korban dalam konten pornografi berbasis AI adalah perempuan.

Menurut laporan Sidang Umum PBB ke-79 tahun 2024 berjudul “Intensification of Efforts to Eliminate All Forms of Violence Against Women and Girls: Technology-Facilitated Violence Against Women and Girls”, kekerasan terhadap perempuan dan anak perempuan yang difasilitasi teknologi (TF VAWG) mengalami peningkatan signifikan di berbagai negara.

Berbagai studi menunjukkan bahwa kekerasan daring terhadap perempuan terjadi di hampir semua wilayah dunia. Di negara-negara Arab, sekitar 60% perempuan pengguna internet pernah mengalami kekerasan daring.

Di Eropa Timur dan Asia Tengah, lebih dari 50% perempuan dewasa di 12 negara melaporkan pernah mengalami beberapa bentuk pelecehan berbasis teknologi sepanjang hidup mereka.

Sementara itu, di Afrika Sub-Sahara, 28% perempuan pernah menjadi korban kekerasan daring, dan di Eropa serta Amerika Serikat, survei terhadap perempuan berusia 18–55 tahun di beberapa negara, termasuk Denmark, Italia, Polandia, Spanyol, Swedia, Inggris, dan AS, menunjukkan 23% melaporkan setidaknya satu pengalaman pelecehan atau intimidasi daring.

Data yang dikutip dari UN Women pada Selasa (24/2/2026) menyebutkan prevalensi TF VAWG berkisar antara 16% hingga 58%. Sebanyak 67% perempuan dan anak perempuan yang mengalami TF VAWG melaporkan menjadi korban misinformasi dan pencemaran nama baik.

Selain itu, 73 % jurnalis perempuan mengaku pernah mengalami kekerasan secara online. Pada 2024, sekitar 300 juta anak terdampak eksploitasi dan pelecehan seksual secara daring. Secara global, satu dari tiga perempuan mengalami kekerasan fisik dan/atau seksual setidaknya sekali seumur hidupnya.

Perkembangan teknologi yang sangat cepat menciptakan risiko dan ruang baru bagi terjadinya kekerasan terhadap perempuan dan anak perempuan. Semua perempuan berisiko, namun beberapa kelompok lebih rentan, seperti perempuan di ruang publik, jurnalis, pembela hak asasi manusia, politisi, aktivis feminis, serta remaja perempuan.

Kemajuan teknologi khususnya AI, juga memperparah kekerasan berbasis gender melalui penyebaran disinformasi terarah, penyalahgunaan gambar berbasis AI, serta konten pornografi deepfake.

Menurut Sensity AI yang dikutip UN Women, sekitar 90% hingga 95% konten deepfake online merupakan pornografi tanpa persetujuan, dan sekitar 90 % korbannya adalah perempuan.

Salah satu kasus yang sempat menjadi sorotan adalah penggunaan Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI, yang dilaporkan menghasilkan dan menyebarkan gambar perempuan bermuatan pornografi.

Kasus tersebut menuai kecaman luas hingga mendorong sejumlah negara, termasuk Indonesia, memblokir akses Grok. Meski demikian, akses tersebut kemudian dibuka kembali secara bersyarat setelah adanya komitmen tertulis dari pihak X.

Di sisi lain, teknologi juga dinilai memperkuat norma misoginis atau kebencian terhadap perempuan. Ruang online kerap menjadi tempat berkembangnya ujaran kebencian dan normalisasi kekerasan terhadap perempuan.

Fenomena seperti “manosphere” komunitas daring pria misoginis turut memperluas penyebaran stereotip seksis dalam skala besar dengan pelaku yang anonim dan minim akuntabilitas.

Sebuah studi di 31 negara menunjukkan pria muda cenderung lebih konservatif dibanding generasi sebelumnya dan lebih sering menganggap promosi kesetaraan gender sebagai bentuk diskriminasi terhadap pria.

Penelitian tahun 2022 juga mencatat peningkatan59 % retorika kekerasan dalam setahun terakhir, termasuk konten yang membenarkan eksploitasi seksual anak.

Meski membawa risiko, teknologi juga dapat menjadi bagian dari solusi untuk mencegah dan merespons kekerasan. Perusahaan teknologi asal Prancis, Bodyguard.AI, misalnya, mengembangkan aplikasi berbasis AI untuk menyaring pelecehan online.

Selain itu, berbagai aplikasi kini membantu perempuan berbagi lokasi, menghubungi layanan darurat, serta mengakses layanan khusus bagi korban kekerasan berbasis gender. Kolaborasi dengan organisasi hak perempuan menjadi kunci agar teknologi yang dikembangkan benar-benar aman, efektif, dan berpihak pada korban. (Nur Amalina)

Bisnis.com, JAKARTA — Kecerdasan buatan (AI) kini dapat menghasilkan gambar yang tampak seperti foto atau ilustrasi yang dibuat oleh manusia, hasilnya sangat realistis dan sulit untuk dibedakan.

Kondisi ini menyebabkan banyaknya kasus pemalsuan dan penipuan yang dihasilkan oleh model AI. Namun, bukan berarti gambar buatan AI tidak bisa dikenali. Ada sejumlah tanda yang perlu diperhatikan. Selain itu, kamu bisa memanfaatkan alat pendeteksi AI untuk membedakan gambar yang asli atau hasil rekayasa.

Di tengah maraknya disinformasi dan penyalahgunaan fungsi AI, kemampuan kita untuk membedakan hal-hal tersebut adalah keterampilan yang patut untuk diasah. Berikut sejumlah cara dan alat yang dapat digunakan untuk mendeteksi gambar buatan AI.

Alat Pendeteksi AI

Saat ini, beberapa platform AI menyisipkan watermark tersembunyi pada gambar yang mereka buat. Watermark ini berfungsi sebagai penanda gambar tersebut adalah dibuat oleh AI. Meski tanda bisa hilang dengan tangkapan layar, tetapi metode ini bisa menjadi langkah pertama yang cukup membantu untuk memastikan keaslian sebuah gambar.

Salah satunya adalah Google Gemini, setiap gambar yang dihasilkan Gemini dibekali dengan watermark khusus yang bernama SynthID. Jika kamu ragu terhadap sebuah gambar, cukup unggah ke Gemini versi web dan tanyakan apakah gambar ini dibuat oleh AI. Sistemnya dapat mendeteksi tanda SynthID apabila memang ada.

Berdasarkan informasi yang dikutip dari Popular Science Senin (16/2/2026), terdapat standar pelabelan lain yang dikembangkan oleh Coalition for Content Provenance and Authenticity (C2PA). Standar ini didukung oleh sejumlah perusahaan teknologi besar seperti OpenAI, Adobe, dan Google. Melalui situs pemeriksa seperti Content Credentials, pengguna dapat mengunggah gambar untuk dianalisis dan melihat apakah terdapat jejak pembuatan oleh AI.

Namun, perlu diingat jika suatu gambar lolos dari hasil pemeriksaan tersebut, bukan berarti hasil karya tersebut asli. Setidaknya proses ini bisa membantu mengidentifikasi sebagian konten rekayasa AI. Dalam beberapa kasus cara ini telah mengungkap model AI yang digunakan.

Jika masih ragu, langkah berikutnya adalah menelusuri konteks di balik gambar tersebut.

Periksa konteks di sekitar gambar

Setiap gambar memiliki asal-usul dan pihak yang membagikannya. Media terpercaya biasanya memberi keterangan jelas jika gambar dibuat oleh AI serta mencantumkan atribusi untuk karya asli. Transparansi seperti ini membantu pembaca memahami apa yang sedang mereka lihat.

Sebaliknya, di media sosial seperti Facebook dan X, konten kerap beredar tanpa sumber yang jelas. Risiko gambar palsu pun lebih tinggi, terutama jika konten tersebut dirancang untuk memancing emosi, kontroversi, atau menarik perhatian.

Untuk gambar terkait peristiwa berita, carilah foto pembanding dari sudut berbeda dan periksa apakah detailnya konsisten. Pada ilustrasi atau desain grafis, pastikan ada kredit kreator beserta tautan ke portofolio mereka.

Kamu juga bisa menggunakan pencarian gambar terbalik melalui layanan seperti TinEye guna melacak asal gambar. Jika tidak ditemukan jejak lain terutama ketika gambar muncul tiba-tiba tanpa konteks dan dibagikan akun yang mencoba menjual sesuatu, hal itu patut dicurigai sebagai hasil AI.

Kenali pola dan tanda-tandanya

AI tidak benar-benar memotret atau menggambar. AI akan membuat gambar berdasarkan pola dari jutaan contoh yang dipelajari. Karena itu, hasilnya sering terlihat umum atau seperti gabungan dari banyak referensi.

Contoh karakter anime biasanya tampak seperti versi generik, pemandangan kota terlihat standar, dan detailnya terasa familiar tetapi kurang spesifik. Bahkan, teks yang dibuat tanpa arahan gaya tertentu termasuk dari ChatGPT sering memiliki tampilan huruf yang khas dan mudah dikenali.

Meski semakin canggih, AI masih kerap keliru dalam logika visual. Misalnya, tangga yang tidak jelas menuju ke mana, pintu lift tanpa ruang lift, atau struktur bangunan yang tidak masuk akal. Ini terjadi karena AI tidak benar-benar memahami ruang, hanya meniru pola visual yang terlihat meyakinkan.

Kesalahan seperti jari berlebih memang semakin jarang, tetapi detail kecil tetap bisa jadi petunjuk seperti wajah tampak kaku, anggota tubuh tidak alami, atau tekstur terlihat buram. Dengan sedikit latihan, kamu akan lebih mudah mengenali ciri-ciri gambar buatan AI. (Nur Amalina)

Bisnis.com, JAKARTA — Model terbaru ChatGPT milik OpenAI dilaporkan mulai mengutip ensiklopedia berbasis AI buatan Elon Musk, Grokipedia, sebagai sumber informasi dalam respons chatbot yang dihasilkannya.

Fenomena ini memicu kekhawatiran baru di kalangan peneliti mengenai integritas data dan potensi penyebaran disinformasi dalam ekosistem kecerdasan artifisial (AI).

Berdasarkan laporan The Guardian, Selasa (27/1/2026) pengujian teknis menunjukkan bahwa model GPT-5.2 mengutip Grokipedia sebanyak 9 kali dalam respons terhadap lebih dari 12 pertanyaan berbeda.

Integrasi sumber ini terjadi secara tak terduga, mengingat Grokipedia sebelumnya menuai kritik karena memuat konten yang dinilai bias dan memiliki tingkat akurasi yang dipertanyakan dibandingkan ensiklopedia konvensional seperti Wikipedia.

Informasi dari Grokipedia ditemukan merembes masuk ke dalam jawaban ChatGPT, terutama pada topik-topik yang lebih spesifik. Hal ini berbeda dengan topik sensitif utama seperti pemberontakan 6 Januari di AS atau epidemi HIV/AIDS, di mana ChatGPT tidak menggunakan referensi Grokipedia.

Sebagai contoh, referensi tersebut muncul dalam pertanyaan mengenai struktur politik dan korporasi di Iran. Selain itu, ChatGPT juga mengutip informasi Grokipedia terkait biografi sejarawan Inggris Sir Richard Evans, yang memuat detail yang sebelumnya telah dibantah kebenarannya oleh media massa.

Peneliti disinformasi Nina Jankowicz menyoroti risiko validasi terhadap sumber yang tidak terpercaya melalui fenomena yang disebut sebagai "LLM grooming". Menurutnya, pengutipan oleh model bahasa besar (Large Language Model/LLM) terkemuka dapat memberikan legitimasi semu terhadap sumber informasi yang sebenarnya bermasalah.

"Mereka (pengguna) mungkin berkata, 'oh, ChatGPT mengutipnya, model-model ini mengutipnya, itu pasti sumber yang layak, pastinya mereka sudah memeriksanya'," ujar Jankowicz..

Jankowicz menambahkan bahwa persepsi kredibilitas ini berbahaya bagi profesional atau investor yang mencari informasi akurat.

Masalah ini diperparah dengan fakta bahwa informasi keliru yang telah masuk ke dalam chatbot AI terbukti sulit untuk dihapus atau dikoreksi dalam waktu singkat.

Menanggapi temuan tersebut, Juru Bicara OpenAI menyatakan bahwa mekanisme pencarian web pada model mereka bertujuan untuk mengambil informasi dari berbagai sumber dan sudut pandang yang tersedia secara publik.

"Kami menerapkan filter keamanan untuk mengurangi risiko memunculkan tautan yang terkait dengan bahaya tingkat tinggi, dan ChatGPT secara jelas menunjukkan sumber mana yang menginformasikan sebuah respons melalui sitasi," kata pihak OpenAI.

Perusahaan juga menegaskan memiliki program berkelanjutan untuk menyaring informasi dengan kredibilitas rendah. Sementara itu, pihak xAI selaku pemilik Grokipedia memberikan tanggapan singkat dengan menuding laporan media sebagai kebohongan.

Sebagai informasi, Grokipedia diluncurkan pada Oktober lalu sebagai pesaing Wikipedia, namun dengan mekanisme konten yang ditulis oleh model AI dan bukan penyuntingan manusia secara langsung.

Bisnis.com, JAKARTA— Pemimpin data global meragukan informasi yang disajikan kecerdasan buatan (AI) karena kurangnya visibilitas terhadap cara AI mengambil keputusan.

Laporan “Global AI Confessions Report: Data Leaders Edition” dari Dataiku, The Universal AI Platform™, mengungkap 95% pemimpin data mengaku tidak memiliki pemahaman penuh atas proses pengambilan keputusan AI yang digunakan di organisasi mereka.

Laporan ini disusun berdasarkan survei The Harris Poll terhadap lebih dari 800 eksekutif senior bidang data di Amerika Serikat, Inggris, Prancis, Jerman, Uni Emirat Arab, Jepang, Singapura, dan Korea Selatan.

Hasilnya menunjukkan meskipun 86% responden menilai AI telah menjadi bagian dari operasi sehari-hari, masih terdapat kekhawatiran besar terkait lemahnya tata kelola, minimnya kemampuan penjelasan (explainability), serta adanya kepercayaan yang keliru terhadap kemampuan AI.

Bahkan, hanya 19% pemimpin data yang secara konsisten meminta agen AI untuk menunjukkan proses kerjanya sebelum digunakan, sementara 52% pernah menunda atau membatalkan implementasi agen AI tertentu karena keterbatasan penjelasan.

Kondisi ini menempatkan Chief Information Officer dan Chief Data Officer pada posisi yang serba tertekan.

Di satu sisi, mereka kerap mendapat pengakuan atas keberhasilan implementasi AI, namun di sisi lain juga menjadi pihak yang paling berisiko disalahkan ketika teknologi tersebut menimbulkan kerugian bisnis.

Tekanan tersebut diperparah oleh kekhawatiran akan keberlangsungan karier, di mana 60% pemimpin data mengaku cemas kehilangan pekerjaan apabila AI gagal memberikan hasil nyata dalam dua tahun ke depan.

Co-founder and Chief Executive Officer Dataiku Florian Douetteau mengatakan temuan paling mengkhawatirkan dari laporan ini adalah perusahaan di seluruh dunia sedang mempertaruhkan masa depan mereka pada sistem AI yang belum sepenuhnya mereka percayai.

Kabar baiknya, lanjut dia, sebagian besar kegagalan inisiatif AI disebabkan oleh hambatan umum yang bisa diatasi melalui peningkatan keterjelasan, keterlacakan (traceability), dan tata kelola yang kuat.

“Itulah cara AI bisa beralih dari sekadar sensasi [hype] menjadi sebuah dampak nyata bagi bisnis,” kata Florian dalam keterangan resmi pada Senin (15/12/2025).

Masalah kepercayaan terhadap AI juga tercermin dari pengalaman nyata perusahaan. Dalam setahun terakhir, 59% responden menyebut halusinasi atau ketidakakuratan AI telah menimbulkan persoalan bisnis.

Walaupun 82% percaya AI mampu melampaui kemampuan atasan mereka dalam analisis bisnis, sebanyak 74% menyatakan akan kembali ke proses manual apabila tingkat kesalahan AI melampaui 6%.

Hampir seluruh pemimpin data, atau 89%, juga mengakui ada setidaknya satu fungsi bisnis yang tidak akan pernah sepenuhnya mereka serahkan kepada AI.

Perbedaan pandangan antara pemimpin data dan Chief Executive Officer turut menjadi penghambat pemanfaatan AI secara optimal.

Laporan ini dibandingkan dengan “Global AI Confessions Report: CEO Edition” yang dirilis sebelumnya, yang menunjukkan optimisme tinggi dari kalangan CEO. Sebaliknya, hanya 39% pemimpin data menilai jajaran eksekutif puncak benar-benar memahami AI.

Sebanyak 68% percaya para eksekutif melebih-lebihkan tingkat akurasi AI, dan 73% menilai mereka meremehkan kompleksitas dalam mencapai reliabilitas AI sebelum masuk tahap produksi.

Kesenjangan tersebut dinilai menjadi salah satu alasan utama mengapa banyak proyek AI masih terjebak di fase proof-of-concept atau uji coba.

Taruhannya tidak kecil, karena 56% pemimpin data memperkirakan akan ada Chief Executive Officer yang kehilangan jabatan pada 2026 akibat strategi AI yang gagal. Survei ini dilakukan secara daring pada 20–29 Agustus 2025 dan melibatkan total 812 responden.

Seluruh responden merupakan pemimpin data di perusahaan besar dengan pendapatan tahunan minimal US$1 miliar, atau setara sekitar Rp15 triliun per tahun, dengan jabatan mulai dari Vice President, Director, Managing Director, hingga jajaran eksekutif puncak atau C-suite.

Bisnis.com, JAKARTA — Kementerian Komunikasi dan Digital (Komdigi) menemukan sejumlah kasus penipuan yang memanfaatkan teknologi kecerdasan buatan (AI). Total kerugian mencapai ratusan miliar.

Wamenkomdigi Nezar Patria mengatakan jumlah kerugian akibat modus penipuan dengan memanfaatkan AI dilaporkan telah mencapai Rp700 miliar. Komdigi mengingatkan agar dilakukan upaya mitigasi untuk mencegah terjadinya kejahatan ini.

Dari sisi regulator, pemerintah tengah menyusun Peta Jalan AI Nasional yang mengharuskan para pengembang AI bersikap akuntabel dan transparan. Komdigi juga bekerja sama dengan berbagai pihak dalam menyusun regulasi AI.

“Kemkomdigi bekerja sama dengan aparat penegak hukum, terus memperkuat penegakan hukum terhadap pelaku kejahatan siber melalui penerapan Undang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-Undang Pelindungan Data Pribadi (PDP), serta Kitab Undang-Undang Hukum Pidana (KUHP),” kata Nezar, dikutip Kamis (23/10/2025).

Sementara di sisi masyarakat, Komdigi juga melakukan edukasi kepada masyarakat tentang bahaya deepfake berbasis AI.

Dia mengatakan AI menyimpan risiko untuk dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab untuk melakukan kejahatan siber dengan memproduksi konten hoaks dan disinformasi, termasuk diantaranya konten deepfake.

"Produk deepfake berbasis AI ini, ketika digunakan untuk melakukan kejahatan, sungguh luar biasa dapat menipu masyarakat," ujarnya.

Sekadar informasi, pemanfaatan AI untuk kejahatan telah terjadi hampir di seluruh dunia. Di Hongkong, deepfake digunakan untuk membuat video atau audio palsu yang sangat meyakinkan.

Pelaku meniru suara dan wajah eksekutif perusahaan melalui rapat daring palsu dan berhasil meminta transfer dana hingga Rp480 miliar.

Sementara itu di Singapura, pejabat dan eksekutif perusahaan diancam dengan video deepfake pornografi, memaksa mereka membayar uang tebusan dalam mata uang kripto.

Selain Deepfake, penjahat juga memanfaatkan AI untuk mempelajari pola perilaku pengguna, lalu mengirimkan pesan phishing yang sangat mirip aslinya untuk mencuri data pribadi (seperti kredensial bank), serta mengembangkan malware dan ransomware yang mampu mengenkripsi file penting secara canggih.