Bisnis.com, JAKARTA — Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria menyoroti meningkatnya risiko penyalahgunaan kecerdasan buatan atau artificial intelligence (AI), terutama untuk penipuan digital dan pembuatan konten deepfake yang makin sulit dibedakan dari kondisi nyata.

Nezar mengatakan perkembangan AI berlangsung sangat cepat. Teknologi tersebut bahkan telah bergerak dari generative AI menuju agentic AI dan diperkirakan akan memasuki fase physical AI hingga quantum AI dalam beberapa tahun mendatang.

Menurutnya, kemajuan AI membawa manfaat bagi berbagai sektor. Namun, perkembangan teknologi tersebut juga memunculkan tantangan baru, khususnya terkait keamanan dan etika.

“Kita juga melihat bagaimana AI digunakan oleh pelaku kejahatan siber untuk berbagai bentuk penipuan atau scam. Kerugian yang dicatat oleh OJK pada tahun ini sekitar Rp9 triliun, dan banyak di antaranya yang menggunakan deepfake,” ujarnya dalam Indonesia Ethical AI Summit, Rabu (17/6/2026).

Nezar menjelaskan deepfake menjadi salah satu bentuk penyalahgunaan AI yang makin marak. Teknologi ini memungkinkan manipulasi suara, gambar, hingga video seseorang sehingga tampak meyakinkan.

Menurutnya, kemampuan AI menghasilkan konten sintetis yang menyerupai kondisi nyata telah melahirkan fenomena yang dikenal sebagai synthetic reality atau realitas sintetis.

“Sekarang suara kita bisa ditiru, gambar wajah kita juga bisa dihidupkan, dan dikonfigurasi dalam bentuk deepfake video yang dihasilkan oleh AI dengan kualitas yang sangat mulus yang disebut synthetic reality,” katanya.

Dia menilai masyarakat yang belum memahami perkembangan AI secara memadai menjadi kelompok yang paling rentan terhadap berbagai modus penipuan berbasis teknologi tersebut. Kondisi ini membuat pelaku kejahatan siber dapat membangun skenario penipuan yang lebih meyakinkan dibandingkan metode konvensional.

Karena itu, Nezar menekankan pengembangan dan adopsi AI perlu disertai penerapan prinsip etika yang kuat. Menurutnya, aspek transparansi, akuntabilitas, dan keamanan harus menjadi bagian dari proses pengembangan teknologi sejak tahap awal atau ethics by design.

“Jadi apa yang kita sebut sebagai transparency, accountability, safety, itu harus ada di dalam implementasi, di dalam pengembangan suatu produk AI,” ujarnya.

Lebih lanjut, dia menegaskan pembahasan etika AI tidak boleh berhenti pada tataran konsep. Pengembang teknologi, regulator, dan pengguna perlu memastikan prinsip-prinsip tersebut diterapkan agar risiko penyalahgunaan AI, termasuk deepfake dan penipuan digital, dapat ditekan.