WASPADA! Deepfake AI Jadi Ancaman Serius, Penipuan Digital Makin Sulit Dibedakan dari Asli

JAKARTA, KLIKSOLONEWS.COM – Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) dinilai semakin meningkatkan kompleksitas ancaman penipuan digital di Indonesia.

Teknologi AI kini mampu menciptakan konten palsu yang sangat realistis sehingga sulit dibedakan dari kenyataan.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, mengingatkan bahwa penyalahgunaan AI, terutama melalui teknologi deepfake, menjadi tantangan serius di bidang etika dan keamanan digital.

Baca Juga: Dari Deepfake hingga Transfer Palsu: Ancaman Nyata AI di Dunia Maya

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Nezar dalam Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/06/2026).

Nezar menjelaskan perkembangan AI saat ini berlangsung sangat cepat, bahkan telah bergerak dari generative AI menuju agentic AI dengan kemampuan pengambilan keputusan yang lebih mandiri.

Namun di sisi lain, kemajuan tersebut juga membuka ruang baru bagi kejahatan siber. Pelaku kejahatan digital kini dapat memanfaatkan AI untuk melakukan penipuan (scam) dengan teknik manipulasi visual dan suara yang semakin meyakinkan.

Menurutnya, kondisi ini telah menciptakan fenomena yang disebut synthetic reality atau realitas sintetis, di mana masyarakat sulit membedakan antara konten asli dan hasil rekayasa.

“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.

Dorong Prinsip Human in the Loop

Dalam menghadapi perkembangan agentic AI, Nezar menekankan pentingnya prinsip human in the loop, yaitu keterlibatan manusia dalam proses pengambilan keputusan sistem AI.

Baca Juga: Polda Jateng Bongkar Penipuan Modus Pig Butchering di Solo Baru, Sindikat Raup Rp41 Miliar

Sejumlah pakar, kata dia, juga mendorong adanya protokol ketat agar keputusan penting tidak sepenuhnya diserahkan kepada mesin.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.