Marak Foto dan Video Palsu, Komdigi Minta Masyarakat Waspada Penipuan dengan AI

Hal itu disampaikan oleh Wakil Menteri Komunikasi dan Digital Nezar Patria. Ia meminta masyarakat mewaspadai berbagai aksi kriminalitas dan penipuan yang memanfaatkan teknologi AI.

"Kita bisa menyaksikan sekarang video-video yang dihasilkan oleh AI itu nyaris sempurna, banyak orang bahkan terkecoh, bukan hanya orang awam, para ekspert pun kadang-kadang terkecoh dengan video ataupun foto yang dihasilkan karena sangat mirip dengan yang asli," kata Nezar Patria di acara Syawal Fest PW GP Ansor Jawa Timur di Jatim International Expo, Surabaya dikutip dari laman resmi Komdigi, Selasa (15/04/2025).

Saat ini, menurut dia, ada penyalahgunaan AI dalam bentuk pemalsuan bukti transfer bank untuk menipu nasabah agar meyakini bahwa mereka telah menerima transfer uang di rekening. "Bukti transfer itu bisa dengan cepat dibuat, bahkan sampai dengan hologram yang ada di belakangnya, itu juga bisa ditiru," tegasnya.

Terkait hal itu, lanjut dia, Kementerian Komdigi telah berupaya memerangi penyalahgunaan AI melalui penerbitan Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Bahkan, berkaitan dengan tindak kejahatan keuangan dan perbankan, Kementerian Komdigi juga sudah berkoordinasi dengan OJK dan Bank Indonesia melalukan pencegahan dan mitigasi kerugian nasabah.

Dijelaskan oleh Nezar bahwa pemerintah juga menggunakan beragam aturan lain untuk mencegah terjadinya kejahatan dengan teknologi AI ini, yaitu Undang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-Undang Pelindungan Data Pribadi (PDP), Kitab Undang-Undang Hukum Pidana (KUHP), dan Undang-Undang Hak Cipta.

Namun demikian, Nezar Patria menyadari modus kejahatan dengan teknologi AI terus berkembang sehingga dibutuhkan regulasi yang lebih khusus. "Perkembangan penggunaan AI untuk memanipulasi dan menciptakan sesuatu yang baru itu jauh lebih cepat dari peraturan-peraturan yang kita hasilkan," katanya.

Saat ini, kata dia, pemerintah tengah menyusun sebuah peta jalan pengembangan AI. Targetnya, agar pemanfaatan teknologi AI di Indonesia dapat digunakan secara lebih positif serta mampu memitigasi risiko negatif yang mungkin terjadi.