Deepfake AI Semakin Parah, Bikin Rugi Warga RI hingga Rp700 M

Uzone.id — Perkembangan AI yang makin pesat tidak hanya memudahkan masyarakat tapi juga menimbulkan risiko baru yang tidak main-main. Salah satu yang perlu diwaspadai adalah konten deepfake ai yang banyak menyebar di media sosial.

Hal ini menjadi perhatian khusus bagi pemerintah, khususnya untuk Kementerian Komunikasi dan Digital. Wakil Menteri Komunikasi dan Digital Nezar Patria mengatakan bahwa produk-produk deepfake berbasis AI mudah menipu masyarakat ketika digunakan untuk melakukan kejahatan.

Nezar mengungkapkan bahwa jumlah kerugian akibat modus penipuan dengan memanfaatkan AI dilaporkan telah mencapai Rp700 miliar sehingga perlu upaya mitigasi untuk mencegah terjadinya kejahatan ini.

Sekarang ini banyak produk AI yang dibuat secara tidak etis dan dibuat untuk mengelabui masyarakat, salah satunya adalah dengan tidak mencantumkan keterangan bahwa konten tersebut dibuat oleh AI dan seakan-akan merupakan video asli.

"Kita masih melihat video atau gambar AI yang tidak mencantumkan logo produk AI. Saya pikir itu tidak etis," kata Nezar dalam acara KUMPUL Connect for Change Summit 2025, Selasa, (21/10).

Salah satu langkah yang diambil adalah penyusunan Peta Jalan AI Nasional yang mengharuskan para pengembang AI bersikap akuntabel dan transparan. Tak hanya itu, Kemkomdigi juga melakukan edukasi kepada masyarakat tentang bahaya deepfake berbasis AI.

"Kami mendorong semua pengembang untuk bersikap etis, transparan, dan akuntabel ketika mereka memproduksi platform berbasis AI," tegasnya.

Untuk menekan risiko akibat penggunaan AI (khususnya deepfake), Kemkomdigi akan bekerja sama dengan aparat penegak hukum terus memperkuat penegakan hukum terhadap pelaku kejahatan siber melalui penerapan Undang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-Undang Pelindungan Data Pribadi (PDP), serta Kitab Undang-Undang Hukum Pidana (KUHP).