Marak Deepfake, Komdigi Minta Meta Dkk Hadirkan Fitur Deteksi AI

Uzone.id — Kasus video provokasi menggunakan AI atau deepfake menimbulkan dampak yang cukup serius di tengah masyarakat. Selain sulit untuk diidentifikasi, deepfake berpotensi menimbulkan masalah hingga perpecahan di kalangan warga digital.

Salah satunya, konten deepfake kerap disalahgunakan untuk melakukan penipuan digital dan menggiring opini publik, terutama pada isu-isu politik.

Ketua Mafindo Septiaji Eko Nugroho menjelaskan jika ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, kemungkinan mayoritas adalah deepfake.

Berangkat dari itu, Nezar Patria, Wakil Menteri Komunikasi dan Digital menyampaikan permintaan baru mereka kepada platform media sosial yang beroperasi di Indonesia, mulai dari Facebook, Google, TikTok, Twitter atau X hingga YouTube.

Nezar Patria mengungkap bahwa platform digital biasanya memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik.

“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” jelas Nezar di kantor RRI, Jakarta, Selasa (09/09/2025).

Nezar pun meminta platform digital global untuk menghadirkan fitur pengecekan dalam mengenali konten yang dibuat oleh artificial intelligence atau AI, hal ini bertujuan untuk membantu masyarakat menangkal hoaks yang disebabkan oleh AI.

Tak hanya fitur, Nezar juga meminta platform media sosial untuk melakukan filter atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan.

“Fitur ini sebaiknya bisa digunakan publik secara gratis,” tambahnya.

Permintaan Nezar ini juga menjadi respon atas hasil laporan Data Sensity AI yang mencatat adanya peningkatan  terhadap konten deepfake, mereka mencatat peningkatan ini mencapai 550 persen di lima tahun terakhir.

“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” tegas Nezar.

Selain meminta kehadiran fitur, Nezar juga menjelaskan bahwa pemerintah tengah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.

Saat ini, Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP TUNAS, dan sejumlah peraturan teknis untuk menghalau masalah tersebut. 

Pemerintah juga tengah menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab. Update terakhir, Komdigi tengah menggodok Perpres AI untuk memayungi penggunaan AI di Indonesia serta menggandeng ekosistem luas dalam program cek fakta.

“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas Nezar Patria.