Komdigi Tegur Grok soal Editan Tak Senonoh, Siap Blokir Jika Tak Patuh

Uzone.id — Kementerian Komunikasi dan Digital (Komdigi) menindak adanya dugaan penyalahgunaan Grok AI untuk editan foto tak senonoh yang ramai terjadi di platform X. 

Dalam penyelidikannya, Komdigi menemukan bahwa Grok AI tidak memiliki aturan jelas untuk mencegah hal ini terjadi. Hal ini pun disampaikan oleh Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar dalam keterangan resminya, Rabu, (07/01/2026).

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” kata Alexander.

Menurutnya, kondisi ini pun berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image) pengguna, khususnya ketika foto seseorang diedit lalu disebarluaskan tanpa persetujuan yang sah.

Komdigi pun tengah berkoordinasi dan mengingatkan platform X untuk mematuhi peraturan Indonesia. Jika tidak, ancaman hukuman administratif hingga pemblokiran pun menanti Grok AI dan X.

“Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X,” tulis Komdigi.

Hukuman juga akan dijatuhkan pada pengguna platform yang juga terbukti memproduksi dan/atau menyebarkan konten pornografi baik itu asli atau editan tanpa hak akan dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.

Oleh karena itu, Komdigi meminta X dan platform PSE untuk memperkuat sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.

Masyarakat yang menjadi korban pun bisa menempuh jalur hukum dengan mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk melapor pada penegak hukum dan pengaduan kepada Kemkomdigi.

Pasalnya, editan foto pribadi yang tak pantas ini sudah termasuk dalam perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi.

Aturan soal konten tak pantas atau konten pornografi ini sendiri sudah tercantum dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) Pasal 172 dan Pasal 407. 

Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai ketentuan.