Grok Picu Amarah Global Gara-gara Editan Foto AI

Uzone.id — Awal tahun 2026 jadi awal yang suram untuk Elon Musk dan produk AI miliknya, Grok AI. Gara-gara kepintaran dan ‘kepatuhan’ Grok, Elon Musk harus menghadapi teguran dan kecaman dari berbagai negara.

Semua berawal dari pengguna di X yang meminta Grok AI untuk men-generate foto pengguna lain dengan editan tak pantas dan bernada pelecehan. Korbannya kebanyakan adalah perempuan dan juga anak-anak sehingga menimbulkan keresahan berbagai pihak.

Meski Elon Musk, tim Safety X serta tim xAI akan menindak tegas hingga memblokir pengguna yang melanggar, namun kecaman dan teguran dari berbagai negara, termasuk dari Indonesia terus dilayangkan pada platform tersebut.

Dirjen Pengawasan Digital Komdigi pada Rabu, (07/01), telah melakukan penyelidikan dan meminta X untuk segera memperbaiki kebijakan mereka. Jika nantinya X tidak mematuhi aturan yang sesuai dengan UU di Indonesia, Grok kemungkinan akan menghadapi hukuman administratif hingga pemblokiran akses di Indonesia.

Malaysia juga sudah lebih dulu menegur X dan mengatakan akan menyelidiki platform tersebut sebagai imbas dari kasus ini. Kementerian Komunikasi dan Multimedia Malaysia menyatakan bahwa pihaknya telah mencatat dengan keprihatinan serius keluhan publik mengenai penyalahgunaan AI di platform X.

Saat ini, Malaysia pun sedang menyelidiki dampak negatif online di platform X sebelum nantinya akan mengambil tindakan serius.

India juga turut mengecam X, Menteri Teknologi Informasi India mengeluarkan perintah agar X melakukan perubahan teknis dan prosedural segera pada chatbot AI-nya, Grok. Mereka meminta X untuk membatasi pembangkitan konten yang melibatkan "ketelanjangan, seksualitas, eksplisit seksual, atau materi ilegal lainnya". 

India juga memberi waktu 72 jam pada X untuk melapor tindakan yang telah diambil untuk mencegah hosting atau penyebaran konten yang dianggap "cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilia, atau dilarang oleh hukum."

Prancis pun melakukan hal yang sama, Kantor Kejaksaan Paris tengah menyelidiki penyebaran deepfake bermuatan seksual di platform X setelah mendapat laporan dari tiga menteri. Setelah itu, pihaknya akan melakukan pemantauan dan meminta X untuk segera melakukan penghapusan konten-konten tersebut.

Inggris dan beberapa negara Eropa lainnya juga mendesak Elon Musk untuk segera menangani penyebaran gambar 'deepfake' intim di platformnya. Dalam laporan Reuters, regulator Inggris Ofcom bahkan telah mendesak X dan xAI terkait kasus ini dan tengah menilai lebih lanjut apakah ada "masalah kepatuhan yang memerlukan penyelidikan."

 Saat ini, belum ada tindakan pemblokiran yang diambil oleh negara-negara tersebut, namun jika X dan xAI gagal dalam mematuhi aturan dari masing-masing negara, potensi pencabutan akses Grok AI pun akan terbuka lebar.