Elon Musk Siap Blokir User yang Edit Foto Tak Senonoh Pakai Grok

Uzone.id — Huru-hara edit foto tak pantas menggunakan Grok AI di X turut menjadi perhatian khusus pemilik platform, khususnya oleh Elon Musk. Setelah mendapatkan banyak laporan dari pengguna, Elon Musk akhirnya turun tangan dan mengecam pengguna nakal yang menyalahgunakan Grok AI untuk kepentingan pribadi (yang merugikan orang lain).

Dalam cuitannya, Elon Musk mengatakan bahwa tindakan mengedit foto yang tidak pantas apalagi tanpa consent merupakan pelanggaran dan akan mendapat hukuman yang setara dengan pelanggaran mengunggah konten ilegal.

“Siapapun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi hukuman seolah mereka mengunggah konten ilegal,” kata Elon Musk.

Lebih lanjut, dalam keterangan akun resmi keamanan X @Safety, X tak segan untuk menangguhkan bahkan memblokir secara permanen akun pengguna yang melakukan hal tersebut, khususnya kepada anak-anak.

“Kami akan menindak tegas konten ilegal di X, termasuk konten bermuatan pelanggaran seksual pada anak-anak (CSAM) dengan cara menghapus (postingan), menangguhkan secara permanen dan bekerja sama dengan pemerintah dan pihak berwenang apabila dibutuhkan,” tulisnya.

Tak hanya pemblokiran, pengguna yang meminta Grok untuk mengedit foto secara tidak pantas juga akan mendapat hukuman lain, terlebih untuk pengguna yang berlangganan dimana akan dilakukan penonaktifan monetisasi hingga penghapusan pembayaran dari X.

Sebelumnya, huru-hara mengenai editan tak pantas ini ramai dilakukan di X oleh akun-akun tidak bertanggung jawab. Mereka menggunakan bantuan Grok AI untuk mengedit foto pengguna lain dengan keyword bernada seksual.

Prompt yang tidak pantas ini dilakukan tanpa consent sehingga bisa dilihat siapapun dan diikuti oleh pengguna lainnya. Parahnya lagi, beberapa akun malah sengaja mencuri foto dari pengguna lain sehingga pengguna asli tidak mengetahui foto mereka dijadikan objek tidak pantas.

Targetnya adalah pengguna yang memiliki foto pribadi mereka di X, bahkan foto profil pun menjadi mangsa dari tindakan tidak terpuji ini. Hal ini menyebabkan pengguna  was-was dan takut foto mereka dijadikan sebagai target.