Aplikasi Mirip Grok Marak di Toko Aplikasi, Apa Kata Google dan Apple?

Uzone.id — Kontroversi editan foto menggunakan AI yang disalahgunakan menjadi foto-foto tak pantas membuat GRok AI–chatbot buatan Elon Musk—menjadi bulan-bulanan, bahkan sampai kena hukum beberapa negara.

Di Indonesia dan beberapa negara, aplikasi Grok sampai kena blokir gara-gara jadi wadah untuk membuat editan gambar AI yang tak pantas dan melecehkan. Tapi, Grok AI bukan satu-satunya aplikasi AI yang bisa menghasilkan konten tak pantas.

Nyatanya, penyelidikan terbaru oleh Tech Transparency Project (TTP) menunjukkan bahwa ada 55 aplikasi di Google Play Store yang bisa melakukan hal serupa dan masih bisa diakses bebas hingga saat ini. Bahkan, ada 47 aplikasi serupa di Apple App Store.

Artinya, pengguna Android dan Apple memiliki akses bebas dan mudah ke puluhan aplikasi yang dapat menciptakan gambar-gambar seksual seperti Grok AI.

Melansir dari laporan yang AppMagic, aplikasi-aplikasi ini sudah diunduh lebih dari 705 juta kali di seluruh dunia dan menghasilkan pendapatan sebesar USD117 juta.

Google dan Apple dianggap memberi ruang promosi dan menawarkan aplikasi-aplikasi ini meskipun aplikasi tersebut melanggar kebijakan toko aplikasi. 

Misalnya, Google Play Store secara terang-terangan melarang "gambaran ketelanjangan seksual atau pose yang bersifat seksual di mana subjeknya telanjang" atau "berpakaian minim." 

Mereka juga melarang aplikasi yang "merendahkan atau mengobjektifikasi orang, seperti aplikasi yang mengklaim dapat melepas pakaian orang lain.”

Apple juga menyatakan bahwa aplikasi yang ada di platform mereka tidak boleh menghasilkan konten yang "menyinggung, tidak sensitif, mengganggu, dimaksudkan untuk menjijikkan, memiliki selera yang sangat buruk, atau sekadar menakutkan," termasuk "materi seksual yang eksplisit atau pornografi." 

Namun, setelah adanya laporan ini, Google dan Apple pun dilaporkan telah menyoroti aplikasi-aplikasi tersebut.

Apple menyatakan telah menghapus 28 aplikasi yang diidentifikasi dan memperingatkan pengembang aplikasi lain terkait pelanggaran ini. Sementara Google disebut telah mencabut akses 31 aplikasi AI di platformnya.