Gara-gara Grok, Meta hingga TikTok Dituding Sebar Foto AI Tak Senonoh

Uzone.id — Kasus penyalahgunaan AI untuk konten-konten tak senonoh tak hanya menimpa Grok AI saja, baru-baru ini AI milik Meta dan juga media sosial TikTok ikut terkena tuduhan telah menyebarkan konten AI tak pantas yang menargetkan anak-anak.

Hal ini disampaikan oleh Perdana Menteri Spanyol yang telah memerintahkan jaksa penuntut umum untuk menyelidiki platform media sosial X, Meta, dan TikTok atas dugaan tersebut.

“Platform-platform ini merusak kesehatan mental, martabat, dan hak-hak anak-anak kita,” tulis Perdana Menteri Pedro Sanchez di akun X-nya, dikutip dari Reuters, Rabu, (18/02).

Praktik ini mencakup perilaku anti-persaingan dalam periklanan digital hingga desain yang sengaja dibuat agar membuat pengguna semakin kecanduan.

Spanyol sendiri menjadi salah satu negara yang tengah memperketat penggunaan media sosial untuk pengguna di bawah umur. Salah satunya adalah pelarangan akses ke platform media sosial bagi mereka yang berusia di bawah 16 tahun, dengan menggambarkan platform media sosial sebagai “Wild West digital”.

Selain Spanyol, beberapa negara seperti Australia, Malaysia hingga Indonesia juga sudah memperketat aturan soal pengguna di bawah umur. Termasuk meminta platform untuk menyediakan fitur verifikasi usia.

Contohnya, platform media sosial seperti Facebook dan TikTok sudah mewajibkan syarat pendaftaran pengguna hanya untuk mereka yang berusia minimal 13 tahun. Meta juga sudah menyediakan akun khusus remaja yang dibuat lebih ramah dan aman.