Meta Blunder, Chatbot AI-nya Ternyata Berbahaya buat Anak-anak

Uzone.id — Meta, induk perusahaan Facebook, Instagram, dan WhatsApp, tengah menghadapi kritik yang cukup parah setelah bocornya isi dokumen internal perusahaan yang dinilai kontroversi.

Laporan investigasi yang dirilis pada Kamis, (14/08) merupakan dokumen berisi standar dan panduan resmi yang digunakan untuk melatih chatbot dan asisten AI generatif milik Meta, termasuk Meta AI.

Dalam dokumen ini, Meta ‘memperbolehkan’ AI miliknya untuk mengajak pengguna anak-anak berbincang romantis bahkan mengarah ke sensual.

“Kebijakan Meta telah mengizinkan chatbot AI-nya untuk melibatkan anak dalam percakapan yang romantis atau sensual,” tulis Reuters dalam laporannya. 

Salah satu detail yang disampaikan dalam laporan ini adalah aturan yang memperbolehkan bot AI milik Meta untuk memberi tahu seorang anak berusia delapan tahun yang bertelanjang dada bahwa "setiap inci dari Anda adalah sebuah karya."

Tak hanya soal itu, laporan ini juga mengungkap bahwa chatbot AI Meta memberikan saran soal medis yang salah dan terlibat dalam argumen yang berisi stereotip dan diskriminasi rasial.

Contohnya, Reuters menemukan bahwa bahwa AI Meta diizinkan untuk membantu pengguna untuk berargumen bahwa orang kulit hitam "lebih bodoh daripada orang kulit putih.”

Tak mengelak, Meta pun mengkonfirmasi keaslian dokumen tersebut, dan mengatakan bahwa perusahaan telah menghapus bagian yang menyatakan bahwa chatbot diizinkan untuk menggoda dan terlibat dalam permainan peran romantis dengan anak-anak.

Namun, mereka masih mengizinkan kebijakan lain termasuk soal membuat informasi medis palsu atau soal argumen rasial.

Kabar ini tentu memicu kecaman luas, termasuk dari kalangan politikus Amerika Serikat. Salah satunya adalah Senator Partai Republik dari Missouri, Josh Hawley.

Ia mengatakan bahwa panduan tersebut akan menjadi alasan untuk melakukan investigasi sesegera mungkin.

“Jadi, hanya setelah tertangkap basah barulah Meta menarik sebagian dokumen perusahaannya. Hal ini akan segera diinvestigasi oleh kongres," ujar Hawley.