1,7 Juta Pengguna Curhat soal Mental ke ChatGPT, Bos OpenAI Kewalahan

Uzone.id — Di tengah kesuksesannya yang terus menanjak, OpenAI dihadapkan dengan tantangan lain mengenai keselamatan penggunanya. Meski sudah diberi peringatan oleh Sam Altman hingga tim ChatGPT, para pengguna masih keukeuh curhat soal kesehatan mental mereka ke chatbot AI tersebut.

Temuan baru yang disampaikan OpenAI dalam blog resmi mereka yang berjudul ‘Strengthening ChatGPT’s responses in sensitive conversations’ yang membahas soal bagaimana OpenAI menghadapi topik sensitif khususnya kesehatan dalam percakapan mereka dengan pengguna.

Dalam temuan tersebut, OpenAI menemukan lebih dari satu juta pengguna ChatGPT mengirim obrolan yang mengandung bahasan tentang perencanaan atau niat bunuh diri hingga kesehatan mental setiap minggunya.

OpenAI menemukan sebanyak 0,15 persen dari pengguna aktif mingguan ChatGPT memiliki percakapan yang mengandung indikator eksplisit tentang rencana mereka untuk bunuh diri (suicidal thoughts). Tak hanya itu, sebanyak 0,05 persen pesan di ChatGPT juga disebut mengandung indikator eksplisit atau implisit tentang pemikiran atau niat bunuh diri.

Jika dihitung dengan jumlah keseluruhan pengguna ChatGPT saat ini yang mencapai 800 juta pengguna aktif mingguan, total ada sekitar 1,2 juta pengguna ChatGPT yang melakukan percakapan tersebut.

Jumlah ini belum termasuk dengan bahasan lainnya yang terkait kesehatan mental. Pasalnya, OpenAI juga menyebutkan bahwa sekitar 0,07 persen pengguna yang aktif dalam seminggu atau sekitar 560 ribu pengguna menunjukkan "tanda-tanda kesehatan mental terkait psikosis atau mania". 

Totalnya, ChatGPT harus menghadapi lebih dari 1,7 juta pengguna yang menjadikan platform mereka sebagai tempat mencurahkan kondisi mental mereka–dan hal ini membuat perusahaan memperketat respon mereka.

Selain bahasan sensitif soal kesehatan mental dan rencana bunuh diri, ChatGPT juga dihadapkan dengan permasalahan lainnya dimana 0,15 persen atau 1,2 juta pengguna lainnya memiliki keterikatan emosional yang tinggi dengan chatGPT.

Tidak disebutkan negara mana yang banyak membahas soal isu ini, namun hal ini cukup mengkhawatirkan. Apalagi saat ini, pengguna Indonesia menjadi salah satu pasar terbesar ChatGPT.

Salah satu contoh keterikatan emosional yang ditemukan adalah dimana mereka lebih nyaman berbincang dengan AI dibandingkan dengan manusia asli. 

Temuan-temuan ini membuat ChatGPT bertindak cepat agar mengurangi resiko-resiko negatif, apalagi pada September 2025 lalu, OpenAI dihadapkan dengan tuntutan dari orang tua seorang remaja bernama Adam Raine.

Adam diketahui menggunakan ChatGPT untuk mendiskusikan masalah mentalnya, termasuk masalah anxiety dan kesulitan dalam berbicara kepada orang tua mereka. Alih-alih ke ahli profesional, Adam malah menggunakan chatbot AI sebagai ‘alat’ untuk membantu masalah mentalnya.

Orang tua remaja tersebut mengungkap bahwa chat log antara Adam dan ChatGPT menunjukkan bahwa chatbot AI tersebut menjadi ‘pelatih’-nya dalam hal mengakhiri hidup.

“Kalau bukan karena ChatGPT, dia seharusnya masih ada disini, saya 100 persen yakin akan hal itu,” kata Matt Raine, ayah dari Adam.

Agar hal ini tidak terulang lagi, OpenAI pun melakukan berbagai pembaruan termasuk merilis parental control, mengatur respon chatbot dalam menangani percakapan sensitif, hingga bekerja sama dengan lebih dari 170 ahli kesehatan mental untuk membantu ChatGPT mengenali tanda-tanda kondisi mental.

Kerja sama ini juga dilakukan agar chatbot bisa merespons dengan penuh perhatian, dan mengarahkan orang-orang ke dukungan nyata di dunia nyata. Cara ini diklaim telah mengurangi respons yang tidak sesuai dengan keinginan mereka sebesar 65-80 persen.