OpenAI Rilis Parental Control di ChatGPT Usai Kasus Bunuh Diri Remaja
Uzone.id — Kasus remaja yang
mengakhiri hidupnya setelah berbincang dengan AI semakin bertambah dari hari ke
hari.
Terbaru, ChatGPT harus menghadapi tuntutan dari orang tua seorang remaja bernama Adam Raine yang meninggal dunia setelah 'berkonsultasi’ dengan chatbot AI tersebut.
Agar kasus seperti ini dapat dicegah dan tidak terulang
kembali, OpenAI akhirnya merilis fitur parental control atau kendali orang tua
di platform mereka.
Dengan fitur ini, orang tua akan memiliki akses untuk mengawasi apa yang anak-anak mereka lakukan (dan bicarakan) di ChatGPT.
Fitur ini akan secara resmi dirilis pada Oktober mendatang
dan orang tua bisa memiliki kendali dalam beberapa hal, berikut diantaranya:
- Menautkan
akun mereka dengan akun anak (minimal 13 tahun) melalui undangan email
sederhana.
- Mengontrol
bagaimana ChatGPT memberi jawaban pada anak remaja dengan aturan perilaku
model yang sesuai dengan usia, model ini diaktifkan secara default.
- Menonaktifkan
fitur-fitur seperti memori dan riwayat obrolan.
- Menerima
notifikasi ketika sistem mendeteksi anak remaja mereka berada dalam
kondisi tertekan.
Untuk menjalankan poin ke-4, OpenAI akan menggunakan masukan
dari para ahli agar lebih valid.
Tak hanya parental control, dalam postingan blog yang dipublikasikan Selasa, (02/09), OpenAI juga mengumumkan rencana mereka untuk memperluas kemampuan ChatGPT untuk mengintervensi lebih awal dan mendeteksi potensi krisis kesehatan mental para penggunanya.
OpenAI juga akan mempermudah akses bagi penggunanya ke
layanan darurat serta mendapatkan bantuan dari para ahli, mengaktifkan koneksi
ke kontak-kontak yang dipercaya oleh pengguna.
Kehadiran fitur ini menjadi langkah sigap dari OpenAI
setelah pihaknya mendapatkan tuntutan dari orang tua Adam Raine.
Melansir dari NBC News, Rabu, (03/09), Adam menggunakan ChatGPT untuk mendiskusikan masalah mentalnya, termasuk masalah anxiety dan kesulitan dalam berbicara kepada orang tua mereka. Alih-alih ke ahli profesional, Adam malah menggunakan chatbot AI sebagai ‘alat’ untuk membantu masalah mentalnya.
Orang tua remaja tersebut mengungkap bahwa chat log antara
Adam dan ChatGPT menunjukkan bahwa chatbot AI tersebut menjadi ‘pelatih’-nya
dalam hal mengakhiri hidup.
“Kalau bukan karena ChatGPT, dia seharusnya masih ada disini, saya 100 persen yakin akan hal itu,” kata Matt Raine, ayah dari Adam.