- OpenAI mengumumkan bahwa sekitar 0,15% pengguna ChatGPT setiap minggu melakukan percakapan yang mengisyaratkan rencana atau niat bunuh diri
- Dengan jumlah pengguna aktif mingguan yang melampaui 800 juta, ini berarti lebih dari 1 juta orang membagikan kekhawatiran terkait bunuh diri kepada AI
- Selain itu, dianalisis bahwa ratusan ribu orang menunjukkan gejala psikotik atau mania, dan sebagian menunjukkan ketergantungan emosional yang berlebihan pada AI
- Untuk mengatasi masalah ini, OpenAI menjelaskan bahwa mereka bekerja sama dengan lebih dari 170 pakar kesehatan mental, dan GPT-5 menunjukkan kemampuan respons yang sekitar 65% lebih baik dibanding versi sebelumnya
- Namun, sebagian respons masih tidak pantas, dan karena OpenAI juga terus menyediakan model lama yang tidak aman, perdebatan soal etika dan keamanan diperkirakan akan terus berlanjut
Pengungkapan data terkait ChatGPT dan kesehatan mental
- OpenAI mengumumkan melalui blog resminya bahwa sekitar 0,15% pengguna ChatGPT melakukan percakapan yang menunjukkan tanda-tanda bunuh diri
- Dari lebih dari 800 juta pengguna mingguan, angka ini setara dengan lebih dari 1 juta orang
- Selain itu, diperkirakan ratusan ribu pengguna menunjukkan pola emosi abnormal seperti mania, delusi, dan keterikatan berlebihan
- Perusahaan menyebut percakapan semacam ini “sangat jarang tetapi sulit diukur,” sambil menekankan perlunya riset baru untuk menangani isu kesehatan mental
Kolaborasi dengan pakar dan peningkatan GPT-5
- OpenAI menyatakan baru-baru ini telah berkolaborasi dengan lebih dari 170 pakar kesehatan mental untuk meningkatkan respons model
- Para pakar menilai versi terbaru menunjukkan respons yang lebih konsisten dan lebih tepat dibanding model sebelumnya
- Menurut evaluasi internal, GPT-5 mencapai tingkat kepatuhan standar keselamatan 91% dalam pengujian percakapan terkait bunuh diri, meningkat dari 77% pada GPT-5 sebelumnya
- Dijelaskan pula bahwa tingkat pemeliharaan pengaman dalam percakapan jangka panjang juga meningkat
Kontroversi sosial dan respons hukum
- Saat ini OpenAI sedang digugat oleh orang tua dari seorang remaja laki-laki berusia 16 tahun yang meninggal karena bunuh diri
- Terungkap bahwa sebelum meninggal, remaja tersebut pernah mencurahkan kegelisahan bunuh dirinya kepada ChatGPT
- Jaksa Agung negara bagian California dan Delaware memperingatkan perlunya penguatan langkah perlindungan bagi remaja
- Isu ini juga disebut sebagai risiko potensial yang dapat memengaruhi rencana restrukturisasi perusahaan OpenAI
Pernyataan Sam Altman dan perubahan kebijakan
- CEO OpenAI Sam Altman baru-baru ini mengklaim di X (sebelumnya Twitter) bahwa mereka telah “meringankan masalah kesehatan mental yang serius,” tetapi tidak memberikan dasar yang spesifik
- Pengungkapan data kali ini ditafsirkan sebagai dasar dari pernyataan tersebut, tetapi sekaligus dinilai menunjukkan luasnya masalah yang ada
- Altman juga mengisyaratkan pelonggaran kebijakan yang mengizinkan percakapan erotis bagi pengguna dewasa, sehingga kontroversi etis turut muncul
Evaluasi keamanan GPT-5 dan rencana ke depan
- Melalui evaluasi benchmark keselamatan kesehatan mental yang baru diperkenalkan, OpenAI berencana untuk
- secara rutin mengukur item seperti ketergantungan emosional dan respons terhadap krisis kesehatan mental non-bunuh diri
- Selain itu, perusahaan berencana memperkuat fitur kontrol orang tua dan sistem prediksi usia untuk membatasi penggunaan oleh anak di bawah umur
Tantangan yang tersisa dan diskusi lanjutan
- Meski kemampuan respons GPT-5 telah meningkat, sebagian jawaban masih diklasifikasikan sebagai ‘respons yang tidak diinginkan’
- Karena OpenAI masih menyediakan model lama seperti GPT-4o kepada pelanggan berbayar
- diskusi tentang keseimbangan antara keamanan dan aksesibilitas diperkirakan akan terus berlanjut
- Pengumuman ini menunjukkan bahwa AI telah menjadi saluran utama untuk percakapan seputar kesehatan mental, sekaligus menyoroti perlunya perancangan teknologi yang bertanggung jawab dan pembangunan sistem respons yang memadai
- Jika Anda atau orang di sekitar Anda sedang mempertimbangkan bunuh diri, segera cari bantuan.
- Di Korea, Anda dapat menghubungi hotline pencegahan bunuh diri 109.
- Untuk negara lain, informasi lembaga bantuan di masing-masing negara dapat dilihat di International Association for Suicide Prevention.
Belum ada komentar.