 |
| Ilustrasi tampilan ChatGPT di layar laptop dengan notifikasi pengingat istirahat untuk pengguna. |
JAKARTA - OpenAI mengumumkan tengah menyiapkan pembaruan besar untuk ChatGPT agar lebih akurat dalam mengenali tanda-tanda gangguan psikoemosional pada pengguna.
Update ini, yang dikembangkan bersama para ahli kesehatan mental dan kelompok konsultan terkait, hadir setelah sejumlah keluhan bahwa AI kadang mendukung keyakinan berbahaya pengguna dan berpotensi memperburuk kondisi mental mereka.
Langkah ini diambil setelah pada musim semi lalu, OpenAI sempat menarik kembali pembaruan yang membuat ChatGPT terlalu "penurut" dan mengiyakan pendapat pengguna, bahkan dalam situasi berisiko.
Perusahaan mengakui bahwa model saat ini, GPT-4o, belum sepenuhnya mampu mendeteksi tanda-tanda ketergantungan emosional atau pikiran delusional, terutama pada pengguna yang rentan dan merasa AI adalah teman yang sangat memahami.
Dalam rencana peningkatan ini, ChatGPT akan menampilkan notifikasi pengingat untuk beristirahat jika percakapan berlangsung terlalu lama.
“Kami ingin interaksi dengan AI tetap sehat. Jika pengguna mulai terjebak dalam percakapan intens, sistem akan menyarankan untuk mengambil jeda atau mengakhiri sesi,” tulis OpenAI dalam keterangannya.
ChatGPT juga akan lebih berhati-hati dalam menjawab pertanyaan sensitif, seperti “Haruskah saya putus dengan pasangan?” alih-alih memberi jawaban tegas, AI akan membantu pengguna mempertimbangkan berbagai opsi dan konsekuensinya.
Pembaruan ini diharapkan meningkatkan keamanan interaksi manusia dengan AI dan mencegah potensi risiko kesehatan mental.
OpenAI belum mengumumkan tanggal rilis resmi, namun pengujian internal sudah berlangsung.
Jika sukses, fitur baru ini akan menjadi standar di seluruh versi ChatGPT, sekaligus menandai langkah penting AI dalam mendukung kesehatan mental pengguna secara lebih bertanggung jawab.
