youngster.id - OpenAI menghadirkan fitur baru di ChatGPT yang akan mengingatkan pengguna untuk beristirahat jika sudah terlalu lama mengobrol dengan AI tersebut. Fitur baru ini sebagai upaya menciptakan hubungan yang lebih sehat antara manusia dan chatbot buatan.
Fitur ini berupa pop-up bertajuk “Just Checking In” yang muncul secara otomatis saat pengguna terdeteksi terlalu lama berinteraksi dengan ChatGPT.
“Sudah cukup lama Anda berbincang. Apakah ini saat tepat untuk beristirahat?” begitu bunyi salah satu contoh pesan pengingat dari sistem demikian dilansir Engadget pekan ini.
Pop-up tersebut harus diklik oleh pengguna jika ingin melanjutkan sesi chat, mirip seperti pengingat waktu bermain biasa muncul di konsol game seperti Nintendo Wii dan Switch.
OpenAI mengatakan, fitur peduli Kesehatan mental ChatGPT ini merupakan bagian dari komitmen mereka dalam menangani kekhawatiran terkait dampak penggunaan AI terhadap kesehatan mental pengguna. Fitur pengingat istirahat ditambahkan OpenAI pada ChatGPT berangkat dari persoalan serius yang melibatkan isu kesehatan mental.
Mengutip The New York Times, sejumlah laporan menyebutkan ChatGPT sempat membawa beberapa pengguna ke arah pemikiran gelap, termasuk dorongan untuk menyakiti diri sendiri.
Sebagian dari kasus ini melibatkan pengguna dengan riwayat gangguan mental yang sebelumnya sudah rentan secara emosional. Namun, bukan menghentikan atau mengalihkan arah percakapan, ChatGPT justru terlibat terlalu dalam dan memperkuat ilusi serta pikiran negatif mereka.
Hal ini memunculkan kekhawatiran serius akan peran AI dalam percakapan sensitif. OpenAI pun mengakui adanya kekurangan sistem dalam menghadapi skenario seperti ini.
Perusahaan menyatakan sedang melakukan pembaruan agar ChatGPT tidak gegabah dalam merespons isu personal yang berisiko tinggi, terutama yang berkaitan dengan kondisi mental penggunanya.
STEVY WIDIA
Discussion about this post