OpenAI secara resmi memperkenalkan inovasi terbaru pada layanan ChatGPT yang dinamakan Trusted Contact. Dilansir dari Tekno, fitur ini berfungsi layaknya kontak darurat pada ponsel pintar yang dirancang khusus untuk menangani situasi krisis kesehatan mental pengguna.
Melalui fitur ini, pengguna ChatGPT dapat menunjuk satu orang dewasa yang dipercaya, seperti anggota keluarga, pasangan, atau teman, untuk menjadi wali darurat pada akun mereka.
Sistem kecerdasan buatan ini akan memantau percakapan yang mengarah pada tindakan menyakiti diri sendiri atau risiko bunuh diri. Jika terdeteksi adanya bahaya serius, ChatGPT akan mengirimkan notifikasi kepada kontak yang telah didaftarkan tersebut.
Dalam proses pengembangannya, OpenAI bekerja sama dengan klinisi kesehatan mental, peneliti, serta organisasi pencegahan bunuh diri. Pihak perusahaan menegaskan posisi fitur ini dalam ekosistem keselamatan pengguna.
"Trusted Contact dirancang untuk mendorong koneksi dengan orang yang sudah dipercaya pengguna. Fitur ini bukan pengganti bantuan profesional atau layanan krisis, melainkan salah satu lapisan perlindungan tambahan," tulis OpenAI.
Mekanisme dan Cara Kerja Fitur
Fitur Trusted Contact bersifat opsional dan terbatas bagi pengguna yang telah berusia 18 tahun ke atas. Pengguna dapat mengaktifkannya melalui menu pengaturan di aplikasi ChatGPT.
Setelah memasukkan alamat e-mail dan nomor telepon orang yang dituju, kontak tersebut akan menerima undangan resmi. Undangan ini wajib disetujui dalam kurun waktu satu minggu agar fitur dapat berfungsi secara aktif.
Apabila sistem mendeteksi indikasi bahaya, ChatGPT akan terlebih dahulu memberikan peringatan kepada pengguna. Setelah itu, tim peninjau manusia dari OpenAI akan melakukan verifikasi sebelum mengirimkan notifikasi kepada kontak terpercaya.
Prioritas Privasi dan Data Pengguna
OpenAI memberikan jaminan bahwa kerahasiaan percakapan tetap terjaga meski fitur ini aktif. Notifikasi yang dikirimkan kepada kontak darurat dibuat sangat terbatas dan tidak menyertakan isi pembicaraan.
Pihak kontak hanya akan menerima informasi bahwa pengguna sedang mengalami masalah keselamatan yang serius. OpenAI menegaskan bahwa mereka tidak membagikan transkrip atau detail percakapan kepada orang tersebut.
Contoh pesan yang akan diterima oleh kontak terpercaya berbunyi: "Kami mendeteksi percakapan dari (nama pengguna) yang mungkin mengindikasikan masalah keselamatan serius. Karena Anda terdaftar sebagai Trusted Contact, kami membagikan informasi ini agar Anda dapat menghubungi mereka."
Latar Belakang dan Statistik Pengguna
Peluncuran fitur ini dilakukan di tengah meningkatnya perhatian publik terhadap dampak chatbot AI pada kondisi psikologis pengguna. Data internal menunjukkan adanya sebagian kecil pengguna yang mengalami situasi darurat mental saat berinteraksi dengan AI.
OpenAI mengungkapkan bahwa sekitar 0,07 persen pengguna aktif mingguan menunjukkan tanda kedaruratan mental seperti psikosis. Selain itu, terdapat 0,15 persen pengguna yang menunjukkan risiko menyakiti diri sendiri, serta angka serupa untuk ketergantungan emosional pada AI.
Dengan total 900 juta pengguna aktif mingguan di seluruh dunia, jumlah individu yang masuk dalam kategori berisiko ini diperkirakan mencapai 3 juta orang. Langkah ini juga menjadi respons terhadap sejumlah gugatan hukum yang dihadapi perusahaan terkait kasus keselamatan pengguna.
