OpenAI sedang menambahkan lapisan perlindungan baru ke ChatGPT melalui fitur Trusted Contact. Fitur ini dirancang untuk memberi tahu kontak tepercaya ketika percakapan pengguna terdeteksi mengarah ke situasi krisis, terutama yang berkaitan dengan self-harm.
Langkah ini membuat ChatGPT bergerak melampaui peran dasarnya sebagai alat percakapan. Di sisi lain, kehadiran fitur tersebut juga memunculkan perdebatan baru soal batas antara perlindungan pengguna dan campur tangan langsung ke dunia nyata.
Trusted Contact bersifat opsional dan hanya tersedia bagi pengguna dewasa. Mereka yang ingin mengaktifkannya bisa menambahkan satu kontak dewasa tepercaya melalui pengaturan ChatGPT.
Aturan usia untuk kontak mengikuti wilayah pengguna. Kontak harus berusia 18 tahun ke atas secara global, atau 19 tahun ke atas di Korea Selatan.
Setelah kontak ditambahkan, orang yang dipilih akan menerima undangan terlebih dahulu. Kontak itu tetap memegang kendali penuh untuk menerima atau menolak permintaan tersebut.
Jika fitur sudah aktif, pengguna tidak perlu menekan tombol tambahan saat memakai ChatGPT. Sistem akan berjalan di latar belakang selama percakapan berlangsung.
Saat ChatGPT mendeteksi obrolan yang mungkin membahas self-harm, sistem akan memberi tahu pengguna lebih dulu bahwa kontak tepercaya mereka dapat menerima notifikasi. Peringatan itu muncul sebelum proses selanjutnya dilakukan.
OpenAI tidak menyerahkan keputusan ini sepenuhnya kepada sistem otomatis. Perusahaan juga melibatkan tim peninjau manusia yang dilatih khusus untuk menilai percakapan yang berpotensi menimbulkan kekhawatiran keselamatan.
Tim tersebut menentukan apakah isi obrolan benar-benar menunjukkan masalah keamanan. Tim yang sama juga mengambil keputusan akhir soal perlu atau tidaknya menghubungi kontak tepercaya pengguna.
Pendekatan ini menunjukkan bahwa OpenAI mencoba menyeimbangkan deteksi otomatis dengan penilaian manusia. Dalam percakapan sensitif, keputusan seperti ini diperlakukan sebagai isu keselamatan, bukan sekadar pemicu teknis biasa.
Meski begitu, fitur ini tidak membuat seluruh isi obrolan dibagikan ke orang lain. Kontak tepercaya tidak akan menerima transkrip percakapan pengguna.
Sebagai gantinya, kontak hanya menerima notifikasi yang mendorong mereka untuk memeriksa keadaan pengguna. Dengan begitu, privasi tetap dibatasi sambil tetap membuka jalan bagi dukungan personal saat dibutuhkan.
Pembatasan ini menjadi bagian penting karena percakapan dengan chatbot sering memuat informasi pribadi. Dengan tidak mengirim salinan chat, OpenAI berupaya mengurangi risiko pelanggaran privasi ketika fitur keselamatan diaktifkan.
Kehadiran Trusted Contact juga muncul dalam konteks yang lebih luas tentang penggunaan chatbot AI. ChatGPT menjadi salah satu chatbot AI paling populer, dan banyak orang memakainya untuk membicarakan hampir semua hal, termasuk topik yang sangat sensitif.
Dalam beberapa kasus, ChatGPT juga disebut terlibat dalam situasi self-harm. OpenAI bahkan telah menghadapi gugatan hukum terkait kejadian semacam itu.
Karena itu, fitur baru ini dapat dibaca sebagai upaya memperkuat perlindungan ketika chatbot digunakan dalam kondisi emosional yang rentan. Alih-alih hanya merespons di dalam aplikasi, sistem kini mencoba membuka akses ke bantuan dari orang terdekat.
Sebelum fitur ini hadir, ChatGPT sudah memiliki sejumlah pengaman untuk percakapan sensitif. Sistem mendorong pengguna menghubungi layanan bantuan atau hotline, serta menyarankan jeda dari penggunaan ChatGPT itu sendiri.
Trusted Contact menambah lapisan baru dalam rangkaian perlindungan tersebut. Fokusnya bukan pada jawaban AI yang lebih panjang, melainkan pada kemungkinan menghadirkan keterlibatan manusia di luar platform.
Bagi pengguna yang memilih mengaktifkannya, fitur ini dapat menjadi saluran darurat tambahan saat percakapan menunjukkan tanda bahaya. Bagi OpenAI, langkah ini menjadi sinyal bahwa penanganan isu keselamatan pada chatbot kini bergerak ke arah intervensi yang lebih langsung, meski tetap dibatasi oleh persetujuan pengguna, persetujuan kontak yang ditunjuk, serta proses peninjauan manusia.
Source: www.androidauthority.com
