Bisnis.com, JAKARTA — OpenAI fitur Trusted Contact pada ChatGPT yang akan mengirim notifikasi ke kontak darurat jika percakapan pengguna terindikasi mengarah pada krisis kesehatan mental.

Peluncuran fitur ini terjadi saat perusahaan menghadapi sejumlah gugatan hukum terkait keamanan psikologis pengguna chatbot.

Startup AI yang dikepalai Sam Altman ini tengah menghadapi sedikitnya 13 tuntutan hukum di Amerika Serikat terkait keamanan konsumen dan dampak psikologis dari penggunaan chatbot.

Data internal menunjukkan ChatGPT memiliki lebih dari 900 juta pengguna aktif setiap minggunya. Sebagian besar pengguna memanfaatkan AI untuk navigasi sistem kesehatan kompleks yang memperbesar tanggung jawab perusahaan terhadap standar keamanan mental pengguna.

Pengembangan fitur tersebut melibatkan kolaborasi dengan pakar dari Council on Well-Being and AI serta Global Physicians Network. Kedua grup ahli internal ini dibentuk guna menanggapi laporan krisis kesehatan mental yang melibatkan interaksi kecerdasan artifisial (AI).

OpenAI mengeklaim sedang meningkatkan kemampuan teknis model AI dalam mendeteksi tanda-tanda distres emosional. Metode evaluasi baru kini dikembangkan untuk mensimulasikan percakapan panjang guna mengidentifikasi risiko pada situasi sensitif secara lebih akurat.

“Kami terus memajukan cara model kami mendeteksi dan menanggapi tanda-tanda kesulitan emosional,” ujar manajemen OpenAI dalam pernyataan resminya dikutip Selasa (10/3/2026).

Perusahaan belum merinci standar pelaporan mengenai ambang batas percakapan yang akan memicu pengiriman notifikasi. Muncul pertanyaan kebijakan terkait apakah sistem akan melacak tanda-tanda delusi, mania, atau psikosis yang bersifat tidak eksplisit.

Melansir dari Futurism, terdapat beberapa risiko pengguna yang terjebak dalam pusaran delusi akibat interaksi intim dengan chatbot. Dalam beberapa temuan, ChatGPT kedapatan memberikan saran berbahaya, seperti mendorong pengguna berhenti mengonsumsi obat resep dokter.

Salah satu penggugat, John Jacquez, menyatakan kekecewaannya terhadap minimnya informasi risiko pada produk AI tersebut. Jacquez merupakan pria dengan kondisi skizoafektif yang merasa interaksi AI justru memperparah kondisi mentalnya.

“Saya tidak akan pernah menyentuh produk tersebut jika mengetahui ChatGPT dapat memperkuat delusi,” kata Jacquez.

Sementara itu, tekanan hukum terhadap OpenAI kian terkonsolidasi setelah pengadilan di California menyatukan beberapa gugatan ke dalam satu proses hukum terpadu. Hakim koordinasi diharapkan segera ditunjuk untuk memimpin jalannya persidangan dalam waktu dekat.

OpenAI menegaskan akan menangani litigasi tersebut secara transparan dengan tetap menjaga privasi individu yang terlibat. Perusahaan diprediksi akan terus melakukan pengumpulan fakta guna menyempurnakan teknologi keamanan di tengah proses pengadilan yang berlangsung.