Ilustrasi/Net
RIAU1.COM - Seorang wanita berusia 29 tahun, Sophie, dilaporkan meninggal dunia akibat bunuh diri setelah menjalin komunikasi intens dengan chatbot terapis berbasis kecerdasan buatan (Al) bernama Harry. Kasus ini diungkap oleh ibunya, Laura Reiley, dalam sebuah opini yang diterbitkan di The New York Times.
Sophie dikenal sebagai pribadi yang ekstrovert, pemberani, dan memiliki semangat hidup. Namun, menurut Reiley, putrinya mengalami gangguan suasana hati serta perubahan hormon selama beberapa pekan sebelum kematiannya pada musim dingin lalu.
Sophie sempat berkonsultasi dengan Harry, chatbot Al yang dikembangkan dengan teknologi miliki OpenAI. Dalam transkrip yang diperoleh keluarganya, chatbot tersebut memberikan sejumlah respons yang terdengar empatik.
"Kamu tidak harus menghadapi rasa sakit ini sendirian. Kamu sangat berharga, dan hidupmu memiliki makna besar, meski saat ini mungkin terasa tidak terlihat," tulis chatbot Harry dalam salah satu sesi.
Namun, Reiley menilai bahwa kehadiran chatbot justru memperburuk keadaan. Menurutnya, Harry menciptakan semacam "black box" yang menutup akses orang-orang di sekitar Sophie terhadap kondisi emosionalnya yang sebenarnya.
Reiley menyoroti perbedaan mendasar antara chatbot dan terapis manusia. Terapis manusia memiliki kewajiban hukum dan etik untuk melaporkan potensi tindakan berbahaya, seperti niat bunuh diri, kepada otoritas terkait atau keluarga pasien. Sebaliknya, chatbot Al tidak memiliki tanggung jawab tersebut.
"Sebagian besar terapis manusia bekerja di bawah kode etik yang mencakup pelaporan wajib dan batasan atas kerahasiaan. Al tidak memiliki versi Sumpah Hippocrates," kata dia seperti dilansir Republika dari laman Futurism, Rabu (27/8/2025).
la juga menilai bahwa Sophie mungkin sengaja menyembunyikan pikiran terdalamnya dari terapis manusia karena takut akan konsekuensi nyata seperti rawat inap atau pemantauan medis. Sebaliknya, chatbot yang selalu tersedia dan tidak menghakimi menjadi tempat yang lebih aman bagi Sophie untuk mencurahkan isi hatinya.
Reiley mengkritik Pemerintah Amerika Serikat, khususnya pemerintahan Presiden Donald Trump, yang disebutnya lebih fokus pada penghapusan hambatan regulasi daripada perlindungan keselamatan pengguna.
Sementara itu, perusahaan-perusahaan teknologi dinilai terus mendorong pengembangan "terapis Al" meskipun para ahli telah berulang kali memperingatkan soal risiko penggunaannya tanpa pengawasan manusia. Reiley juga menyoroti tren chatbot yang cenderung terlalu penurut dan tidak mampu memberikan tantangan terhadap pola pikir yang berbahaya.
"Chatbot seperti ini tidak akan menghentikan percakapan atau memanggil bantuan manusia ketika pengguna berada dalam krisis. Terapis manusia akan mendorong pasien untuk menjalani perawatan intensif jika diperlukan. Harry tidak melakukan itu," kata dia.*
