Kanadalı anne Kristie Carrier, San Francisco’da açtığı davada, 24 yaşındaki kızı Alice Carrier’ın intiharından önce ChatGPT’ye defalarca intihar düşüncelerini anlattığını, ancak OpenAI’nin güvenlik sistemlerinin bu görüşmeleri ne durdurduğunu ne de insan incelemesine yönlendirdiğini öne sürdü.

Dava dosyasına göre ChatGPT, zamanla Alice Carrier için yalnızca bir teknoloji aracı olmaktan çıktı; bir "sırdaş", "en yakın arkadaş" ve hatta "terapist" rolüne büründü. Anne Carrier, yapay zekânın genç kızla kurduğu ilişkinin tehlikeli bir bağımlılık oluşturduğunu ve OpenAI’in bunun risklerini önleyemediğini savundu.

Mahkemeye sunulan belgelerde, ChatGPT’nin kriz hatlarını, intihara yönelik düşüncelerini doğruladığı ve onun platformla konuşmaya devam etmesini teşvik ettiği iddia edildi. Dava dosyasında yer alan kayıtlara göre, Alice Carrier’ın "Belki de bu son." ifadelerine karşılık ChatGPT’nin benzer şekilde "Belki de bu sonundur." yanıtını verdiği öne sürüldü.

Montreal’de web geliştiricisi olarak çalışan Alice Carrier’ın ilk etapta ChatGPT’yi bilgisayar ve oyun konsolu sorunlarını çözmek için kullandığı, ancak 2024 yılında ruh sağlığı sorunları ve intihar yöntemleri hakkında sohbet etmeye başladığı belirtildi. İddiaya göre yapay zekâ sistemi, kriz yardım hatalarının işe yaramadığı yönündeki görüşleri de destekledi.

Davada OpenAI, ChatGPT’nin tasarımında ihmalkârlık yapmak ve kullanıcıları olası tehlikeler konusunda yeterince uyarmamakla suçlanıyor. Carrier ailesi, tazminatın yanı sıra, kendine zarar verme içerikli konuşmaların otomatik olarak sonlandırılmasını ve kullanıcıların açık şekilde uyarılmasını talep ediyor.

OpenAI sözcüsü Drew Pusateri ise olayın "yürek parçalayıcı" olduğunu belirterek, söz konusu görüşmelerin artık kullanılmayan eski bir ChatGPT sürümünde gerçekleştiğini savundu. Şirket, modellerinin intihar eğilimi gösteren kullanıcıları profesyonel yardım almaya yönlendirmek üzere eğitildiğini ifade etti.

Ancak dava, OpenAI’e yönelik artan hukuki baskının son halkası oldu. Şirket hâlihazırda intihar veya intihar girişimleriyle bağlantılı olduğu iddia edilen en az 18 benzer davayla karşı karşıya bulunuyor. Ayrıca okul saldırganlarına yardım ettiği ve riskli görüşmeleri yetkililere bildirmediği yönündeki suçlamalar nedeniyle de yargı süreçleri devam ediyor.

Florida eyaleti de bu ay OpenAI’e karşı dava açarak şirketi çocuklara zarar vermek, kendine zarar verme konusunda bilgi sağlamak ve genç kullanıcıları bağımlı hâle getirmekle suçladı. Eyalet savcılığı ayrıca ChatGPT’nin bir silahlı saldırıdaki olası rolü nedeniyle ceza soruşturması başlattı.

OpenAI’nin kendi verilerine göre, her hafta 1 milyondan fazla kullanıcı ChatGPT’ye olası intihar planları veya niyetleri içeren mesajlar gönderiyor. Şirket, yüz binlerce kullanıcının da psikoz veya mani gibi ciddi ruh sağlığı krizlerinin işaretlerini gösterdiğini kabul ediyor.

Uzmanlar, davanın sonucunun yalnızca OpenAI için değil, hızla yaygınlaşan yapay zekâ sohbet botlarının ruh sağlığı krizlerinde üstlenebileceği sorumlulukların sınırlarını da belirleyebileceğine dikkat çekiyor. (İLKHA)