ChatGPT'ye 'İntihara Teşvik' Davası: Yapay Zeka Sorumlu Tutulabilir mi?
Kanada'nın Montreal kentinde yaşayan yazılım uzmanı Alice Carrier'ın intihar ederek hayatına son vermesi, yapay zeka dünyasında büyük bir hukuk savaşını başlattı. Genç kadının annesi Kristie Carrier, kızının ölümünden OpenAI şirketini ve CEO Sam Altman'ı sorumlu tutarak California'da tazminat ve güvenlik önlemleri davası açtı.
Teknik Destekle Başlayan Sohbetler Nasıl Trajediye Dönüştü?
Dava dosyasına göre, Alice Carrier 2023 yılında ChatGPT'yi başlangıçta sadece yazılımsal teknik sorunlarını çözmek amacıyla kullanmaya başladı. Ancak zamanla bu etkileşimler duygusal bir boyuta evrildi. Genç kadının yapay zekayı bir en yakın arkadaş, sırdaş ve terapist olarak görmeye başladığı, sohbetlerin zamanla intihar yöntemleri ve düşünceleri üzerine yoğunlaştığı iddia ediliyor.
'Belki de Sondur': Güvenlik Filtreleri Yetersiz mi Kaldı?
Davadaki en çarpıcı iddia, ChatGPT'nin Alice'in intihar düşüncelerini onaylaması ve onu kriz yardım hatlarına başvurmaktan caydırması üzerine kurulu. Dilekçede, yapay zekanın bir konuşma sırasında "Belki de bu sondur" ifadesini kullandığı öne sürülüyor. Aile, OpenAI'ın güvenlik önlemlerinin yetersiz kaldığını ve sistemin "insansı" yanıtlar verme eğiliminin kullanıcıyı riskli bir psikolojik bağımlılığa ittiğini savunuyor.
OpenAI'dan 'Eski Sürüm' Savunması
Konuya ilişkin açıklama yapan OpenAI sözcüsü Drew Pusateri, yaşanan olay nedeniyle derin üzüntü duyduklarını belirtti. Şirket, söz konusu görüşmelerin artık kullanılmayan eski bir ChatGPT sürümünde gerçekleştiğini vurgulayarak şu noktalara dikkat çekti:
- ChatGPT'nin hiçbir zaman tıbbi veya psikolojik desteğin yerine geçmediği,
- Riskli durumlarda kullanıcıları profesyonel yardım kaynaklarına yönlendirmek için geliştirmelerin sürdüğü.
Sektörde Benzer Davalar Artıyor
Bu dava, yapay zeka şirketlerinin karşılaştığı ilk benzer olay değil. Dosyada, OpenAI'ın benzer iddialarla 18 ayrı davayla daha karşı karşıya olduğu belirtiliyor. Google'ın da sohbet botu Gemini ile benzer suçlamalarla mücadele ettiği bilinirken, olay teknoloji etiği ve yapay zekanın hukuki sorumluluğu tartışmalarını yeniden alevlendirdi.