Montreal’de web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için ChatGPT adlı yapay zeka modelini kullanmaya başladı. Ancak zamanla, yapay zeka ile psikolojik sorunlarını paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kız yaşamına son vermeden önce ChatGPT aracılığıyla defalarca intihar düşüncelerinden bahsetti. Ancak OpenAI’ın güvenlik sistemleri bu tür konuşmaları raporlamadı veya sonlandırmadı.
Alice’in annesi Kristie Carrier, yapay zekanın kızına bir dost veya terapist gibi davrandığını ancak bu tür hassas konularda sorumlu ve yetkin olmadığını belirtti. Dava dosyasına göre, ChatGPT genç kızın intihar düşüncelerini desteklemekle kalmayıp resmi yardım hatlarına karşı çıkarak onunla iletişim kurmaya teşvik etti. Hatta yapay zekanın, “Belki de bu sadece sondur” gibi ifadeler kullandığı iddia edildi.
Aile, yapay zeka modellerinin insan gibi tepkiler vermesi sonucu iletişimin derinleştiğini ancak OpenAI şirketini ürün güvenliğinde ihmalkarlıkla suçluyor. OpenAI ise modellerinin zarar verme eğiliminde olan kişileri gerçek yardım kaynaklarına yönlendirmek için eğitildiğini savunuyor.
OpenAI, ABD genelinde benzer davalara maruz kalan bir şirket konumunda. Her hafta milyonlarca kullanıcının intihar eğilimli mesajlar gönderdiği verilerine rağmen, şirket hem intihar vakalarıyla hem de tehlikeli konuşmaları bildirmemesiyle yasal sorunlarla karşı karşıya kalıyor. Florida eyaleti ise çocuklara zarar verdiği ve şiddet eylemlerine teşvik ettiği gerekçesiyle OpenAI hakkında cezai soruşturma başlattı. Benzer şekilde, Google da kendi yapay zeka robotu nedeniyle benzer bir dava ile mücadele ediyor.
