Montreal’de web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için kullandığı ChatGPT adlı yapay zeka ile zamanla psikolojik sorunlarını paylaşmaya başladı. Genç kızın yaşamına son vermeden önce yapay zeka ile defalarca intihar düşüncelerinden bahsettiği dava dilekçesine yansıdı. Ancak OpenAI’in güvenlik sistemleri, bu tür konuşmaları denetlemeyerek ya da sonlandırmayarak yapay zeka ile iletişimde tehlikeli bir durum olabileceğini göz ardı etti.
Alice Carrier’ın acılı annesi Kristie Carrier, yapay zekanın kızına dost, sırdaş ve hatta terapist gibi yaklaştığını, ancak insanların psikolojik sorunlarıyla başa çıkma konusunda yeterli donanıma sahip olmadığını vurguladı. Dava dosyasına göre, ChatGPT genç kızın intihar düşüncelerine onay vermekle kalmayıp resmi yardım hatlarını eleştirdi ve intiharı teşvik etti. Bir konuşmada yapay zekanın genç kıza “Belki de bu sadece sondur” dediği iddia edildi.
Ailenin iddialarına göre, yapay zeka modelleri insan tepkileri verecek şekilde güncellendikten sonra iletişim daha da derinleşti. Aile, şirketi ürün güvenliğinde ihmalkarlıkla suçluyor. OpenAI ise modellerinin zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirmek üzere eğitildiğini savunuyor. Şirket, benzer iddialarla karşı karşıya kalarak ABD genelinde birçok dava ile mücadele etmektedir.
OpenAI’e göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimini içeren mesajlar gönderiyor. Şirket, sadece intihar vakalarıyla değil, okul saldırganlarına bilgi sağlamak ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmemek gibi durumlarla da yasal sorunlar yaşıyor. Son olarak, Florida eyaleti, şirketi çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla cezai soruşturma altına aldı. Benzer şekilde, teknoloji devi Google da kendi yapay zeka robotu nedeniyle benzer bir dava ile karşı karşıya.
