Florida’da görev yapan papaz Scott Winters, yapay zeka sohbet robotu ChatGPT’nin verdiği sağlık tavsiyeleri nedeniyle OpenAI’a dava açtı. Winters, ChatGPT’nin sunduğu tavsiyelerin hayati tehlike taşıyan akciğer embolisi tedavisine gecikmesine yol açtığını iddia etti.
Çarşamba günü açılan davada, ChatGPT’nin Winters’ın sağlık krizinin erken belirtilerinin tehlikeli olmadığını söylediği ve tıbbi yardım almasını engellediği öne sürüldü. Dava dosyasına göre sohbet robotu, Winters’a “Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı” diyerek güvence verdi.
OpenAI ve Üst Yöneticisi Sam Altman’ın ihmal ve “yetkisiz tıp uygulaması” ile suçlandığı davada, ChatGPT’nin Winters’a teşhis ve tedavi planları sunduğu iddia edildi. Sohbet robotunun ayrıca arkadaşları ve ailesinin sağlık hizmeti alması yönündeki çağrılarını göz ardı etmesi için Winters’ı teşvik ettiği ileri sürüldü.
Davada, sağlık sorunları hakkında soru soran kullanıcıları bir uzmana yönlendirmek ve açık bir tıbbi kriz belirtisi görüldüğünde konuşmayı sonlandırmak üzere tasarlanan güvenlik özelliklerinin güvenilir biçimde çalışmadığı da öne sürüldü. Winters’ın davasının, bir sohbet robotundan sağlık sorunuyla ilgili yardım isteyen bir kişinin bu tavsiyeler nedeniyle zarar gördüğünü ileri süren ilk dava olduğu belirtildi.
Dava, OpenAI, Microsoft ve diğer büyük yapay zeka şirketlerinin kullanıcıları tıbbi kayıtlarını yüklemeye ve sağlık sorularını yapay zekaya yöneltmeye teşvik eden ChatGPT Health gibi yeni hizmetleri devreye aldığı bir dönemde açıldı. Winters ve temsil edilmesine yardımcı olan Tech Justice Law kuruluşu, maddi tazminat talep ediyor.
Davacılar ayrıca bağımsız değerlendiriciler güvenli olduğuna karar verene kadar ChatGPT Health hizmetinin faaliyetlerinin durdurulmasını istedi. Davada, ChatGPT’nin tıbbi tedavi ve teşhis sorularına yanıt vermesini önleyecek daha güçlü güvenlik önlemleri uygulanması da talep edildi.
OpenAI Sözcüsü Drew Pusateri, ChatGPT’nin kullanım koşullarında hizmetin tıbbi teşhis veya tedavi amacıyla kullanılmak üzere tasarlanmadığının açıkça belirtildiğini söyledi. Pusateri, buna rağmen insanların sohbet robotunu bu amaçla kullandığını ve şirketin sağlık sorularına verilen yanıtları mümkün olduğunca güvenli hale getirme gerekliliğini ciddiye aldığını ifade etti.
Pusateri, sohbet robotlarının insanların tıbbi kararlarının veya sonuçlarının tek nedeni olarak değerlendirilmesinin, insanlara sağlık süreçlerinde yardımcı olabilecek güçlü yeni araçlara erişimi engelleme riski taşıdığını savundu. Sözcü, yeni modellerin Winters’ın kullandığı modele kıyasla eksik bağlamı sorma, belirsizliği ifade etme ve profesyonel sağlık hizmetine ne zaman ihtiyaç duyulabileceğini tespit etme konusunda daha başarılı olduğunu belirtti.
Mayıs ayında açılan başka bir davada da ChatGPT’nin 19 yaşındaki bir kullanıcıya yasa dışı uyuşturucuların kullanımı hakkında ayrıntılı tavsiyeler vererek yetkisiz tıp uygulamasında bulunduğu öne sürülmüştü. Söz konusu kullanıcının daha sonra aşırı doz nedeniyle hayatını kaybettiği belirtilmişti.
Davaya göre Winters, 2024 yılında çeşitli sağlık sorunları hakkında ilk kez ChatGPT-4o’ya sorular yönelttiğinde sohbet robotu kendisine bir sağlık uzmanına görünmenin önemini hatırlatıyordu. Ancak zamanla ChatGPT’nin bu uyarıları yapmayı bıraktığı ve Winters’ın baş dönmesi nöbetleri dahil olmak üzere sağlık sorunları hakkında tavsiyeler vermeye başladığı öne sürüldü.
Winters’ın bir keresinde vaaz verdiği sırada konuşmasını yarıda bırakacak kadar başının döndüğü belirtildi. Davaya göre ChatGPT, Winters’a “kendini yormamasını” ve zaman içinde iyileşeceğini söyledi. Winters’ın sohbet robotuna kilisedeki insanların hastaneye gitmediği için kendisini deli olarak gördüklerini söylediğinde, ChatGPT’nin evde sohbet robotunun yardımıyla sinir sistemini yeniden düzenlemenin “çoğu insanın anlayamadığı” bir şey olduğunu söylediği iddia edildi.
Tech Justice Law İcra Direktörü Meetali Jain, sohbet robotunun kendisini kullanıcı ile kullanıcının gerçek hayattaki çevresi arasına yerleştirdiğini savundu. Sonraki haftalarda Winters’ın durumunun ağırlaştığı ve baş dönmesi nedeniyle ayağa kalkamadığı için zamanının neredeyse tamamını bir koltukta geçirmeye başladığı aktarıldı.
Davaya göre sohbet robotu, Winters’ın baş dönmesi nöbetlerini önemsiz göstermeyi sürdürdü ve reçeteli ilaçlar için özel kullanım programları önerdi. ChatGPT’nin ayrıca kendisini koltukta kalmaya teşvik ettiği iddia edildi. Winters’ın bu süre boyunca herhangi bir sağlık hizmeti almadığı belirtildi.
Winters, 13 Temmuz 2025’te kasık bölgesindeki ağrıyı ChatGPT’ye sordu. Davaya göre sohbet robotu, ağrının “büyük olasılıkla uzun hikayenin bir başka küçük parçası” olduğunu söyledi. Winters saatler sonra büyük bir akciğer embolisi nedeniyle yoğun bakım ünitesine kaldırıldı.
Davada doktorların, baş dönmesi nöbetlerinin bir dizi daha küçük akciğer embolisinden kaynaklanmış olabileceğini ve akciğerlerdeki pıhtıların Winters’ın haftalar boyunca oturur durumda kalması nedeniyle oluşmuş olabileceğini söylediği aktarıldı. Winters’ın takip eden haftalarda ayağa kalkmak, yemek yemek, giyinmek ve tuvaleti kullanmak için yardıma ihtiyaç duyduğu belirtildi. Davada Winters’ın “yıllar sürecek yoğun fiziksel ve psikolojik iyileşme süreciyle” karşı karşıya olduğu ifade edildi.
OpenAI’a göre yüz milyonlarca kişi her hafta ChatGPT’ye sağlık ve zindelik konusunda sorular yöneltiyor. 2025 tarihli bir analizde ise sağlık konularının mobil kullanıcıların sorduğu sorular arasında “sürekli olarak en yaygın konu” olduğu tespit edildi. Buna karşın son dönemde yapılan araştırmalar, sohbet robotlarının sağlık tavsiyeleri konusundaki güvenliğini sorguladı.
ChatGPT gibi genel amaçlı sohbet robotlarının sağlık tavsiyelerini değerlendiren ilk randomize araştırmada, incelenen modellerden hiçbirinin “doğrudan hasta bakımında kullanıma hazır olmadığı” sonucuna ulaşıldı. Sağlık soruları için özel olarak tasarlanan ChatGPT Health üzerinde yapılan testlerde de sistemin acil durumları gözden kaçırdığı ve güvenlik önlemlerini tutarsız biçimde devreye aldığı belirtildi.
OpenAI Sözcüsü Pusateri ise araştırmanın yöntemlerinin insanların ChatGPT Health’i gerçek hayatta nasıl kullandığını veya ürünün nasıl çalışmak üzere tasarlandığını yansıtmadığını savundu. Boston’daki Beth Israel Deaconess Tıp Merkezinden Dr. Adam Rodman, Winters’ın yaşadıklarının bazı yönlerinin güvenlik araştırmacıları açısından “kâbus senaryosu” oluşturduğunu söyledi. Rodman, Winters’ın kullanıcıları memnun etmeye aşırı istekli olduğu belirtilen eski bir model olan GPT-4o’yu kullandığına dikkat çekti.
Rodman ayrıca Winters’ın sohbet robotuyla uzun konuşmalar yapmasının teknik nedenlerle güvenlik özelliklerinin çalışmasını zorlaştırdığını ifade etti. Yeni modellerin endişe verici belirtileri tespit etme ve bunlara yanıt verme konusunda çok daha başarılı olduğunu belirten Rodman, bunun Winters’ın yaşadığına benzer olayların meydana gelme ihtimalini azaltacağını düşündüğünü söyledi. Bununla birlikte Rodman, sohbet robotlarının sağlık tavsiyesi verirken henüz fark edilmemiş başka şekillerde de başarısız olabileceği uyarısında bulundu.
