ABD'de yaşanan bir olay, yapay zekânın sağlık alanında kullanılmasına ilişkin tartışmaları yeniden gündeme taşıdı. 39 yaşındaki David Rosenthal, doktorunun önerileri yerine ChatGPT'den aldığı tıbbi yönlendirmelere güvendiğini ve bunun sonucunda ruh sağlığının bozulduğunu iddia etti. Haftalarca hastanede tedavi gördüğünü belirten Rosenthal, yapay zekâ şirketi OpenAI'a karşı hukuki süreç başlattı.
Doktorun reçetesi yerine ChatGPT'ye danıştı
San Francisco'da açılan davanın dilekçesine göre Rosenthal, başlangıçta ChatGPT'yi şiir yazmak amacıyla kullanmaya başladı. Ancak zamanla yapay zekâ ile gerçekleştirdiği görüşmelerin kapsamı genişledi.
Daha önce dikkat eksikliği ve depresyon gibi sağlık sorunları yaşadığı belirtilen Rosenthal, kullandığı ilaçlar hakkında ChatGPT'ye sorular yöneltmeye başladı.
İddiaya göre yapay zekâ, ilaç seçimi ve dozajları konusunda tavsiyeler verdi. Rosenthal'ın avukatları, ChatGPT'nin doktor tarafından reçete edilen duygudurum dengeleyici ilacı bırakma kararını da desteklediğini ileri sürdü.
Dava dilekçesinde, söz konusu yönlendirmelerin herhangi bir tıbbi uzmanlık veya mesleki değerlendirme olmadan yapıldığı savunuldu.
Haftalarca hastanede tedavi gördü
Rosenthal, ChatGPT ile gerçekleştirdiği görüşmelerin ardından ruh sağlığında ciddi sorunlar yaşadığını öne sürdü.
2025 yılında psikiyatrik sorunlar nedeniyle hastaneye kaldırılan 39 yaşındaki adamın haftalarca tedavi gördüğü bildirildi.
Rosenthal'ın avukatları, yapay zekâ tarafından verilen ilaç tavsiyelerinin müvekkillerinin yaşadığı sağlık sorunlarında etkili olduğunu iddia etti.
Ancak söz konusu iddiaların henüz mahkeme tarafından doğrulanmadığı ve ChatGPT'nin hastaneye yatışa doğrudan neden olduğunun kesinleşmediği belirtiliyor.
OpenAI'a dava açtı
Yaşadığı sürecin ardından hukuki yollara başvuran Rosenthal, OpenAI'ın kullanıcı güvenliği konusunda yeterli önlem almadığını savundu.
Dava dilekçesinde, yapay zekânın ilaç kullanımı gibi hassas konularda profesyonel sağlık hizmetinin yerini alabilecek yönlendirmelerde bulunduğu iddia edildi.
Avukatlar ayrıca yapay zekâ sistemlerinin kullanıcılarla uzun süreli etkileşimi teşvik eden yapısının bazı durumlarda risk oluşturabileceğini ileri sürdü.
Rosenthal'ın açtığı dava, yapay zekâ şirketlerinin kullanıcılarına sundukları sağlık bilgilerinden hangi ölçüde sorumlu tutulabileceği sorusunu yeniden gündeme getirdi.
17 Ekim'de yayımlanan haberlerde, OpenAI'ın dava hakkında henüz kamuoyuna yansıyan bir açıklamasının bulunmadığı aktarıldı.
Uzmanlardan yapay zekâ ile sağlık tavsiyesi konusunda uyarı
Yaşanan olay, yapay zekâ uygulamalarının doktor yerine kullanılmasının doğurabileceği riskleri bir kez daha gündeme taşıdı.
ChatGPT gibi sistemler hastalıklar, ilaçlar ve tedavi yöntemleri hakkında genel bilgi sağlayabiliyor. Ancak bu sistemlerin verdiği yanıtlar her zaman kişinin tıbbi geçmişini, mevcut hastalıklarını ve kullandığı ilaçlar arasındaki etkileşimleri doğru değerlendiremeyebiliyor.
Özellikle psikiyatrik ilaçların doktor kontrolü olmadan bırakılması veya dozlarının değiştirilmesi ciddi sağlık sorunlarına yol açabiliyor.
OpenAI da sağlık alanındaki yapay zekâ hizmetlerinin tıbbi bakımın yerini almak için değil, sağlık hizmetlerini desteklemek amacıyla tasarlandığını belirtiyor.
Yapay zekânın sağlık alanındaki sorumluluğu tartışılıyor
Rosenthal'ın açtığı dava yalnızca bireysel bir şikâyet olarak değil, yapay zekâ teknolojilerinin hukuki sorumlulukları açısından da önem taşıyor.
Davanın sonucunun, yapay zekâ şirketlerinin sağlıkla ilgili tavsiyelerde kullanıcı güvenliğini nasıl sağlaması gerektiğine ilişkin tartışmalara katkı sunması bekleniyor.
Uzmanlar, özellikle ilaç kullanımı, psikolojik rahatsızlıklar ve acil müdahale gerektiren durumlarda yapay zekâ yanıtlarının doktor değerlendirmesinin yerine geçirilmemesi gerektiğini vurguluyor.
