ChatGPT Tıbbi Tavsiye: 19 Yaşındaki Öğrenci Öldü, Aile OpenAI'a Dava Açtı

ABD’de yaşayan 19 yaşındaki bir üniversite öğrencisi, yapay zeka sohbet robotu ChatGPT’nin sağladığı tıbbi tavsiyeleri takip ederek aşırı dozda ilaç aldı ve hayatını kaybetti. Bu trajik olay, ChatGPT tıbbi tavsiye risklerini ve yapay zeka güvenliği sorunlarını bir kez daha gündeme taşıdı. Genç kızın ailesi, OpenAI’ı ihmalkarlık ve yanıltıcı bilgi sunmakla suçlayarak dava açtı.

ChatGPT'nin Sağlık Riskleri ve Tıbbi Tavsiye Tehlikesi

Yapay Zeka ve Yanlış İlaç Kombinasyonu

Reuters’ın haberine göre, genç öğrenci bir sağlık sorunu için ChatGPT’ye danıştı. Yapay zeka, belirtilere dayanarak bir ilaç kombinasyonu önerdi. Ancak bu öneri, öğrencinin mevcut sağlık durumu ve kullandığı diğer ilaçlarla etkileşime girerek aşırı doza yol açtı. Aile, OpenAI’ın yapay zekasının tıbbi bir uzman gibi davranmaması gerektiğini, ancak kullanıcıları yanıltıcı ve tehlikeli bilgilerle yönlendirdiğini iddia ediyor.

Sam Altman'ın Uyarıları ve ChatGPT Kullanımı

NPR’ın raporuna göre, OpenAI CEO’su Sam Altman daha önce yaptığı açıklamalarda ChatGPT’nin Z kuşağı arasında bir sağlık danışmanı gibi kullanıldığını kabul etmişti. Altman, “Gençler, utanç duydukları veya doktora sormaya çekindikleri konularda ChatGPT’ye yöneliyor. Bu, yapay zekanın sorumluluğunu artırıyor” demişti. Bu açıklama, şimdi yaşanan trajik olayın sinyallerini vermişti.

OpenAI'a Karşı Yasal Süreç ve Sorumluluk

Davanın Hukuki Boyutu ve Emsal Teşkil Etme Potansiyeli

Dava, yapay zeka şirketlerinin kullanıcılarına karşı ne kadar sorumlu olduğu sorusunu gündeme getiriyor. Aile, OpenAI’ın ChatGPT’yi tıbbi tavsiye vermeye uygun olmadığı halde geniş kitlelere sunduğunu ve yeterli uyarı yapmadığını savunuyor. TechCrunch’ın analizine göre, bu dava emsal teşkil edebilir. Geçmişte benzer bir dava, bir intihar vakasında bir yapay zeka şirketini sorumlu tutmuştu. Ancak bu kez, doğrudan tıbbi tavsiye sonucu ölüm, yapay zeka düzenlemeleri için yeni bir dönüm noktası olabilir.

OpenAI'ın Savunması ve Kullanıcı Sözleşmesi

OpenAI, konuyla ilgili henüz resmi bir açıklama yapmadı. Ancak şirketin daha önce yayınladığı kullanıcı sözleşmesinde, ChatGPT’nin tıbbi bir cihaz veya profesyonel sağlık danışmanı olmadığı belirtiliyor. Aile avukatları ise, bu uyarının yetersiz olduğunu ve yapay zekanın sunduğu tavsiyelerin doğrudan zarara yol açtığı durumlarda şirketin sorumlu tutulması gerektiğini savunuyor.

Yapay Zeka Güvenliği ve Gelecek Önlemler

Yapay Zeka Destekli Sağlık Uygulamalarının Riskleri

Bu olay, yapay zeka destekli sağlık uygulamalarının güvenilirliği konusunda ciddi soru işaretleri yaratıyor. Uzmanlar, yapay zekanın tıbbi alanda yalnızca bir yardımcı araç olarak kullanılması gerektiğini, asla bir doktorun yerini alamayacağını vurguluyor. Özellikle genç kullanıcıların, yapay zekadan aldıkları sağlık tavsiyelerini sorgulamadan uygulaması, ölümcül sonuçlara yol açabiliyor.

OpenAI'ın Alacağı Güvenlik Filtreleri

Dava süreci devam ederken, OpenAI’ın bu tür trajedileri önlemek için yapay zekasına daha sıkı güvenlik filtreleri eklemesi bekleniyor. Ancak aile, bu adımların gecikmiş olduğunu ve ChatGPT’nin tıbbi tavsiye verme özelliğinin tamamen kaldırılması gerektiğini düşünüyor. Bu dava, yapay zeka şirketlerinin etik sorumluluklarını yeniden tanımlayacak bir emsal olarak hukuk tarihine geçebilir.

ChatGPT tıbbi tavsiye ve yapay zeka güvenliği konusunda daha fazla bilgi için Reuters haberine göz atabilirsiniz.