Yapay zekâ hastanelerinde hukuki sorumluluk

AV. EGE DEMİRALP
UZMAN ARABULUCU

Çin’in başkenti Pekin’de, Tsinghua Üniversitesi’nin Yapay Zekâ Endüstri Araştırmaları Enstitüsü (AIR) tarafından geliştirilen Agent Hospital, dünyanın ilk yapay zekâ destekli sanal hastanesi olarak tanıtıldı. Bu yenilikçi sağlık platformu, 42 yapay zekâ doktoru ve 4 sanal hemşireden oluşan bir kadroyla hizmet veriyor ve günde 3 bin hastayı tedavi edebilme kapasitesine sahip. Agent Hospital, büyük dil modeli (LLM) destekli akıllı temsilciler tarafından yönetiliyor. Bu sistem, hastalık başlangıcından teşhis ve tedaviye, reçete yazımından rehabilitasyon ve takibe kadar tüm sağlık hizmeti süreçlerini kapsayan kapalı döngü bir deneyim sunuyor. Yapay zekâ doktorları, tıbbi literatürü analiz ederek hasta tedavisiyle ilgili kararlar alıyor. Çin’deki Agent Hospital adlı yapay zekâ hastanesi şu anda yalnızca teşhis, tedavi planlama, reçete yazma ve hasta takibi gibi sanallaştırılmış süreçleri yürütmektedir. Mevcut haliyle fiziksel ameliyat uygulamaları ya da müdahaleler gerçekleştirmemektedir.

Peki, bu yapay zekâ destekli sağlık sistemlerinin hukuki sorumluluk meselesi nasıl işliyor? Çin’deki Agent Hospital gibi yapay zekâ doktorlarının yanlış teşhis veya tedavi önerisinde bulunması durumunda hukuki sorumluluk henüz net çizgilerle belirlenmiş değil. Türkiye’de yapay zekâ destekli sağlık sistemi kurulmuş olsa hukuki sorumluluk nasıl işleyecek? Bazı olası senaryolar üzerinden açıklanabilir.

Dünya Tabipler Birliği’nin 1992 yılında yapılan 44. Genel Kurulu’nda kabul edilen bildirgede; “Malpraktis” (Tıbbi uygulama hatası); “Doktorun tedavi sırasında standart uygulamayı yapması, beceri eksikliği veya hastaya tedavi vermemesi ile oluşan zarar” olarak tanımlanmıştır. Teşhis ve tedavi sırasında yapılan hatalardır.

1- Yapay Zekâyı Geliştiren Kurum; sistemsel bir hata, yanlış öğrenme algoritması ya da eksik güncelleme gibi nedenlerle zarara yol açılmışsa; kurum, “Ürün Sorumluluğu” kapsamında dava edilebilir.

2- Klinik Uygulamaya Entegre Eden Sağlık Kurumu; eğer Agent Hospital, bir gerçek hastanede kullanılmaya başlanırsa, hastane yöneticileri sistemin denetimi ve kullanım koşullarından sorumlu tutulabilir.

3- Denetleyen Devlet Kurumu; yapay zekâ sistemine onay veren veya yetersiz denetim yapan bir kamu kurumu da dolaylı yoldan sorumlu olabilir;

Yanlış teşhis sonucu zarar oluşması durumunda; Yapay zekâyı geliştirici kurum (AIR), hastane, gözeten doktor sorumlu olacaktır. Zarar; yapay zekânın hatalı eğitilmesi sebebi ile meydana gelmiş ise yapay zekâyı geliştirici kurum (AIR), yazılım üreticisi sorumlu olacaktır. Denetim eksikliği durumunda, Devlet yani kamu otoriteleri sorumlu olacaktır. Kişisel verinin izinsiz paylaşılması durumunda dayine hepsinin sorumlu olacağı kanaatindeyim. Türkiye’de yapay zekâ destekli tıbbi sistemlerin yanlış teşhis veya tedavi önerileri sonucunda ortaya çıkan zararlar, mevcut yasal çerçevede doğrudan yapay zekâya atfedilememektedir.

Yapay zekâ destekli tıbbi sistemlerin yanlış teşhis veya tedavi önerileri sonucunda meydana gelen zararlarda, sorumluluk genellikle hekim, sağlık kurumu ve yazılım geliştiricileri arasında paylaştırılmaktadır. Mevcut yasal düzenlemeler, bu tür durumları kapsamlı bir şekilde ele almamaktadır; bu nedenle, yapay zekâ sistemlerinin sağlık alanındaki kullanımı arttıkça, hukuki çerçevenin de bu gelişmelere uygun olarak güncellenmesi gerekmektedir.