Sağlıkta yapay zeka kullanmanın sakıncaları

YENİ BİR GAZETE – ABD’nin Utah eyaletinde sağlık hizmetlerinde yapay zekanın doğrudan hasta değerlendirmesi yapabilmesine yönelik bir yıllık pilot uygulama hazırlanıyor. İlk aşamada hafif ve orta şiddetteki akne vakalarıyla sınırlandırılması planlanan sistem, yapay zekanın sağlık alanındaki kullanım sınırlarını yeniden tartışmaya açtı.

Uygulamanın narkotik, bağımlılık yapıcı ve ağır sistemik ilaçları kapsam dışında bırakması planlanıyor. Sağlık hizmetlerinde iş yükünün azaltılması hedeflenirken, uygulamanın güvenlik ve hukuki boyutları da tartışılıyor.

Yapay zeka sağlık hizmetlerinde yükü azaltabilir

Antalya Belek Üniversitesi Bilişim Güvenliği Teknolojisi Öğretim Görevlisi Hüsnü Berat Yıldırım, Utah’taki uygulamanın sağlık sektöründe yapay zekanın kullanımı açısından önemli bir eşik olduğunu belirtti.

Hüsnü Berat Yıldırım’a göre rutin sağlık işlemlerinin yapay zeka sistemlerine aktarılması, hastanelerdeki yoğunluğun azaltılmasına katkı sağlayabilir. Uzman hekimlerin yetersiz olduğu kırsal bölgelerde temel sağlık hizmetlerine erişimin kolaylaştırılması da sistemin olası avantajları arasında yer alıyor.

Pilot uygulamada ilk 100 hastanın uzman hekimler tarafından tamamen kontrol edilmesi, sonraki 400 hasta için ise haftalık çapraz denetim yapılması planlanıyor. Bu yöntemin sistemin kontrollü şekilde test edilmesine imkan sağlaması bekleniyor.

Yapay zekanın sağlıkta kullanımındaki sakıncalar

1- Yapay zeka halüsinasyonları: Sistemlerin zaman zaman gerçeğe dayanmayan, hatalı veya uydurma bilgiler üretmesi, sağlık alanında ciddi sonuçlara yol açabilir.

2- Teşhis ve tedavi hataları: Yanlış değerlendirme veya tedavi önerisi, alerjik reaksiyon, cilt hasarı ya da mevcut sağlık sorununun kötüleşmesi gibi sonuçlar doğurabilir.

3- Hukuki sorumluluk belirsizliği: Yapay zekanın hatalı kararından hastanın zarar görmesi halinde sorumluluğun kime ait olacağı henüz netlik kazanmış değil.

4- Klinik deneyimin yerini alamaması: Yapay zeka verileri analiz edebilse de hekimin klinik tecrübesi, hastayı bütüncül değerlendirmesi ve empati kurması gibi insani unsurları tamamen karşılayamayabilir.

5 – Siber güvenlik ve veri gizliliği: Hastalara ait hassas sağlık verilerinin yapay zeka sistemlerinde işlenmesi, kişisel bilgilerin siber saldırılara ve yetkisiz erişime karşı korunmasını zorunlu hale getiriyor.

Güvenlik ve insan denetimi belirleyici olacak

Utah’taki pilot uygulamanın sonuçlarının, yapay zekanın grip, alerji ve kronik ilaç yenileme gibi daha geniş kapsamlı sağlık hizmetlerinde kullanılıp kullanılamayacağı açısından önemli bir gösterge olması bekleniyor.

Hüsnü Berat Yıldırım, teknoloji ne kadar gelişirse gelişsin kritik sağlık kararlarında insan denetiminin korunması gerektiğine dikkat çekiyor. Yapay zeka sistemlerinin siber güvenlik açıklarına karşı korunması ve üretilen sonuçların düzenli olarak uzmanlar tarafından denetlenmesi, uygulamanın güvenilirliği açısından önem taşıyor.