Yapay zekâ teknolojilerinin sağlık hizmetlerinde kullanımı artarken uzmanlar, bu sistemlerin ürettiği sonuçların yalnızca doğruluk oranlarına göre değerlendirilmemesi gerektiğine dikkat çekiyor.

Üyesi Damla Övek Baydar , yapay zekânın doğru tahminlerde bulunsa bile bu sonuçlara klinik açıdan anlamlı olmayan veriler üzerinden ulaşabileceği uyarısında bulundu.

Yapay zekânın tıbbi görüntüleme, hastalık risklerinin belirlenmesi, genomik analizler ve klinik karar destek sistemleri gibi birçok alanda kullanıldığını belirten Baydar, bu teknolojilerin sağlık profesyonellerine önemli katkılar sunabildiğini söyledi.

Yapay zekâ sistemlerinin bazı durumlarda doğru sonuçlara yanıltıcı veriler üzerinden ulaşabileceğini belirten Baydar, bunun özellikle farklı hasta gruplarında güvenilirlik sorunlarına yol açabileceğini ifade etti.

“Bir yapay zekâ modeli testlerde yüksek doğruluk gösterebilir; ancak kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa, farklı hasta gruplarında veya farklı koşullarda güvenilir sonuçlar vermeyebilir.”

Baydar, bu nedenle yapay zekâ sistemlerinin yalnızca başarılı sonuçlar üretmesinin değil, bu sonuçlara hangi gerekçelerle ulaştığının da araştırılması gerektiğini vurguladı.

Sağlık alanında yapay zekânın bağımsız bir karar mekanizması olarak değil, uzmanların değerlendirmelerini destekleyen bir araç olarak kullanılması gerektiğini vurgulayan Baydar, insan denetiminin önemine işaret etti.

Sağlıkta yapay zekânın geleceğinin yalnızca yüksek doğruluk oranlarına bağlı olmadığını belirten Baydar, sistemlerin hangi koşullarda başarısız olabileceğinin de bilinmesi gerektiğini söyledi.

“Sağlıkta yapay zekânın güvenilir olması, yalnızca doğru tahmin yapan değil, sınırları bilinen ve kararları eleştirel biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır.”

Kaynak: Cumhuriyet