İhlas Haber Ajansı (İHA) spor servisinin bildirdiği gelişmeye göre; Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinde yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğine dikkat çekti. Baydar, yapay zekânın kararlarını klinik olarak anlamlı olmayan özelliklere dayandırmasının farklı hasta gruplarında güvenilirliği etkileyebileceğini belirterek, modellerin karar süreçlerinin açıklanabilir olmasının önemini vurguladı.

Yapay zekânın sağlık alanındaki kullanımının giderek yaygınlaştığını belirten Dr. Öğr. Üyesi Damla Övek Baydar, tıbbi görüntülerin değerlendirilmesinden hastalık risklerinin tahminine, genomik verilerin analizinden klinik karar destek sistemlerine kadar pek çok alanda yapay zekâ modellerinin sağlık profesyonellerine yardımcı olabilecek sonuçlar ürettiğini söyledi.

Doğru Tahmin İle Güvenilir Tahmin

Yapay zekâ sistemlerinin başarısının çoğunlukla tahmin doğruluğuyla ölçüldüğüne dikkat çeken Baydar, "Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir" dedi.

Derin öğrenme modellerinin karar süreçlerinin anlaşılabilir olması gerektiğini vurgulayan Baydar, modellerin hangi bilgilere dayanarak sonuca vardığının kolayca görülemediğini ve bu nedenle açıklanabilirliğin hayati önem taşıdığını ifade etti.

Açıklanabilir Yapay Zekâ Yaklaşımı

Sağlık alanında yapay zekânın hekimlerin yerini alan bir sistem olarak değerlendirilmemesi gerektiğini vurgulayan Baydar, "Sağlıkta yapay zekâyı, uzmanın yerini alan bağımsız bir karar mekanizmasından ziyade, karar süreçlerini destekleyen güçlü bir araç olarak değerlendirmek daha doğru olacaktır" diyerek sistemlerin insan uzmanlığıyla birlikte kullanılması gerektiğinin altını çizdi.

Uzman Görüşü / Editöryel Değerlendirme

Sağlık alanında yapay zekâ uygulamaları, klinik karar destek sistemlerinin geliştirilmesi ve genomik verilerin analizi gibi kritik süreçlerde büyük potansiyel taşımaktadır. Ancak bu teknolojilerin hastane ve klinik ortamlarda güvenle entegre edilebilmesi için veri gizliliği, algoritmik yanlılık ve klinik geçerlilik gibi temel etiketlerin uluslararası standartlarda denetlenmesi büyük önem arz etmektedir.