Son dönemde sağlık sektöründe üretken yapay zekâ araçlarının yaygınlaşması, hekimler ve uzmanlar arasında ciddi endişelere yol açıyor.

Google Med-Gemini Modelindeki Kritik Hata

Mayıs 2024’te yayımlanan bir araştırma, Google’ın sağlık odaklı yapay zekâ modeli Med-Gemini’nin radyoloji laboratuvarında beyin taramalarını analiz ederken ciddi bir hata yaptığını ortaya koydu. Model, analiz sonuçlarında “basilar ganglia” adında bir beyin bölgesinden bahsetti. Oysa böyle bir anatomik yapı gerçekte bulunmuyor.

Uzmanlar Uyarıyor: Yapay Zekâ Hataları Hayati Risk Taşıyor

Nörolog Bryan Moore’un tespit ettiği bu hata, yapay zekâ modellerinin sağlık alanındaki doğruluk sorunlarını gündeme getirdi. Google, hatanın “basal ganglia” ve “basilar artery” terimlerinin karışmasından kaynaklandığını, bunun da bir yazım hatası olduğunu belirtti. Ancak uzmanlar, özellikle hastane ortamında bu tür küçük farkların büyük tehlikelere yol açabileceğini vurguluyor.

Sağlıkta Yapay Zekâda Hata Toleransı Çok Düşük Olmalı

Providence sağlık sisteminin tıbbi bilgi direktörü Maulin Shah, iki harflik farkın hayati sonuçlara neden olabileceğini ifade ederek, “Bu tür hatalar son derece tehlikeli” dedi. Uzmanlar, yüksek risk taşıyan sağlık alanlarında yapay zekâların hata toleransının insan seviyesinden çok daha düşük olması gerektiğinin altını çiziyor.

Med-Gemini’nin Potansiyeli ve Riskleri

Google, Med-Gemini modelinin röntgen, BT taramaları ve diğer tıbbi görüntülerden hastalık tespitinde önemli bir potansiyele sahip olduğunu açıklamıştı. Ancak yaşanan hata, yapay zekâ teknolojilerinin tıpta güvenilir şekilde kullanılabilmesi için daha titiz test ve denetim süreçlerinin gerekliliğini ortaya koydu.

Sonuç: Sağlıkta Yapay Zekâ Güvenliği Öncelikli Olmalı

Yapay zekâ teknolojileri sağlıkta devrim yaratma potansiyeline sahip olsa da, hataların insan yaşamını tehdit edebileceği yüksek riskli alanlarda bu teknolojilerin dikkatle ve özenle geliştirilmesi gerekiyor. Yapay zekâ modellerinin doğruluk ve güvenilirlik standartlarının yükseltilmesi, sağlık sektöründe hem hastaların hem de sağlık çalışanlarının güvenliği açısından kritik önem taşıyor.