Google’da Belirti Arayanlara Yapay Zekâ Uyarısı

Dijital sağlık uygulamalarının hızla yaygınlaşmasıyla birlikte kullanıcılar, yaşadıkları belirtileri önce arama motorlarına ve yapay zekâ destekli sohbet botlarına danışıyor. Özellikle Google üzerinden yapılan “belirti aramaları”, artık yapay zekâ modelleri tarafından analiz edilerek olası hastalık senaryoları sunabiliyor. Ancak uzmanlar, bu sistemlerin teşhis tahminlerinde yüksek doğruluk gösterebilmesine rağmen tedavi önerilerinde ciddi riskler barındırdığına dikkat çekiyor.

Teşhiste Yüksek Oran, Tedavide Düşüş

Yeni nesil büyük dil modelleri — örneğin GPT-4o, Llama 3 ve Command R+ — tıbbi sınav benzeri testlerde ve vaka analizlerinde yüksek başarı oranlarına ulaşabiliyor. Bazı çalışmalarda teşhis doğruluk oranlarının yüzde 90’ın üzerine çıktığı belirtiliyor.

Ancak tablo tedavi aşamasında değişiyor. Uzmanlara göre modeller:

Eksik veya yanlış kullanıcı verisiyle hatalı yönlendirme yapabiliyor,
Acil durumları yeterince ayırt edemeyebiliyor,
Yanlış acil numara veya uygunsuz müdahale önerileri sunabiliyor.
Bu durum, özellikle hayati risk taşıyan vakalarda ciddi sonuçlar doğurabiliyor.

Yapay Zekâ “Düşünmüyor”, Olasılık Hesaplıyor

Sağlık profesyonelleri, yapay zekâ sistemlerinin klinik muhakeme yapmadığını; büyük veri setlerinden elde edilen örüntülere dayanarak olasılık tahmininde bulunduğunu vurguluyor.

Bir modelin tıp sınavını geçmesi, gerçek bir hastanın karmaşık klinik durumunu doğru değerlendirebileceği anlamına gelmiyor. Eksik bilgi, yanlış ifade edilmiş semptom veya kullanıcı hatası, sistemin yanıtını doğrudan etkiliyor.

Güvenli Kullanım İçin Temel İlkeler

Dijital sağlıkta güvenli entegrasyon için öne çıkan başlıklar şöyle:

Bağımsız klinik doğrulama: Modellerin performansı bilimsel çalışmalarla test edilmeli.
İnsan gözetimi: Kritik kararlar mutlaka hekim onayından geçmeli.
Şeffaflık: Kullanıcıya verilerin nasıl işlendiği açıkça belirtilmeli.
Veri güvenliği: Kişisel sağlık verileri sıkı protokollerle korunmalı.
Etik çerçeve: Yanıltıcı veya kesinlik iddiası taşıyan önerilerden kaçınılmalı.