Sağlıkta yapay zeka tartışması

Sağlıkta yapay zeka tartışması

Görüntüler, metinler, sesler, videolar ve daha fazlasını oluşturabilen ve analiz edebilen üretken yapay zeka, hem teknoloji devleri hem de yeni başlayanlar tarafından zorlanarak sağlık hizmetlerine giderek daha fazla giriyor. Bu denli geniş kapsamlı kullanılabiliyor olması teknolojinin tartışmaların da odak noktasında olmasına sebep oluyor. Big Tech olarak da bilinen teknoloji devlerinin üretken yapay zeka yatırımlarını sağlık sektöründe de kullanmak için genişletmesi AI özelindeki tartışmaların yeniden alevlendiriyor.

Geçtiğimiz dönemde üretken yapay zekanın çok hızlı ve kontrolsüz gelişimi ile ilgili tartışmalar ortaya çıkmış ve bu durumun dolandırıcılıktan cinsel istismara kadar giden birçok problemi beraberinde getirebileceği için kontrolsüz olarak ilerlememesi gerektiği konusunda Elon Muskın başı çektiği teknoloji liderleri tarafından paneller ve konuşmalar düzenlenmişti. Şimdi ise benzer bir durum sağlık sektörü üzerinde gerçekleşiyor.

BIG TECHTEN SAĞLIKTA AI YATIRIMI ATAĞI

Sağlıkta yapay zeka tartışması

Üretken yapay zekaya yönelik halkın ve teknoloji severlerin taşıdığı coşku, sağlık hizmetlerini hedefleyen üretken yapay zeka çabalarına yapılan yatırımlara da yansıyor. Toplu olarak, sağlık hizmeti girişimlerinde üretken yapay zeka, bugüne kadar on milyonlarca dolarlık risk sermayesi topladı ve sağlık yatırımcılarının büyük çoğunluğu, üretken yapay zekanın yatırım stratejilerini önemli ölçüde etkilediğini söylüyor.

Googleın bulut hizmetleri ve ürünleri bölümü olan Google Cloud, Pittsburgh merkezli, kâr amacı gütmeyen bir sağlık şirketi olan Highmark Health ile hasta kabul deneyimini kişiselleştirmek için tasarlanmış üretken yapay zeka araçları üzerinde iş birliği yapıyor. Amazonun AWS bölümü, “sağlığın sosyal belirleyicileri” için tıbbi veritabanlarını analiz etmek için üretken yapay zekayı kullanmanın bir yolu üzerinde isimsiz müşterilerle çalıştığını söylüyor. Ayrıca Microsoft Azure, kar amacı gütmeyen sağlık hizmetleri ağı Providenceın hastalardan sağlık hizmeti sağlayıcılarına gönderilen iletileri otomatik olarak önceliklendirmesi için üretken bir yapay zeka sistemi oluşturulmasına yardımcı oluyor.

Sağlık hizmetlerinde öne çıkan üretken yapay zeka girişimleri arasında klinisyenler için üretken bir yapay zeka uygulaması geliştiren Ambience Healthcare, ortam yapay zeka asistanı olan Nabla ve tıbbi dokümantasyon için analiz araçları oluşturan Abridge de öne çıkan uygulamalar arasında yer alıyor.

TÜKETİCİLERİN YARISI ŞÜPHECİ

Ancak hem profesyonellerin hem de hastaların, sağlık odaklı üretken yapay zekanın bu denli bir çalışma için hazır olup olmadığı konusunda septik bir bakış açısına sahip olduğu görülüyor.

Önde gelen araştırma şirketlerinden Deloitteun ABDde gerçekleştirdiği bir ankette tüketicilerin yalnızca yarısı (yüzde 53ü), üretken yapay zekanın sağlık hizmetlerini iyileştirebileceğini düşündüklerini belirtiyorlar. Yarısından biraz azı ise, üretken yapay zekanın tıbbi bakımı daha uygun fiyatlı hale getirmesini beklediklerini söylüyor.

“KAPSAMLI TIBBİ TAVSİYE İÇİN UYGUN DEĞİL!”

ABD Gazi İşleri Bakanlığının en büyük sağlık sistemi olan VA Sunshine Healthcare Networkün baş yapay zeka sorumlusu Andrew Borkowski Tech Cruncha verdiği demeçte, yapay zekaya yöneltilen bu eleştirilerin ve akıllardaki soru işaretlerinin yersiz olduğunu düşünmediğini belirtti. Borkowski, üretken yapay zekanın genişlemesinin “önemli” sınırlamaları ve etkinliğiyle ilgili endişeler nedeniyle erken olabileceği konusunda uyarılarda bulundu.

Verdiği demeçte Borkowski, “Üretken yapay zeka ile ilgili en önemli sorunlardan biri, karmaşık tıbbi sorguları veya acil durumları ele alamamasıdır. Sınırlı bilgi tabanı, yani güncel klinik bilgilerin olmaması ve insan uzmanlığının eksikliği, kapsamlı tıbbi tavsiye veya tedavi önerileri sunmak için uygun değildir” ifadelerini kullandı.

VAKALARIN YÜZDE 83ÜNDE HATA YAPTI

JAMA Pediatrics dergisinde yayınlanan bir makalede, OpenAInin bazı sağlık kuruluşlarının sınırlı kullanım durumları için pilot uygulaması yaptığı üretken yapay zeka sohbet robotu ChatGPTnin pediatrik hastalıkları teşhis etmede %83 oranında hata yaptığı tespit edildi. Bostondaki Beth Israel Deaconess Tıp Merkezindeki doktorlar, OpenAInin GPT-4ünü bir teşhis asistanı olarak test ederken, modelin yanlış teşhisi yaklaşık üç üzerinden iki kez en iyi yanıt olarak sıraladığını gözlemledi.

Günümüzün üretken yapay zekası, klinisyenlerin günlük iş akışlarının bir parçası olan tıbbi idari görevlerle de mücadele ediyor. Üretken yapay zekanın hasta sağlık kayıtlarını özetlemek ve notlar arasında arama yapmak gibi şeyleri ne kadar iyi gerçekleştirebileceğini değerlendirmek için yapılan MedAlign karşılaştırmasında GPT-4, vakaların %35inde başarısız oldu.

“YAŞAMI TEHDİT EDEN DURUMLARA YOL AÇABİLİR”

OpenAI gibi birçok diğer üretken yapay zeka yaratıcısı da tıbbi tavsiye için modellerine güvenmeye karşı uyarıyor. Ancak Borkowski ve diğerleri daha fazlasını yapabileceklerini söylüyorlar. Borkowski, “Sağlık hizmetleri için yalnızca üretken yapay zekaya güvenmek, yanlış teşhislere, uygunsuz tedavilere ve hatta yaşamı tehdit eden durumlara yol açabilir” şeklinde konuştu.

Duisburg-Essen Üniversitesinin Tıpta Yapay Zeka Enstitüsünde yapay zeka güdümlü tedavilere liderlik eden ve gelişmekte olan teknolojinin hasta bakımı için uygulamalarını inceleyen Jan Egger, Borkowskinin endişelerini paylaşıyor. Üretken yapay zekayı şu anda sağlık hizmetlerinde kullanmanın tek güvenli yolunun bir doktorun yakın ve dikkatli gözetimi altında olduğuna inanıyor.