Sağlık sektöründe, hastalıkların erken ve doğru teşhisi her zaman doğru tedavide kritik bir öneme sahip olmuştur. Bununla birlikte, yapay zeka ve analitik, sektör için doğru teşhis vermede ve farklı kanser türlerini tespit etmede son derece yararlı olduğunu kanıtlasa da her zaman son kararı veren doktorlar olmuştur. Son günlerde hızla gelişen bu teknoloji, “Artık yapay zeka insan kararlarını erteleyebilir mi ?” sorusunu akıllara getirmektedir. MIT’nin bilgisayar bilimi ve yapay zeka laboratuvarından (CSAIL) araştırmacılar, yalnızca tıbbi durumları teşhis etmekle kalmayıp aynı zamanda uzmanın kararını erteleyebilen bir yapay zeka ve makine öğrenmesi sistemi geliştirdi.
Hussein Mozannar ve David Sontag isimli iki araştırmacıya göre, sistem iki ayrı makine öğrenimi modeli kullanıyor. Bu modellerden birisi karar vermek, diğeri ise insan seçimlerini ertelemek veya kabul etmek için kullanılıyor. Buradaki ikinci model, insanın karar verme sürecini iyileştirmek amacıyla tasarlanmıştır ve “reddedici” olarak bilinir.
Reddedici, İnsanın Karar Verme Sistemini Nasıl Geliştirir?
Makine öğrenimi sistemleri, genellikle insan kararlarını tamamlamak veya yalnızca nihai tahminlerde bulunmak için kullanılır. Fakat birçok engel nedeniyle tam otomasyon her zaman belirli bir ölçüde sınırlı kalmıştır. Yakın tarihli bir makalede, MIT araştırmacıları insan kararlarını öngörmek veya reddetmek için bir ML modeli önerdiler.
Makine öğrenimi modeli, insanın uzmanlığını analiz eder ve buna göre bir karar verir. Bu durum, sağlık sektöründeki herhangi bir iş için insanın yanı sıra yazılım dağıtımı gerekliliğini ortadan kaldırır. Reddetme konseptinden ilham alan araştırmacılara göre model, insan uzmanlığının daha başarısız olduğu alanlara odaklanacak.
Yukarıdaki şekil, reddedicinin ilk önce sınıflandırıcı ve uzman arasında tahmin yapması gerektiğine karar verdiği, ardından yapılan tahmine göre kişinin maruz kaldığı maliyetin hesaplandığı bir uzman erteleme hattını gösterir.
Bunu kolaylaştırmak için, araştırmacılar iki fonksiyon oluşturdu: Sonucu tahmin eden bir sınıflandırıcı ve bu sınıflandırıcının yanlış karar verdiğini düşünüp uzman insanın teşhiste bulunmasına karar veren bir reddedici. Araştırmacılar, birleştirilen her iki model için bir doğal kayıp fonksiyonu formüle ederek işe koyuldular ve uzman erteleme ayarından maliyete duyarlı öğrenmeye olan düşüşün altını çizdiler.
Elde edilen bu azalma ile araştırmacılar, uzman ertelemesini mevcut hatlara kolayca entegre edebilen yeni bir dışbükey vekil kaybı önerdiler. Makalede “Bu vekil kayıp, çok sınıflı reddetme öğrenimi için tutarlı bir kayıp bulmak amacıyla [NCHS19] tarafından ortaya konan açık sorunu çözüyor,” dendi. Bununla birlikte, araştırmacılar tarafından önerilen yeni vekil yaklaşımı, yalnızca mevcut hatlara bir çıktı katmanı eklemeyi ve kayıp işlevini değiştirmeyi gerektiriyor. Bu da reddedici ve sınıflandırıcıyı tek bir modelde birleştirerek ek hesaplama maliyetlerini önemli ölçüde azaltacaktır.
Sonuç olarak
Makine öğrenimi sistemleri geleneksel olarak insan kararlarına yardımcı olmak için tasarlanırken burada araştırmacılar, modelin uygun olduğunda “yapay zeka insan kararlarını erteleyebilir” düşüncesini öne süren bir framework önerdi. Araştırmacılara göre, sağlık sektörü dışında böyle bir sistem risk değerlendirmesi, hukuk, içerik denetleme gibi sektörler için de faydalı olabilir.
