AI güncellemesi Derin İnceleme: Önyargıya karşı sentetik görüntüler

Dengesiz veri sorunu

Tıpta yapay zeka (AI), teşhisleri desteklemeyi ve tedavileri iyileştirmeyi vaat ediyor. Ancak modeller yalnızca eğitildikleri veriler kadar iyidir. Bu veriler genellikle gerçekliğin çarpık bir dilimini temsil ettiğinden, yapay zeka modelleri de önyargılıdır; bu olguya önyargı adı verilir. DFKI araştırma görevlisi Stanislav Frolov, “MedGenAI” projesinde bunun üzerinde yoğun bir şekilde çalıştı. Frolov bir röportajda “Yapay zeka her zaman verilerden öğrenir. Ve bu veriler her zaman dünyamızın bir parçasıdır” dedi. Bu nedenle gerçekçi bir hedef, yapay zeka modellerinin önyargısını tamamen ortadan kaldırmak değildir. Daha ziyade, “hangi önyargıların var olduğunu, bunların nasıl ölçülebileceğini ve bunlar hakkında neler yapabileceğinizi” görünür kılmakla ilgilidir.

Cilt kanseri tespiti söz konusu olduğunda bu özellikle açıktır. Melanom cilt kanserinin en tehlikeli şeklidir ancak erken teşhis edilirse iyileşme şansı yüksektir. Yapay zeka burada yardımcı olabilir ancak eğitim veri kümeleri dengesiz. Araştırmacı, “Örneğin, daha koyu cilt tipleri ve genç insanlarda çok daha az görülüyor” diyor. Bu, yapay zekanın bu gruplar için daha kötü çalıştığı ve modellerin adaletinin pek kontrol edilemeyeceği anlamına geliyor.

Çözüm yaklaşımı olarak sentetik görüntüler

“MedGenAI” projesi bu sorunu, cilt hastalıklarının sentetik görüntülerini üreten üretken bir yapay zeka modeliyle ele alıyor. Bunlar cinsiyet, yaş, cilt tipi gibi parametrelere göre özel olarak kontrol edilebilmektedir. Frolov, “Daha sonra bu üretken modeli, gerçekte pek var olmayan kombinasyonlar da dahil olmak üzere test grupları oluşturmak için kullanabiliriz” diye açıkladı. Bir web arayüzü, demografik önyargılar gibi zayıf noktaları tam olarak ortaya çıkarmak için kullanıcıların parametreleri seçmesine ve oluşturmaya başlamasına olanak tanır.

Yapay görüntülerin kalitesinden emin olmak için gerçek verilerle karşılaştırılır ve kendi test modellerimiz kullanılarak filtrelenir. Frolov, tıp alanında “bu görüntülere bakıp bunların klinik olarak makul olup olmadığını kontrol edebilecek uzmanlardan uzmanlık istemek de vazgeçilmezdir” diye vurguladı. Yapay verilerin gerçek verilerin yerini almaması, onu tamamlaması gerektiğini açıkça belirtti.

Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.

Önyargıyı “karşı gerçeklerle” ortaya çıkarın.

Bir modelin önyargısını tam olarak ölçmek için ekip, karşı olgusallar olarak adlandırılanları kullanıyor. Bir “Ya şöyle olursa” sorusu sorulur: Bir cilt değişiminin görüntüsünü alırsınız ve yalnızca tek bir özelliğin, örneğin cilt tonunun değiştirildiği bir varyant yaratırsınız. “Bana hala aynı kesinlikte aynı tanıyı veriyor mu, yoksa belirsizleşmeye mi başlıyor?” Frolov temel sorunun ana hatlarını çizdi. Bu tür karşı olgusallıklar faydalıdır “çünkü bunları önyargıyı analiz etmek ve ölçmek için kullanabilirsiniz.”

Frolov, gelecekte dermatolojide yapay zeka modellerinin üç temel uygulama alanını görüyor: Yeni teşhis modelleri için test araçları ve veri açıklarını kapatmak için eğitim modülleri olarak hizmet verebilirler. Son olarak karşı olgular, bir yapay zeka modelinin adil olmayan tahminler yapmak için hangi özellikleri kullandığını gösterir. Ancak tüm ilerlemelere rağmen bir şey açık: “Böyle bir modelin klinikte fiilen kullanılabilmesi için önce gerçek hastalarla gerçek çalışmalara ve uzmanlar tarafından testlere ihtiyaç var.”

(igr)