AI u patologiji pokazuje zabrinjavajuću pristrasnost
Istraživanje sa Harvarda otkriva da sistemi zasnovani na AI za dijagnostiku raka pokazuju rasnu i demografsku pristrasnost. Analizirano je skoro 29.000 patoloških slika od oko 14.400 pacijenata i ustanovljeno je da modeli dubokog učenja greše zbog pristrasnosti u 29.3 posto zadataka. AI u patologiji je uspio izvući podatke o dobi, spolu i rasi direktno iz slika, što je neprirodno i nemoguće za ljudskog patologa.
Kako pristrasnost utiče na dijagnozu raka
Modeli su povezivali obrasce u tkivu sa demografskim podacima i potom te pokazatelje koristili kao osnovu za dijagnostiku. AI u patologiji detektovao je uzorke u uzorcima koji odgovaraju pacijentima crne rase, poput većeg broja neoplazmatskih ćelija, pa je sistem bio skloni da ponavlja te obrasce. Kada je trening set prevladavajuće iz bijele populacije, performanse su bile lošije za nedovoljno zastupljene grupe, primjerice pri razlikovanju podklasa raka pluća kod crnih pacijenata.
Rješenje i ograničenja
Tim je razvio pristup nazvan FAIR-Path koji, kada se primijeni pri treniranju, smanjuje 88.5 posto razlika u performansama. Ipak, preostali problem nije zanemariv i dok se ovakvi okviri ne uvedu obavezno, pristrasnost AI u patologiji i dalje će predstavljati rizik za objektivnu dijagnostiku raka.
