Descoperirile, publicate în Cell Reports Medicine, subliniază necesitatea de a verifica biasurile în aceste algoritmi bazate pe date pentru a asigura că îmbunătățesc exactitatea diagnosticului chiar și atunci când performanța generală pare puternică.
Problemele AI ar putea fi generate de pacienți subreprezentați în seturile de antrenament, diferențe în incidența bolii sau variații moleculare subtile între diferitele grupuri demografice.
„Am descoperit că, deoarece AI-ul este atât de puternic, poate diferenția multe semnale biologice obscure care nu pot fi detectate prin evaluarea umană standard,” a explicat cercetătorul Kun-Hsing Yu, PhD, de la Harvard Medical School.
Rezultatele i-au determinat pe cercetători să dezvolte FAIR-Path (Fairness-aware Artificial Intelligence Review for Pathology), un cadru de revistasanatatii.ro/cum-creierul-tau-face-alegeri-alimentare-inainte-sa-stii-ce-te-uita/" title="Cum Creierul Tău Face Alegeri Alimentare înainte să Știi Ce Te Uită" class="aigl-auto-link">învățare automată care reduce în jur de 90% din bias printr-un proces de învățare contrastivă conștientă de corectitudine.
Mai multe studii au demonstrat anterior capacitatea AI-ului de a detecta tumori, subtipuri de cancer, de a prezice profiluri genomice legate de cancer și de a estima supraviețuirea pacientului.
Dar biasul rămâne o provocare semnificativă, cu seturi de date de patologie la scară largă care constau în principal din pacienți caucazieni, ceea ce poate introduce biasuri în seturile de antrenament și, implicit, în modelele de diagnostic.
Pentru a investiga în ce măsură acest lucru ar putea să apară, echipa a efectuat o analiză sistematică a corectitudinii în patologia computatională, evaluând sarcini critice de detectare și clasificare a cancerului în 20 de tipuri de cancer și opt seturi de date.
Studiul a implicat 28.732 de imagini de patologie a cancerului pe întreaga lamă de la 14.456 de pacienți cu cancer, acoperind 20 de tipuri de cancer la cinci centre medicale și trei cohorte de studiu naționale.
Analiza a relevat că modelele obișnuite de învățare profundă prezintă biasuri, cu disparități de performanță în 29,3% din sarcinile diagnostice în grupurile demografice definite după rasă, sex și vârstă raportate de pacienți.
Echipa a descoperit că diferențele în histologia tumorilor asociate cu diferite grupuri demografice pot fi detectate de modelele AI.
În mod specific, pare că variațiile morfologice asociate cu factorii demografici sunt încorporate în arhitectura tisulară și pot fi internalizate involuntar de modelele AI.
La pacienții mai în vârstă, de exemplu, tumorile prezintă în mod constant un volum crescut de stromă și o infiltrare inflamatorie diminuată în comparație cu pacienții mai tineri.
Tumorile de la pacienții afro-americani prezintă o densitate mai mare de celule neoplastice și o prezență mai scăzută a componentelor imune și stromale în comparație cu cele de la pacienții caucazieni.
Aplicarea cadrelor FAIR-Path a redus 88,5% din disparități, iar validarea externă a relevat o reducere a decalajelor de performanță cu 91,1% în 15 cohorte independente.
„Modelele AI pot codifica biasurile de reprezentare din seturile de date de pre-antrenament demografic dezechilibrate, iar antrenamentul lor ulterior este vulnerabil la scurtcircuitări.”
Sursa: [Articolul original](link către sursă)
Senior Editor RevistaSanatatii.ro. Pasionat de lifespan, fan David Sinclair.