Într-un articol publicat în revista Nature, cercetătorii explică faptul că grupurile subreprezentate, cum ar fi persoanele cu o boală rară sau o etnie minoritară, se află într-un risc ridicat de expunere a datelor lor.
Un tip de atac cibernetic numit „atac de deducere a apartenenței” poate fi folosit pentru a descoperi informații sensibile despre indivizi sau pentru a învăța despre datele de antrenament din spatele unui sistem AI, fără a vedea baza de date originală. În mâinile greșite, acest tip de informație poate fi folosit pentru discriminare, șantaj sau chiar pentru a evalua cine ar putea fi vulnerabil la marketing exploziv.
„În ce măsură aceasta constituie o încălcare a confidențialității este subtilă și depinde de factori precum populația de antrenament și contextul de implementare al modelului. Deși deducerea apartenenței pentru un model antrenat pe o populație generală poate fi benignă, a face acest lucru pentru un model antrenat pe o cohortă îngustă, specifică unei boli sau a unui centru, acționează ca un proxy direct pentru informații medicale sensibile,” a explicat autorul principal Moritz Knolle, cercetător doctorand la Universitatea Tehnică din München, și colegii săi.
În acest studiu, echipa a analizat șapte seturi de date clinice mari din lumea reală, incluzând imagini medicale, electrocardiograme și fișe medicale electronice. Au antrenat aproximativ 200 de versiuni ale unui model AI pentru fiecare set de date, apoi au cuantificat, pentru fiecare înregistrare și pacient în parte, cât de precis ar fi un atac în a ghici dacă un pacient făcea parte din setul de antrenament.
Au arătat că atacurile de deducere a apartenenței pot fi aproape perfecte pentru anumiți pacienți individuali, cum ar fi cei cu o boală sau o prezentare neobișnuită, chiar dacă performanța medie a atacului pentru întregul set de antrenament părea a fi aproape de ghicire aleatorie.
Pe măsură ce capacitatea modelului AI a crescut, numărul de pacienți extrem de vulnerabili a crescut semnificativ. Grupurile subreprezentate din grupul de antrenament, de exemplu, după boală, etnie, asigurare, sex sau protocol de imagistică, se numărau printre înregistrările cele mai vulnerabile la acest tip de atac.
Practica actuală tinde să verifice vulnerabilitatea confidențialității modelelor AI luând o medie din întregul set de date. „Împreună, descoperirile noastre arată că metricile de confidențialitate agregate pot subestima grav riscul individual de confidențialitate,” a avertizat Knolle și colegii săi.
„Dată această vulnerabilitate, modelele AI medicale și contextele lor de implementare ar trebui să fie evaluate pentru informațiile sensibile pe care atacatorii le-ar putea obține prin deducerea cu succes a apartenenței la setul de date de antrenament. Pentru a preveni daunele la confidențialitate, recomandăm ca modelele vulnerabile să fie protejate prin strategii de reducere a riscului verificabile și/sau controale stricte de acces.”
Sursa articol https://insideprecisionmedicine.com
Senior Editor RevistaSanatatii.ro. Pasionat de lifespan, fan David Sinclair.
