În cadrul sesiunii de deschidere de vineri dimineața la AMP25, Takunda Matose, doctor în filozofie, a conturat o zi plină de reflecții. Matose a vorbit despre utilizarea inteligenței artificiale (IA) în domeniul sănătății, îndemnând utilizatorii și părțile implicate să se retragă puțin din utilizările curente și să aibă în vedere aspecte conștiente.
Specializat în bioetică, Matose este cercetător la Spitalul pentru Copii din Cincinnati și la Colegiul de Medicină de la Universitatea din Cincinnati, concentrându-se pe justiție în domeniul sănătății, inegalități de sănătate și etică în cercetare.
Fidel rădăcinilor sale, Matose a început discuția cu privire la etică, pornind de la o definiție. A pus bazele temei principale a discursului său: să avem în vedere practicile morale care afectează pe toți membrii unui grup colectiv sau care duc la acțiuni colective în numele întregii comunități.
În primul rând, a pus sub semnul întrebării rolul cercetătorilor în raport cu responsabilitățile lor față de pacienți, participanți și public, și cum aceste responsabilități influențează dezvoltarea și utilizarea instrumentelor de IA pentru sănătate.
Cu abilitățile de cercetare în continuă evoluție și în creștere, în special în contextul accesibilității mai mari a IA, există o capacitate în creștere de a colecta date, cu încercări de a le integra și utiliza pe toate. Un motto comun printre cercetători este că întotdeauna este nevoie de mai multe date. Implicația este că, dacă ar exista puțin mai multe date, comunitatea medicală ar putea răspunde la mai multe întrebări cu cea mai completă răspuns posibil.
Matose a contestat această idee, explicând că majoritatea datelor rămân neutilizate; sporirea cantității de date probabil nu ar îmbunătăți rezultatele și, de fapt, ar avea o utilitate marginală descrescătoare. Ideal ar fi ca cercetarea să se bazeze mai puțin pe date retrospective ample și mai mult pe dezvoltarea metodelor de cercetare pentru studii prospective mai concentrate. Această schimbare necesită reconsiderarea colectării datelor, cantităților de date și a utilizării lor.
IA a fost tot mai mult utilizată în cercetare ca un instrument pentru a finaliza sarcini complexe și a accelera descoperirile în cercetare. Matose a explicat: „Tot ceea ce face [IA] este să funcționeze ca un instrument pentru a realiza probabilități computaționale foarte complexe – probabilități care se vor schimba cu mai multe date introduse, probabilități care se vor schimba cu diferitele tipuri de fluxuri pe care le utilizați. Fiecare parte de-a lungul drumului va manipula tipul de rezultate pe care le veți obține.”
A continuat spunând: „IA este foarte bună la asta, în timp ce noi, oamenii, nu suntem foarte buni la asta.”
Deși IA este, în mod clar, mai bună în analiza datelor în comparație cu oamenii, ea este limitată de bias. Deși biasul este adesea considerat un „bug” în sistem, acesta poate fi, de asemenea, considerat un „feature” în contextul selecției de parametri a sistemului.
„Biasul reprezintă pur și simplu parametrii de funcționare pentru aceste sisteme”, a afirmat Matose. „Sunt toate deciziile pe care le luăm în ceea ce privește modul în care proiectăm sistemele.” Există un bias inherent atunci când se alege setul de date.
Senior Editor RevistaSanatatii.ro. Pasionat de lifespan, fan David Sinclair.
