Un studiu realizat de Universitatea Tehnică din Dresda
editat de
Sadie Harley, revizuit de Robert Egan
Acest articol a fost evaluat conform procesului editorial și politicilor Science X.
Editorii au evidențiat următoarele aspecte, asigurând credibilitatea conținutului:
Modelele de limbaj extinse (LLM), inclusiv modelele din spatele ChatGPT și Claude, precum și numeroase alte sisteme dezvoltate special pentru aplicații medicale, sunt tot mai des utilizate în fluxurile de lucru clinice. Acestea susțin documentația medicală, rezumă cunoștințele și ajută la luarea deciziilor clinice. Cu toate acestea, adoptarea lor depășește dezvoltarea sistemelor pentru supraveghere și siguranță.
Un echipe interdisciplinară de cercetători de la Centrul Else Kröner Fresenius (EKFZ) pentru Sănătate Digitală al Universității Tehnice din Dresda și Spitalul Universitar din Dresda, împreună cu colegi naționali și internaționali, au analizat sistematic riscurile asociate cu utilizarea LLM în medicină.
Studiul, publicat în Nature, adună dovezi din domeniile AI medicale, cibernetică, științe reglementare, etică și psihologie comportamentală și conturează strategii pentru utilizarea de încredere și responsabilă a inteligenței artificiale (AI) în practica clinică.
LLM-urile au potențialul de a susține și îmbunătăți munca profesioniștilor din domeniul sănătății în diverse domenii. Aceste instrumente sunt deja folosite în practică, adesea fără orientare instituțională sau reguli clare. Acest lucru generează noi cerințe și necesitatea unor acțiuni referitoare la siguranța pacientului, protecția datelor și responsabilitate.
Autorii noului studiu publicat arată că aceste riscuri pot apărea pe tot parcursul ciclului de viață al sistemelor AI: de la designul inițial al modelului la datele de antrenament, implementarea modelului și utilizarea reală în mediile clinice. Ei disting diferite tipuri de riscuri:
Studiul evidențiază, de asemenea, provocările structurale și etice. Multe sisteme nu sunt găzduite local, ridicând întrebări despre controlul datelor și confidențialitate. În plus, utilizarea informală a LLM, denumită utilizare în umbra, are deja loc în setările clinice, adesea fără măsuri oficiale.
„Analiza noastră arată că modelele de limbaj extinse pot susține semnificativ fluxurile de lucru clinice. Utilizarea lor sigură, totuși, nu poate fi luată de-a gata. Riscurile apar în multe etape și trebuie abordate sistematic și cuprinzător înainte și pe lângă implementarea clinică,” spune Dr. Jan Clusmann, cercetător postdoctoral în grupul Profesorului Jakob N. Kather de la EKFZ pentru Sănătate Digitală al Universității Tehnice din Dresda și primul autor al publicației.
Pentru a reduce riscurile, autorii propun mai multe măsuri, inclusiv procese de dezvoltare sigure, gestionarea atentă a datelor de antrenament, evaluarea sistematică și monitorizarea continuă a modelelor, precum și responsabilități clare în cadrul instituțiilor de sănătate.
Ei subliniază că siguranța nu este doar o problemă tehnică, ci necesită eforturi coordonate.
Sursa articol https://medicalxpress.com
Editor RevistaSanatatii.ro. Isi doreste ca activitatea lui sa aduca speranta milioanelor de oameni bolnavi din Romania, sa le aline suferintele si sa le ofere speranta.
