În cadrul Declarației Leiden, matematicienii au emis un tratat privind modul în care IA provoacă domeniul lor. Alții trebuie să facă același lucru.
În iunie, o comunitate compusă în principal din matematicieni a lansat Declarația Leiden privind Inteligența Artificială și Matematica, o articulare a valorilor pe care speră să le păstreze în contextul integrării sistemelor automate în practica dezvoltării demonstrațiilor matematice. Acest lucru este necesar deoarece unele sisteme AI de ultimă generație au demonstrat capacități remarcabile în rezolvarea anumitor probleme matematice avansate, deși teste independente arată că IA are încă limite importante.
Chiar dacă nu fac parte din comunitatea matematicienilor puri în sens strict, multe dintre mesajele declarației mi-au rezonat și au fost relevante pentru propriile mele interese de cercetare ca biolog computațional.
Sunt încurajat de faptul că comunitatea matematică a decis să ia o poziție în această problemă și că a reușit să mobilizeze un număr mare de matematicieni de seamă pentru a semna documentul. Declarația Leiden, care a avut originea la o conferință organizată la Universitatea Leiden din Țările de Jos, ar trebui să genereze imitatori adecvați, deoarece ceea ce este valabil pentru matematică este valabil pentru aproape orice domeniu care se autointitulează ca știință. Invențiile matematice picură în algoritmii și metodele statistice care ajută oamenii de știință să proiecteze experimente, să creeze simulări și să analizeze datele, de la sociologie la fizica statistică și dincolo de aceasta.
Argumentez că domeniile biologice ar trebui să ia în considerare ceva similar, deoarece tipurile de cunoștințe pe care le generează și le prezic biologia sunt vulnerabile în mod unic la subversiune și interpretare greșită de către inteligența artificială.
Conversația în comunitatea matematicienilor a fost iluminatoare, deoarece declarația reprezintă un răspuns coordonat la puterile și riscurile IA, a căror accelerare a fost resimțită ca o clipire a degetelor a lui Thanos, schimbând universul într-o clipă. Și parte din motivul pentru care matematicienii au simțit efectele imediat este legat de modul în care se desfășoară cercetarea lor: o demonstrație matematică, în principiu, este transparentă și verificabilă independent, și nu este (în general) necesară o echipament proprietar pentru a o verifica.
După cum menționează Declarația Leiden, tehnicile automate prezintă acum matematicii o problemă nouă de falsificare: deoarece adevărurile matematice sunt fixe și verificabile, se poate identifica un formalism falsificat comparându-l cu demonstrația autentică. Biologia, însă, nu oferă o astfel de garanție; așa-zisele „adevăruri” ale noastre sunt adesea zgomotoase și dependente de context, făcând aproape imposibil să definim cum ar trebui să arate chiar și o versiune autentică. Unele dintre principiile biologice cel mai apreciate (cum ar fi legile mostenirii genetice ale lui Mendel) sunt mai bine descrise ca puternice, dar cu limite în ceea ce privește domeniul de aplicare, și cu excepții bine caracterizate care nu subminează
Sursa articol https://singularityhub.com
Editor RevistaSanatatii.ro. Isi doreste ca activitatea lui sa aduca speranta milioanelor de oameni bolnavi din Romania, sa le aline suferintele si sa le ofere speranta.
