Šef Ujedinjenih nacija za ljudska prava Volker Türk upozorio je da bi veštačka inteligencija mogla postati toliko moćna da ugrozi čitavo čovečanstvo i najavio da će od vodećih tehnoloških kompanija zatražiti hitno smanjenje rizika.
"Delim zabrinutost insajdera iz same industrije da bi napredna veštačka inteligencija mogla predstavljati egzistencijalni rizik za čovečanstvo“, rekao je Türk Savetu UN za ljudska prava u Ženevi, u govoru uoči početka svog drugog mandata.
"Danas i sa ovog mesta pozivam na opšti napor kako bi se uspostavile čvrste garancije za bezbednost veštačke inteligencije, pre nego što bude prekasno“, poručio je visoki komesar UN.
"Nekoliko ljudi ima gotovo neograničenu moć“
Ne navodeći imena, Türk je upozorio da samo nekolicina ljudi ima „gotovo neograničenu moć nad veštačkom inteligencijom“. Među vodećim kompanijama za veštačku inteligenciju su Meta, Anthropic, OpenAI i Google.
"Potrebno je da zemlje u kojima se razvija veštačka inteligencija i oni koji su uključeni u njene lance snabdevanja postave granice“, rekao je.
Na šta misli kada spominje „insajdere iz industrije“?
Türkovo upozorenje direktno se nadovezuje na ranije istupe vodećih svetskih naučnika, inženjera i čelnika tehnoloških kompanija. Ključna prekretnica u toj raspravi bila je zajednička izjava Centra za bezbednost veštačke inteligencije (CAIS), koju su potpisale stotine vodećih stručnjaka, uključujući Sama Altmana iz OpenAI-ja, Demisa Hassabisa iz Google DeepMinda i Darija Amodeija iz Anthropica. U toj izjavi poručili su da bi ublažavanje rizika od izumiranja zbog veštačke inteligencije moralo da bude globalni prioritet, rame uz rame sa rizicima poput pandemija i nuklearnog rata.
Slično su upozoravali i pioniri modernog mašinskog učenja, često nazivani „kumovima veštačke inteligencije“, Geoffrey Hinton i Yoshua Bengio. Hinton je nakon odlaska iz Googlea javno isticao da bi napredni sistemi uskoro mogli postati inteligentniji od ljudi i razviti ciljeve koji nisu u skladu sa ljudskim interesima.
Regulacija kaska za razvojem
Ujedinjene nacije i međunarodna tela već duže vreme raspravljaju o tome kako postaviti globalne standarde pre nego što tehnologija izmakne kontroli. Evropska unija donela je sopstveni Zakon o veštačkoj inteligenciji (AI Act) sa ciljem ograničavanja rizičnih primena, poput masovnog biometrijskog nadzora i manipulativnih algoritama, ali globalno usklađen okvir još ne postoji.
Osim scenarija gubitka kontrole nad opštom veštačkom inteligencijom, koja još ne postoji, ali se očekuje u narednih desetak godina, Ujedinjene nacije i organizacije za ljudska prava redovno upozoravaju na mnogo neposrednije pretnje: masovno širenje uverljivih dezinformacija, automatizovano kršenje privatnosti, algoritamsku diskriminaciju i razvoj autonomnog oružja koje bez ljudskog nadzora može odlučivati o životu i smrti.
