Šta donosi Zakon o veštačkoj inteligenciji, čiji srpski Nacrt cirkuliše među nadležnima, stručnjacima i zainteresovanim firmama, i kako je prihvaćen među onima na koje će sed primenjivati, razgovarano je danas na prezentaciji u NALED-u.
Najveća promena koja očekuje kako građane i kompanije kao korisnike, tako i one koji prave AI nije da će neko zabraniti ChatGPT-a ili drugih AI alata, već uvođenje odgovornosti za sisteme koji donose ili značajno utiču na odluke o ljudima.
Fokus regulatora je na pitanjima ko je odgovoran kada AI pogreši, kako se proverava tačnost modela, da li postoji diskriminacija nekih ljudi ili grupa, da li čovek može da preispita odluku algoritma ili da li građanin zna da je AI uključen u proces odlučivanja.
Za privredu će najveći efekat verovatno imati obaveza dokumentovanja i dokazivanja da su AI sistemi bezbedni, transparentni i pod ljudskim nadzorom, posebno u oblastima zapošljavanja, finansija, zdravstva i javne uprave.
Osnovu imamo, sledi (uvek problematična) nadgradnja
Infastrasukturu za veštačku inteligenciju imamo, tačnije ubrzano je gradimo, Srbija će krajem godine dobiti i treći superkompjuter u Državnom data centru u Kragujevcu (po sporazumu sa Francuskom), etičke smernice za AI smo usvojili, doneli novu Strategiju 2025-30 ali sada nam treba i poseban zakon i pravni okvir kako se stvar dalje razvija, istakla je Branka Rakić iz Kancelarije za IT i e-upravu, koja je tehnička i savetodavna podrška donošenju zakona koji pravi Ministarstvo nauke.
„Više ne govorimo o tome treba li koristiti veštačku inteligenciju, jer uveliko se koristi, već kako je koristiti i razvijati odgovorno ali bez prevelike restriktivnosti. Želimo usklađenost sa EU i njihovim zakonodavstvom vezanim za AI ali fleksibilnost koja ne bi gušila inovacije. Kako se sada postavimo zavisiće konkurentnost cele zemlje ubuduće“, naglasila je Rakić na prezentaciji koju je za novinare upriličila Nacionalna alijansa za lokalni ekonomski razvoj (NALED).
Velike količine podataka, a koje se mogu obraditi, osnova su razvoja AI ali su isti ti podaci i veoma osetljiva tema, jer među njima ima i onih ličnih, zbog čega je potrebna anonimizacija (da su podaci odvojeni od onih na koje se odnose tako da se ne mogu „povezati“) ili pseudoanonimizacija podataka da bi dalje mogli da ih koriste oni koji razvijaju data modele, istaknuto je na skupu.
„Pogledi na restriktivnost su različiti, od onog u EU i Kini, gde su centralistički, do SAD koja ide ka velikoj slobodi kompanija u prikupljanju i korišćenju podataka. Balans zaštite i inovacija mora da postoji a posebno je važno pitanje kreiranja data setova, njihove verodostojnosti i upotrebljivosti. Da to napravimo kako treba savršena je prilika sada, kada gradimo nacionalni Suvereni LLM model“, istakao je Dragiša Mišković iz Instituta za veštačku inteligenciju.
Da se ne pretera u regulaciji posebno su zabrinuti oni koji se razvojem AI u Srbiji direktno bave – kompanije i posebno startapi.
“Nekakva regulacija je potrebna ali još ni ne znamo u kom će pravcu sve ići a u EU se ide na obimne propise. S druge strane, već imamo u svetu stotine i stotine AI modela i sistema, od SAD do Kine, pa je već problem šta sve regulisati a šta ne, jer bi se time zaustavio razvoj. Možda bi mi kod nas trebalo prvo malo da pustimo tržište da se postavi i vidi se u kom se pravcu ide pa da se onda donose detaljniji propisi. Zakoniu mogu da budu dobri ali i koši ako je previše regulacije a ne prate ih poreski podsticaji, pogotovo za male firme“ smatra Neda Trifunović iz startapa Reputeo.
Šta je u Zakonu?
Šta se nalazi u Nacrtu zakona, na koji su neke kompanije i institucije već podnele prigovore, predstavila je Irena Đorđević Sušić iz NALED-a.
Zakon je zamišljen veoma široko i ne odnosi se samo na IT kompanije. Obuhvatio bi:
- kompanije koje razvijaju AI sisteme;
- firme koje prodaju ili stavljaju AI sisteme na tržište;
- državne organe koji koriste AI;
- banke, osiguravajuće kuće i finansijske institucije;
- poslodavce koji koriste AI pri zapošljavanju;
- zdravstvene ustanove;
- obrazovne institucije;
- kompanije koje koriste AI za procenu ljudi, donošenje odluka ili automatizaciju procesa.
Prema viđenju Ministarstva nauike, ne bi se odnosio na privatnu i lična upotrebu AI alata; sisteme minimalnog rizika i većinu svakodnevnih AI aplikacija poput alata za generisanje teksta, pretragu ili prevođenje, osim kada se koriste u regulisanim i visokorizičnim oblastima.
Zabrenjeni su sistemi sa kategorije „Neprihvatljiv rizik“, a to su oni koji bi mogli da ugroze osnovna prava građana. Primeri su manipulacija ponašanjem ljudi putem AI; iskorišćavanje dece ili ranjivih grupa; „socijalno bodovanje“ građana po kineskom modelu; određeni oblici biometrijskog nadzora u realnom vremenu.
„Visokorizični sistemi“ su najstrože regulisana kategorija. A u njih spadaju AI sistemi koji utiču na: zapošljavanje; kreditiranje; obrazovanje; zdravstvo; kritičnu infrastrukturu; bezbednost proizvoda; pojedine državne funkcije.
Zbog toga će za njih biti obavezni: procena rizika; kvalitet podataka; dokumentacija i evidencija;
ljudski nadzor; mogućnost revizije odluka; transparentnost rada sistema.
Za sisteme ograničenog rizika (četbotovi, virtuelni asistenti, deepfake sadržaj) biće obavezna transparentnost – korisnik mora znati da komunicira sa AI sistemom ili da je sadržaj generisan veštačkom inteligencijom.
