Američka tehnološka kompanija OpenAI objavila je da je počela sa uvođenjem nevidljivog vodenog žiga u tekstove i kodove koje generišu njeni alati Čet-Dži-Pi-Ti (ChatGPT) i Kodeks (Codex) na teritoriji Evropske unije.
Ova odluka doneta je u cilju usklađivanja sa novim Zakonom o veštačkoj inteligenciji Evropske unije (EU AI Act), čija pravila o transparentnosti nalažu proizvođačima da označavaju AI generisani sadržaj tako da drugi računarski sistemi mogu da ga lako prepoznaju.
Nevidljivi vodeni žig biće postepeno dostupan svim korisnicima alata Čet Dži-Pi-Ti i Kodeks u svim članicama Evropske unije u narednih nekoliko nedelja.
Za programere koji koriste Open AI API interfejs širom sveta, ova opcija je od danas dostupna, ali je isključena po osnovnim podešavanjima i zavisi od izbora samih korisnika.
Tehnologija iza ovog rešenja, nazvana Tekstgrejn (textGrain), razvijena je u saradnji sa istraživačima sa Univerziteta u Pensilvaniji i Jejla.
Vodeni žig ne predstavlja nikakav vidljivi grafički simbol, već suptilno utiče na izbor narednih reči u rečenici prema tajnom ključu.
Time se stvara matematički obrazac koji je nevidljiv ljudskom oku, ali ga specijalizovani detektori mogu uočiti čak i nakon što se tekst kopira i prenese u drugi dokument.
"Ne prikupljamo podatke" žigom
Iz kompanije Open AI napominju da vodeni žig ne prikuplja lične podatke i ne narušava kvalitet odgovora generisanog teksta.
Testovi ipak pokazuju određena ograničenja ove tehnologije, navodi Open AI u saopštenju na svojoj veb stranici.
Promena oko 10 procenata reči u tekstu običnim sinonimima smanjuje pouzdanost detekcije sa 92 na 66 odsto, dok se kratki odgovori, matematički proračuni i prevedeni tekstovi teže označavaju žigom.
Zbog ovih ograničenja, Open AI će pristup alatu za detekciju u početnoj fazi odobravati samo proverenim istraživačkim organizacijama i stručnjacima koji mogu da se već danas prijave za korišćenje detektora.
Konkurentska kompanija Antropik je pre dva meseca saopštila da uvodi vodeni žig za tekst generisan njenim modelom Klod (Claude), i to globalno, a ne samo u Evropskoj uniji kao Open AI, preneli su mediji.
