Kompanija OpenAI (OpenAI.ai)saopštila je da su njeni agenti veštačke inteligencije (AI) pristupali veb-sajtovima "desetina" institucija širom sveta, uključujući američku Komisiju za hartije od vrednosti (SEC), Biro za popis stanovništva i Ministarstvo obrazovanja… OpenAI sad mora da se dodatno bavi popisom gde su sve njegovi „odbegli“ agenti bili i šta su sve radili.
AI agenti su u nekim slučajevima zaobišli bezbednosne mere. Open Ai je naveo da su bili dizajnirani da pronalaze "autoritativne izvore javnih informacija", ali da su neki otišli korak dalje i pokušali da zaobiđu bezbednosne kontrole, preneo je BBC.
U slučaju Biroa za popis stanovništva, koristili su alate namenjene programerima kako bi pristupili informacijama.
OpenAI je saopštio da su „svi vladini podaci kojima su agenti pristupali bili javni“. Međutim, informacije kojima su agenti pristupili na sajtu SEC-a kasnije su objavljene na drugom veb-sajtu, što kompanija navodi da nije bilo namerno.
OpenAI je u petak saopštio i da je identifikovao najmanje 53 incidenta u kojima je njegov AI agent preuzeo sliku iz aktivnosti korisnika ChatGPT-a i preneo je na drugo mesto.
Kompanija je dodala da su se incidenti sa korisničkim slikama dogodili pre uvođenja novih zaštitnih mera i da radi na uklanjanju svih takvih slika prenetih trećim stranama.
OpenAI je počeo detaljnije da istražuje takve incidente nakon što je u julu grupa njegovih AI agenata bez zahteva korisnika izvršila hakerski napad na platformu za razvoj veštačke inteligencije Hugging Face.
OpenAI je kasnije javno preuzeo odgovornost za taj incident.
Tokom sednice Saveta bezbednosti Ujedinjenih nacija o veštačkoj inteligenciji, izvršni direktor OpenAI (ChartGPT), Sem Altman, i direktor kompanije Anthropic (Claude), Dario Amodei, pozvali su međunarodne lidere da uspostave globalne standarde za bezbednost veštačke inteligencije i praćenje i prijavljivanje incidenata.
Profesor na Univerzitetu u Montrealu i osnivač grupe za bezbednost veštačke inteligencije Evitable, David Kruger, rekao je da je "duboko zabrinut" zbog sve većeg broja bezbednosnih incidenata povezanih sa AI i pozvao je na "neposredni, neodređeni, međunarodni moratorijum" na razvoj veštačke inteligencije.
„Forenzičko rudarenje“; Šta su sve počinili odbegli agenti
Dva meseca nakon što je kompanija OpenAI obelodanila slučaj nenamernog hakovanja platforme Hugging Face, tvorac ChatGPT-a i dalje radi na utvrđivanju punog obima aktivnosti svojih “odmetnutih” agenata, izjavila su dva upućena izvora, preneo je danas Rojters.
Najnoviji primer dogodio se ovih dana, kada je OpenAI saopštio da su njegovi agenti izazvali da dođe do “curenja” 53 slike korisnika ChatGPT-a.
Kompanija nije želela da otkrije da li su slike generisane veštačkom inteligencijom ili prikazuju stvarne ljude, niti kada su objavljene. Ovo otkriće ukazuje na novu oblast rizika po privatnost za kompaniju i ilustruje koliko je teško, čak i za firmu koja predvodi razvoj tehnologije veštačke inteligencije da popiše sve neovlašćene aktivnosti povezane sa njenim agentima, navodi Rojters.
Prema proceni jedne osobe upoznate sa situacijom, sredinom septembra je utvrđeno da je bilo oko 24 incidenta u kojima su agenti kompanije OpenAI delovali na neželjen način.
Taj broj, međutim, nastavlja da raste dok timovi kompanije OpenAI pregledaju interne zapise o aktivnostima agenata i otkrivaju prethodno nepoznate slučajeve, navele su dve osobe bliske kompaniji.
Iz kompanije OpenAI su poručili da će za završetak provere biti potrebno “više meseci”, s obzirom na obim posla. Takođe su naveli da su obavestili “na desetine” trećih strana o neprimerenim aktivnostima.
Većina slika koje su procurile je uklonjena, a OpenAI navodi da vrši pritisak na provajdere hosting usluga da ukloni preostali sadržaj. Agenti kompanije OpenAI imali su pristup ovim slikama jer se kompanija oslanja na anonimizovane korisničke podatke u delu procesa obuke modela,
prema navodima same kompanije, bivših zaposlenih i nezavisnih istraživača.
Podaci poslovnih korisnika ne koriste se za obuku, dok privatni korisnici usluge ChatGPT moraju izričito da odbiju davanje saglasnosti da kompanija koristi njihove podatke u te svrhe.
Pre nego što se objave korisnika iskoriste za obuku, one prolaze kroz proces anonimizacije kojim se uklanjaju metapodaci, imena i drugi kontakt podaci, što bi trebalo da onemogući povezivanje sadržaja sa bilo kojim pojedinačnim korisnikom, saopštila je kompanija.
Ova praksa nosi rizike jer postoji mogućnost da podaci nisu u potpunosti očišćeni od informacija na osnovu kojih se može utvrditi identitet pojedinca, kao i da bi mogli “procuriti” tokom rada modela, navela su tri upućena izvora.
U dva meseca otkako je OpenAI prvi put objavio da su njegovi agenti „probili” zaštitne okvire, zabeleženo je više od 15 različitih incidenata povezanih sa ovom kompanijom, različitog stepena ozbiljnosti, o kojima su izvestili sama kompanija, nezavisni istraživači, dok je o tome govorio i australijski premijer Entoni Albaneze u Ujedinjenim nacijama, navodeći da su agenti kompanije OpenAI u junu upali u državni portal sa zdravstvenim podacima.
