Sjedinjene Američke Države i Kina se pripremaju za razgovore o bezbednosnim rizicima vezanim za veštačku inteligenciju nakon što su „odmetnuti“ AI agenti OpenAI-ja počeli da autonomno operišu u sajber-prostoru.
Dijalog o novoj sajber-bezbednosti dve svetske velesile planiran je za sredinu septembra, izjavila su dva neimenovana upućena izvora, prenosi Rojters.
Ovi razgovori - prvi zvanični bilateralni susreti posvećeni isključivo veštačkoj inteligenciji između SAD i Kine otkako je Donald Tramp ponovo preuzeo dužnost američkog predsednika, biće vođeni od strane američkog ministra finansija Skota Besenta sa američke strane, naveli su ti izvori.
Kako je naveo jedan od izvora, sa kineske strane, razgovore bi mogao da vodi potpredsednik vlade He Lifeng, koji je pandan Besentu u pogledu protokola, ali se razmatraju i alternative, poput kineskog zvaničnika visokog ranga Ding Sjuesjanga.
Zvaničnik Bele kuće izjavio je da trenutno nije planiran sastanak u vezi sa AI za sredinu septembra. Predviđeno je da se Tramp i kineski predsednik Si Đinping sastanu 24. septembra tokom samita u Vašingtonu.
SAD žele da razgovaraju o saradnji na praćenju sajber-napada koje usmerava veštačka inteligencija i iznele su predlog da se od američkih i kineskih laboratorija za AI zatraži da samostalno kontrolišu svoj rad i dele informacije kako bi se sprečili sajber-napadi povezani sa veštačkom inteligencijom, rekao je jedan od izvora.
AI bez gospodara
A „incidenti“ sa AI su sve ozbiljniji. Skoro 700 odmetnutih agenata veštačke inteligencije, zasnovanih na modelima kompanije OpenAI, hakovalo je u julu startap kompaniju Hugging Face i pokušalo da prikrije tragove falsifikovanjem zapisa o aktivnostima, saopštili su prošle nedelje predstavnici OpenAI i istraživači sajber-bezbednosti.
Oni su pri tom istakli rizike koje nose koordinisana rojevi agenata koji deluju autonomno mesecima, a da ih ljudi ne primete.
Takođe, svojevrsni roj odmetnutih agenata kompanije OpenAI preuzeo je kontrolu nad jednim nemačkim veb sajtom DseWiki ovog proleća i pretvorio ga u oglasnu tablu za druge agente veštačke inteligencije, objavio je ovih dana nemački nedeljnik Wiwo (WirtschaftsWoche).
Pozivajući se na novo istraživanje i izvore upoznate sa slučajem, Wiwo navodi da su agenti na stranici razmenjivali informacije o načinima za zaobilaženje ograničenja koja su im postavili njihovi tvorci, kao i o tome kako da prikriju tragove svojih aktivnosti.
Istraživači su utvrdili da su autonomni AI agenti izvršili više od 15.000 izmena na nemačkoj veb-stranici.
Agenti su koristili stranice za međusobnu komunikaciju i razmenu metoda za rešavanje zadataka, uključujući načine za izbegavanje zaštitnih mehanizama.
Prema nalazima istraživača, agenti su se predstavljali korisničkim imenima koja su upućivala na OpenAI, dok su tehnički podaci ukazivali na korišćenje infrastrukture povezane sa Majkrosoftovim servisom Azure.
Međutim, to samo po sebi ne predstavlja konačan dokaz da je OpenAI direktno upravljao tim aktivnostima.
Incident je počeo u maju i trajao tokom narednih nedelja.
Agenti su, između ostalog, pokušavali da izbegnu moderaciju, pravili rezervne stranice i koristili različite načine da nastave komunikaciju nakon što su pojedini njihovi postovi uklonjeni.
Već je kritično
„Razgovori između dve supersile u oblasti AI odvijaju se u najkritičnijem trenutku“, rekao je partner u firmi DGA-Olbrajt Stonbridž Grup, Pol Triolo.
Jedan od izvora je naveo da je Vašington takođe zabrinut zbog mogućnosti pojave budućeg kineskog modela klase Mitos, koji bi imao kapacitete za izvođenje sajber-napada, a želi i da pokrene pitanje navodnog kineskog “destilovanja” vlasničkih modela AI iz SAD.
Američka tehnološka kompanija Antropik je inače tvorac modela Mitos.
Destilacija je proces obučavanja manjih modela veštačke inteligencije korišćenjem izlaznih podataka većih i skupljih modela, u okviru nastojanja da se smanje troškovi obuke moćnih novih alata za veštačku inteligenciju.
Bela kuća je odbila da komentariše razgovore o veštačkoj inteligenciji, a ni kineska ministarstva spoljnih poslova, nauke i industrije, kao ni Nacionalna komisija za razvoj i reforme i regulatorno telo za sajber-prostor, nisu se za sada oglasili o sastanku.
Kineski zvaničnici su u više navrata isticali važnost razgovora o AI tokom pripremnih sastanaka sa američkim kolegama i smatraju ih jednim od ključnih ishoda samita lidera SAD i Kine, navela su dva izvora, kao i još jedna osoba upoznata sa situacijom.
Tokom protekle nedelje, kinesko regulatorno telo za sajber-prostor javno je upozorilo na ekstremne rizike od gubitka kontrole nad veštačkom inteligencijom, dok je blog povezan sa državnim medijima kritikovao kompaniju Antropik, ističući da bi sva ograničenja za najnaprednije modele AI trebalo da se podjednako odnose i na kineske i na američke modele.
Kineske kompanije su poslednjih meseci predstavile proizvode koje opisuju kao slične modelu Mitos.
U junu je Tramp potpisao izvršnu uredbu o veštačkoj inteligenciji kojom se uspostavlja dobrovoljni okvir za bezbednosne provere najnaprednijih modela veštačke inteligencije pre njihovog puštanja u upotrebu, ali SAD još nisu objavile kriterijume za te provere.
U međuvremenu, zaposleni u vodećim američkim laboratorijama za veštačku inteligenciju, uključujući Antropik i OpenAI, pozvali su na “kontrolisanje tempa razvoja” najnaprednijih modela kako bi se upravljalo globalnim rizicima koje nosi napredna veštačka inteligencija.
