Američko Ministarstvo finansija, Ministarstvo zdravlja i socijalnih službi i Ministarstvo spoljnih poslova (State Department) prestali su da koriste AI proizvode kompanije Antropik (Anthropic, čet-bot Claude), nakon direktive američkog predsednika Donalda Trampa da se pređena konkurentsku platformu Open AI.
Sve više ključnih američkih institucija, uključujući Pentagon sa kojim je AI kuća u posebnoj zavadi, postepeno napušta Antropik koji je bio jedna od vodećih kompanija u sektoru nacionalne bezbednosti, prenosi Rojters.
Sukob sve strane se rasplamsao prošle nedelje kada je Pentagon tražio od Antropika da ukloni ključne sigurnosne zaštite iz svog Claude modela kako bi mogao da se koristi za "bilo koje zakonite namene" uključujući potencijalno masovno nadgledanje građana i i razvoj autonomnih dronova sposobnih da biraju mete bez ljudskog nadzora.
Kompanija iz San Franciska je odbila ovaj zahtev, nakon čega je američka vlada praktično prekinula svoje dosadašnje ugovore i partnerstva sa Antropikom.
Ekspert Maks Tegmark, fizičar sa MIT-a i pionir u zagovaranju bezbednosti veštačke inteligencije, smatra da je ovaj scenario direktna posledica dugogodišnjeg odbijanja AI industrije da prihvati obavezujuću regulativu, prenosi Teh kranč.
Prema njegovim rečima, kompanije poput Antropika, OpenAI i Gugla godinama su lobirale protiv regulative koja bi ih ograničila, ali upravo nedostatak pravila je omogućio Vašingtonu da postavlja zahteve bez jasnih zakonskih barijera i vrši politički pritisak.
Ironija situacije leži u činjenici da su gotovo svi ključni igrači u tehnološkom sektoru postepeno ublažili ili potpuno odbacili svoja obećanja o bezbednosti kako bi osigurali ugovore sa vojnim i obaveštajnim agencijama, dodaje Maks Tegmark
Posebno je indikativno to što je Open AI, uprkos deklarativnoj podršci Antropiku, ubrzo nakon incidenta objavio sopstveni aranžman sa Pentagonom, čime se dodatno produbljuje jaz između deklarativne etike i tržišne realnosti.
„Bez zakona koji važi za sve, tržište kažnjava etiku, a nagrađuje one koji najbrže i najjeftinije isporučuju moćne sisteme bez obzira na rizike“, poručuje Tegmark.
Neuspeli pregovori i slučaj Maduro
Izvršni direktor kompanije Antropik, Dario Amodei, najavio je pre desetak dana sastanak sa američkim ministrom odbrane Pitom Hegsetom zbog spora oko korišćenja Claude.
Kako je naveo američki visoki zvaničnik koji je želeo da ostane anoniman, Pentagon sumnja da Antropik "ne podržava njegove ciljeve" i želi da razjasni spornu situaciju na sastanku.
Antropik je imao primedbe u vezi sa tim kako je njegov model veštačke inteligencije korišćen tokom američke operacije u Venecueli kada je u toj zemlji otet predsednik Nikolas Maduro.
Prema informacijama koje je Blumberg dobio prošle nedelje, Antropik traži i dodatne garancije u pogledu upotrebe svog alata Klod Gov, namenjen isključivo potrebama američke nacionalne bezbednosti - mere koje bi sprečile masovni nadzor američkih građana i razvoj oružja koje se može upotrebljavati bez ljudskog nadzora.
Takav stav naišao je na otpor Pentagona, koji želi slobodu korišćenja Kloda sve dok ta upotreba nije protivzakonita a portparol američkog Ministarstva odbrane Šon Parnel, izjavio je da je odnos sa Antropikom „pod preispitivanjem“.
„Naša zemlja zahteva da njeni partneri budu spremni da pomognu našim vojnicima da pobede u svakom sukobu“, rekao je Parnel.
Očigledno je da je taj period „preispitivanja“ istekao.
Claude pod pritiskom na sve strane
Četbot Claude juče je bio nedostupan za veliki broj korisnika, a firma iz San Franciska je saopštila da su zabeležene "povećane greške" u pojedinim servisima i da je istraga u toku.
Prekid je pogodio korisnike četbota, kao i servis za programiranje Klod koji koriste programeri za generisanje i analizu koda.
Korisnici iz više regiona, uključujući Indiju, Evropu i delove Afrike, prijavile su HTTP 500 greške, neuspele pokušaje prijave, zamrznute sesije i potpun pad sajta.
Kompanija je navela da aplikacije trećih strana koje koriste Klod API nisu bile pogođene ovim problemom, što sugeriše da su infrastrukturni sistemi nadalje operativni, ali je korisnički pristup bio poremećen.
Na društvenim mrežama pojavile su se objave sa porukama o "privremenom prekidu usluge" i nemogućnosti korišćenja platforme.
Neizvesno je da li se ovi problemi mogu povezati se prethodnom objavom iz Antropika, kada su optužili tri kineske AI kompanije, za svojevrsnu industrijsku špijunažu.
Firme Dip sik (DeepSeek), Munšot (Moonshot AI) i Minimaks (MiniMax), da su kreirale više od 24.000 lažnih naloga kako bi kopiranjem njihovog modela poboljšale kvalitet svog proizvoda.
Navedene kompanije su, prema tvrdnjama Antropika, generisale više od 16 miliona interakcija sa modelom Klod kako bi saznale više o njegovim ključnim sposobnostima kao što su agentno rezonovanje, korišćenje alata i programiranje, prenosi Teh kranč.
Antropik je zapazio više od 150.000 interakcija Dip sika usmerenih na poboljšanje osnovne logike i usklađenosti modela, dok je Munšot imao preko 3,4 miliona interakcija koje su ciljale agentno rezonovanje, korišćenje alata i programiranje.
Rekorder je Minimaks koji je imao 13 miliona interakcija i pokušao da preusmeri gotovo polovinu svojih upita ka najnovijoj verziji modela Klod kako bi posmatranjem i analizom poboljšao vlastite sposobnosti.
Antropik je naglasio da će nastaviti ulaganja u odbranu protiv takvih napada i pozvao na koordinisan odgovor industrije, kreatora politika i firmi koje pružaju usluge skladištenja u klaudu.
Kineske kompanije su navodno koristile metodu destilacije, koja podrazumeva da manji AI model postavlja upite i uči iz odgovora većeg modela, tako da može da radi skoro iste stvari, ali je brži i jeftiniji za korišćenje.
