Američke tehnološke kompanije Majkrosoft (Microsoft) i Envidija (Nvidia) su danas zajedno sa više desetina tehnoloških kompanija kao što su Spejs iks (SpaceX) i Palantir (Palantir Inc) okrenule novu inicijativu za bezbednost veštačke inteligencije (AI), nakon ozbiljnog incidenta sa naprednim Chat-GPT modelom koji je otvorio pitanje rizika i prednosti otvorenih AI modela.
Novi savez pod nazivom Savez za bezbednu otvorenu veštačku inteligenciju (Open Secure AI Alliance) ima za cilj razvoj i deljenje bezbednosnih alata za otvorene AI tehnologije, odnosno modele veštačke inteligencije koje korisnici mogu da preuzmu, menjaju i pokreću na sopstvenoj infrastrukturi, prenosi CNBC.
Međutim, jedna od vodećih kompanija, Antropik (Anthropic) oglušila se o ovu inicijativu u sada trpi gomile kritika u tehnološkoj javnosti zbog toga.
„Mnogo je zanimljivije ko NIJE potpisao pismo o modelima otvorenih težina (open-weight) nego ko jeste”, napisao je Kaj-Fu Li, bivši izvršni direktor u kompanijama Google i Microsoft i osnivač kineskog startapa za modele otvorenog koda 01.AI, označivši Anthropic-ov Claude AI u svojoj objavi na platformi X.
Bil Garli, generalni partner u venčer kapital firmi Benchmark, takođe je kritikovao kompaniju Anthropic jer nije potpisala pismo, sugerišući da kompanija pokušava da sačuva svoju poziciju u trci za veštačku inteligenciju.
„Uzbudljivo je videti da Anthropic priznaje da je pravi problem sa otvorenim kodom to što on konkuriše njihovoj korporativnoj ekonomskoj strategiji. Ova 'svesnost' ovde mnogo toga otkriva”, napisao je Garli u objavi na platformi X, odgovarajući jednom zaposlenom u kompaniji Anthropic.
Glavni izvršni direktor kompanije Anthropic, Dario Amodei, ranije je upozoravao da programeri gube kontrolu nad naprednim AI modelima onog trenutka kada se objavi njihov open*weight.
Umesto toga, Anthropic se zalagao za kontrolisani pristup moćnim modelima, lansirajući ranije ove godine „Project Glasswing” — inicijativu koja proverenim kompanijama pruža rani pristup njihovim moćnim sajber modelima kako bi ispravile bezbednosne propuste.
Open-weight varijanta je kada se javno objavljuju samo završni dokumenta parametara neuralne mreže dok kod open-source varijante javno se objavljuju trening-kodovi, detalji arhitekture modela i vodovi podataka (data pipelines) zajedno sa „weights“.
Kina zaoštrava debatu
Debata o modelima otvorenog koda dodatno je rasplamsana nedavnim lansiranjem modela Kimi K3, modela otvorenih težina koji je razvila kineska AI laboratorija Moonshot, a koji na pojedinim testovima performansi parira vrhunskim zatvorenim modelima iz SAD.
Prošle nedelje, visoki zvaničnik Bele kuće optužio je Moonshot da je koristio Anthropic-ov AI model Fable za treniranje modela K3, što je praksa poznata kao „destilacija“. Ministar finansija SAD, Skot Besent, nagovestio da bi američka vlada mogla da uvede sankcije kineskim AI modelima otvorenog koda za koje se utvrdi da su vršili destilaciju sa svojih američkih rivala. Kina je, uopšteno govoreći, zauzela otvoreniji pristup veštačkoj inteligenciji u poređenju sa SAD.
Destilacija AI modela je proces u kojem jedan AI sistem "uči" od drugog, naprednijeg sistema tako što mu postavlja veliki broj pitanja i analizira njegove odgovore, kako bi napravio sopstveni model koji pokušava da oponaša njegove sposobnosti.
Problem nastaje kada se to radi "bez dozvole" vlasnika naprednijeg modela, pošto može da predstavlja neovlašćeno preuzimanje tehnološkog znanja. Vlasti Sjedinjenih Američkih Država "smislile su" razliku između legitimne destilacije i masovnog izvlačenja podataka koje smatraju krađom intelektualne svojine.
Kineski startap Munšot oštro je odbacio sve optužbe da su performanse njihovog modela postignute destilacijom, ističući da napredak sistema proizilazi iz originalnih izmena na samoj arhitekturi modela.
Ako kompanija dospe na američku crnu listu, izgubiće pristup američkim poluprovodnicima, softveru i uslugama u klaudu, što može da značajno oteža njeno poslovanje.
Nešto mora da se uradi
Argument u korist AI modela otvorenih težina dobio je na snazi prošle nedelje nakon što je platforma Hugging Face saopštila da je koristila model kineske kompanije Z.ai u odbrani od hakerskog napada odmetnutog AI agenta kompanije OpenAI. Iz Hugging Face-a su naveli da nisu mogli da koriste zatvorene AI modele zbog ograničenja koja oni nose.
Kritičari tvrde da bi kineske kompanije mogle da koriste otvorene modele za preuzimanje znanja iz američkih AI sistema, dok zagovornici otvorenog pristupa ističu da su upravo takvi modeli važni za razvoj bezbednosnih rešenja.
