Kako rešiti sve veću potrebu za čuvanjem AI podataka, a da to nisu veliki, preskupi data-centri čija gradnja traje i po nekoliko godina? Američki startap SPAN veruje da je deo rešenja instaliranje malih, kućnih AI data centara.
Zajedno sa Nvidia i jednim od najvećih graditelja kuća “Pulte Grup” Span je pokrenuo projekat “Span XFRA” koji porodične kuće pretvara u mrežu malih, distribuiranih AI data centara. Ideja je da se na spoljašnji zid kuće instalira jedinica sa GPU serverima koja je veličine spoljne jedinice standardnog klima uređaja.
Uređaj koji se postavlja zove se “XFRA node” i sadrži 16 Nvidia GPU kartica, 4 CPU procesora i oko 3 TB RAM memorije. To je dovoljno za AI zadatke bliže korisnicima, ali ne i za treniranje velikih modela. Ova oprema je prilično skupa, oko 250.000 dolara! Projekat je u eksperimentalnoj fazi i plan je da do kraja godine u 100 domova postave ove uređaje.
A ko će plati struju?
Vlasnik objekta nema nikakav trošak za uvođenje ovog sistema, ne kupuje data centar, ne plaća hardver i ne upravlja njime već samo ustupa prostor i deo kućne elektro-infrastrukture.
Ovo je jesu kućni AI centri, ali troše veliku količinu struje. U puno režim troše oko 12,5 kilovat na sat, odnosno mesečno oko 9.000 kWh. To znači da bi za 3 dana potrošili struje koliko prosečno domaćinstvo u SAD potroši za mesec dana! I ko će onda da plati račun za struju?
Iako model plaćanja vlasnicima za instaliranje kućnih AI data centara nije do kraja formiran, jasno je da bi kompanija plaćala račun za struju i internet domaćina, dok bi vlasnik kuće plaćao fiksnu naknadu, znatno nižu od uobičajenih računa. Pominje se taksa od oko 150 dolara, ali u nekim slučajevima može biti i bez naknade.
Još štošta sa strane mora da se reši
Sistem kućnih AI data centara otvorio je i brojna pitanja. Pre svih da li lokalna elektro-mreža može da izdrži više ovakvih uređaja u jednom naselju? Dalje, ko snosi odgovornost za kvar, požar, osiguranje i bezbednost uređaja? Kako se reguliše buka, grejanje, pristup servisera? I na kraju, da li će vlasnici stana pristati da na zidu svojih kuća imaju opremu kojom upravlja neko drugi.
“Scientific American” navodi da je koncept zanimljiv, ali da mora dokazati da njegove prednosti nadmašuju ekonomiju obima klasičnih data centara. Ovo može biti dopuna velikim data centrima, ali ne izgleda kao zamena za velike kampuse sa hiljadama GPU servera.
