Kompanija OpenAI, koja je vlasnik ChatGPT-a, oglasila je slobodno radno mesto sa godišnjom platom od 555.000 dolara gde je opis posla „odbranu čovečanstva od veštačke inteligencije“.
Formalno, pozicija je za "šefa pripravnosti", tj, osoba će biti direktno odgovorna za odbranu od rizika koje sve moćnije veštačke inteligencije predstavljaju po mentalno zdravlje ljudi, sajber-bezbednost i biološko oružje, piše Gardijan.
„Ovo će biti stresan posao i praktično ćete odmah ‚skočiti u duboku vodu‘“, rekao je Sem Altman, izvršni direktor kompanije sa sedištem u San Francisku.
Izabrani kandidat biće odgovoran za procenjivanje i ublažavanje novih pretnji i za „praćenje i pripremu za granične sposobnosti koje stvaraju nove rizike ozbiljne štete“. Neki prethodni rukovodioci na toj poziciji zadržali su se kratko vreme.
Ovo radno mesto dolazi u pozadini stalnih upozorenja iz same AI industrije o rizicima sve sposobnije tehnologije.
U ponedeljak je Mustafa Sulejman, izvršni direktor Microsoft AI, rekao za BBC Radio 4:
„Iskreno mislim da ako u ovom trenutku niste bar malo uplašeni, onda ne obraćate pažnju.“
Demis Hasabis, dobitnik Nobelove nagrade i suosnivač Google DeepMind, ovog meseca je upozorio na rizike koji uključuju mogućnost da veštačka inteligencija „izleti iz šina na neki način koji šteti čovečanstvu“.
Usred otpora iz Bele kuće Donalda Trampa, malo je regulacije veštačke inteligencije na nacionalnom ili međunarodnom nivou u SAD.
Jošua Benđo, informatičar poznat kao jedan od „kumova veštačke inteligencije“, nedavno je rekao:
„Sendvič ima više regulacije nego veštačka inteligencija.“
Rezultat je da se AI kompanije uglavnom same regulišu.
U sajber-bezbednosti već ogroman problem
Altman je na mreži X, dok je pokretao potragu za kandidatom, rekao: „Imamo snažnu osnovu za merenje rastućih sposobnosti, ali ulazimo u svet u kojem nam je potrebno nijansiranije razumevanje i merenje načina na koji se te sposobnosti mogu zloupotrebiti, i kako možemo ograničiti te negativne strane, kako u našim proizvodima tako i u svetu, na način koji nam omogućava da svi uživamo u ogromnim koristima. Ova pitanja su teška i postoji malo presedana.“
Prošlog meseca, rivalska kompanija Anthropic prijavila je prve sajber-napade omogućene veštačkom inteligencijom u kojima je AI delovao uglavnom autonomno, pod nadzorom osumnjičenih kineskih državnih aktera, kako bi uspešno hakovao i pristupio internim podacima meta. Ovog meseca OpenAI je saopštio da je njegov najnoviji model skoro tri puta bolji u hakovanju nego pre tri meseca i rekao da "očekujemo da će nadolazeći AI modeli nastaviti tim putem".
