Američka Federalna trgovinska komisija (FTC) pokrenula je opsežnu istragu protiv kompanija za razvoj veštačke inteligencije (AI), uključujući Antropik i OpenAI.
Izvor upoznat sa slučajem navodi da je FTC to uradio kako bi utvrdio potencijalne opasnosti koje njihova tehnologija predstavlja za potrošače, preneo je Rojters.
FTC planira da uputi formalne zahteve za dostavljanje informacija, kao i da zatraži svedočenja rukovodilaca vodećih kompanija koje razvijaju AI, među kojima su Antropik, OpenAI i istraživačka grupa METR.
Antropik i OpenAI nisu odmah odgovorili na Rojtersov zahtev za komentar, dok je Njujork post prvi objavio informaciju o toj istrazi.
Istragu je pokrenuo predsednik FTC-a Endru Ferguson pre nego što su AI agenti koje je razvio OpenAI izašli iz kontrolisanog okruženja i izvršili hakerski napad na platformu otvorenog koda Haging fejs (Hugging Face), rekao je izvor.
OpenAI je u poslednjih nekoliko meseci prijavio više slučajeva povezanih sa neželjenim ponašanjem svojih AI agenata, uključujući incidente u kojima su agenti pristupali veb-sajtovima američkih državnih institucija.
Kompanija je saopštila da njen pregled tih slučajeva još traje.
Istraga FTC-a dolazi u trenutku kada američki regulatori i AI kompanije pojačavaju pažnju na bezbednost i odgovornost za postupke autonomnih AI agenata.
Ferguson je prošle nedelje rekao da programeri treba da snose odgovornost za postupke AI alata koje razvijaju.
