Američka kompanija za razvoj veštačke inteligencije Open AI, nakon što je ugasila AI agenta Sora, odložila je i planove za objavljivanje erotskog četbota "na neodređeno vreme", nakon što su neki zaposleni i investitori izrazili zabrinutost zbog uticaja seksualizovanih AI sadržaja na društvo.
Kako prenosi Fajnenšel tajms (FT), pozivajući se na više anonimnih upućenih izvora, glavni razlog za odlaganje najavljenog proizvoda je rizik od stvaranja nezdravih emocionalnih veza korisnika sa AI.
Pored toga, postoji strah da bi maloletnici mogli da budu izloženi neprikladnom sadržaju, čime bi se povećali pravni i reputacioni rizici za Open AI.
Tehnički izazovi su dodatno otežali projekat.
Model je trebalo da bude obučen za eksplicitni sadržaj, ali pritom je moralo da se ukloni sve šta je nezakonito.
Open AI je istakao da pažljivo definiše granice i trenira model da razlikuje problematične situacije, ali i dalje postoje komplikacije u pouzdanom prepoznavanju granica eksplicitnog sadržaja.
Firma je planirala da proverava uzrast korisnika preko posebnog sistema, ali tehnologija greši u više od 10 odsto slučajeva, što povećava rizik da će maloletnici pristupiti ovom sadržaju.
Open AI je nedavno odlučio da se fokusira na svoja glavna produktivna rešenja i novu aplikaciju koja objedinjuje Čet Dži-Pi-Ti (Chat GPT), pretraživač i alat za kodiranje Kodeks.
Projekti koji nisu u fokusu, poput alata Sora koji generiše video-snimke na osnovu teksta a koji je razvijan za Dizni, već su obustavljeni, a erotski četbot sada spada u grupu proizvoda koji čekaju povoljniji momenat.
