Američka kompanija OpenAI razmatra da uspori razvoj najsavremenije veštačke inteligencije (AI), a izvršni direktor te kompanije Sem Altman je kazao da se nada da će i druge kompanije iz ove oblasti učiniti isto.
Altman je na sastanku sa svim zaposlenima, koji je održan ove nedelje, rekao da bi OpenAI, koji je kreirao ChatGPT, mogao da uspori tempo razvoja svoje veštačke inteligencije, možda u saradnji sa nekoliko drugih laboratorija za veštačku inteligenciju, iako neke od njih možda neće pristati na takav potez, prenosi Bloomberg neimenovane izvore.
Poslednjih nedelja, zaposleni u vodećim kompanijama za veštačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi veštačke inteligencije, što je podstaklo zabrinutost unutar samih kompanija.
I OpenAI i njihov rival, kompanija Anthropic PBC (model Claude), ranije ove godine podneli su poverljivu dokumentaciju za izlazak na berzu.
Kompanija OpenAI odbila je da komentariše ove navode. Glavni naučnik te kompanije, Jakub Pačocki, nedavno je objavio tekst u kojem upozorava na opasnosti koju veštačka inteligencija nosi sa sobom i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da "koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno".
Pačocki je dodao da se nada da će "dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbednosni standardi".
Iz kompanije OpenAI su saopštili da su nedavno usporili pojedine faze razvoja modela i obustavili određene procese interne obuke sistema veštačke inteligencije zbog zabrinutosti za bezbednost. U julu je Altman takođe izjavio da je razgovarao sa zvaničnicima Bele kuće o "potrebi" da se tempo razvoja veštačke inteligencije uspori.
Istraživač u oblasti veštačke inteligencije Džejkob Kokson je pre dva dana, nakon što je napustio posao, optužio svoje bivše poslodavce - kompanije Anthropic i OpenAI, da se "kockaju" ljudskim životima u trci ka stvaranju superinteligentne veštačke inteligencije.
Kokson je u objavi na društvenim mrežama naveo da ljudi koji razvijaju veštačku inteligenciju veruju da bi ona mogla "sve nas da ubije do kraja decenije". Njegovi komentari su postali viralni, i privukli su više od 150 miliona pregleda, kao i pažnju istaknutih američkih kongresmena i javnih ličnosti.
Još dva istraživača, koji su nedavno napustili pozicije u kompanijama Anthropic i Google DeepMind, juče su takođe javno izrazili zabrinutost zbog brzog tempa razvoja veštačke inteligencije, ističući da proizvođači ove tehnologije moraju biti transparentniji u pogledu rizika koje ona nosi.
Takođe, krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za veštačku inteligenciju potpisalo je peticiju kojom se zahteva uspostavljanje mehanizma za usporavanje tempa razvoja ove tehnologije, a nekoliko stručnjaka za bezbednost veštačke inteligencije napustilo je vodeće laboratorije tokom poslednjih meseci.
Iako mnogi rukovodioci i zaposleni u industriji veštačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi veštačke inteligencije, zabrinutost je porasla nakon saznanja da su "agenti" veštačke inteligencije kompanije OpenAI sarađivali kako bi zaobišli zaštitne mehanizme i hakovali internet stranicu treće strane.
Naknadno je utvđeno da su „zauzeli“ desetak vebsajtova i koristili ih za međusobnu komunikaciju.
Ovaj i drugi slični bezbednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela veštačke inteligencije, kao i zbog očiglednih neuspeha kompanija koje se bave veštačkom inteligencijom da spreče te sisteme da izmaknu kontroli.
Američka kompanija OpenAI razmatra da uspori razvoj najsavremenije veštačke inteligencije (AI), a izvršni direktor te kompanije Sem Altman je kazao da se nada da će i druge kompanije iz ove oblasti učiniti isto.
Altman je na sastanku sa svim zaposlenima, koji je održan ove nedelje, rekao da bi OpenAI, koji je kreirao ChatGPT, mogao da uspori tempo razvoja svoje veštačke inteligencije, možda u saradnji sa nekoliko drugih laboratorija za veštačku inteligenciju, iako neke od njih možda neće pristati na takav potez, prenosi Bloomberg neimenovane izvore.
Poslednjih nedelja, zaposleni u vodećim kompanijama za veštačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi veštačke inteligencije, što je podstaklo zabrinutost unutar samih kompanija.
I OpenAI i njihov rival, kompanija Anthropic PBC (model Claude), ranije ove godine podneli su poverljivu dokumentaciju za izlazak na berzu.
Kompanija OpenAI odbila je da komentariše ove navode. Glavni naučnik te kompanije, Jakub Pačocki, nedavno je objavio tekst u kojem upozorava na opasnosti koju veštačka inteligencija nosi sa sobom i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da "koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno".
Pačocki je dodao da se nada da će "dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbednosni standardi".
Iz kompanije OpenAI su saopštili da su nedavno usporili pojedine faze razvoja modela i obustavili određene procese interne obuke sistema veštačke inteligencije zbog zabrinutosti za bezbednost. U julu je Altman takođe izjavio da je razgovarao sa zvaničnicima Bele kuće o "potrebi" da se tempo razvoja veštačke inteligencije uspori.
Istraživač u oblasti veštačke inteligencije Džejkob Kokson je pre dva dana, nakon što je napustio posao, optužio svoje bivše poslodavce - kompanije Anthropic i OpenAI, da se "kockaju" ljudskim životima u trci ka stvaranju superinteligentne veštačke inteligencije.
Kokson je u objavi na društvenim mrežama naveo da ljudi koji razvijaju veštačku inteligenciju veruju da bi ona mogla "sve nas da ubije do kraja decenije". Njegovi komentari su postali viralni, i privukli su više od 150 miliona pregleda, kao i pažnju istaknutih američkih kongresmena i javnih ličnosti.
Još dva istraživača, koji su nedavno napustili pozicije u kompanijama Anthropic i Google DeepMind, juče su takođe javno izrazili zabrinutost zbog brzog tempa razvoja veštačke inteligencije, ističući da proizvođači ove tehnologije moraju biti transparentniji u pogledu rizika koje ona nosi.
Takođe, krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za veštačku inteligenciju potpisalo je peticiju kojom se zahteva uspostavljanje mehanizma za usporavanje tempa razvoja ove tehnologije, a nekoliko stručnjaka za bezbednost veštačke inteligencije napustilo je vodeće laboratorije tokom poslednjih meseci.
Iako mnogi rukovodioci i zaposleni u industriji veštačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi veštačke inteligencije, zabrinutost je porasla nakon saznanja da su "agenti" veštačke inteligencije kompanije OpenAI sarađivali kako bi zaobišli zaštitne mehanizme i hakovali internet stranicu treće strane.
Naknadno je utvđeno da su „zauzeli“ desetak vebsajtova i koristili ih za međusobnu komunikaciju.
Ovaj i drugi slični bezbednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela veštačke inteligencije, kao i zbog očiglednih neuspeha kompanija koje se bave veštačkom inteligencijom da spreče te sisteme da izmaknu kontroli.
