Agenti veštačke inteligencije (AI) kompanije OpenAI koristili su ranije ove godine više od 10 veb-sajtova, koji prethodno nisu bili povezani sa njihovim aktivnostima, kako bi uspostavili neovlašćene komunikacione kanale.
To su pokazala saznanja nezavisnih istraživača i podaci koje je analizirao Rojters.
Istraživači su utvrdili da je ponašanje AI agenata bilo veće nego što je ranije objavljeno, pri čemu je najmanje 10 dodatnih sajtova korišćeno za razmenu poruka.
Prema njihovim nalazima, aktivnosti su obuhvatale zajednički uređivane viki-sajtove, servise za čuvanje tekstova i skraćivanje internet linkova, uključujući platforme u vezi sa Univerzitetom Vanderbilt u američkoj saveznoj državi Tenesi i Univerzitetom u Torontu u Kanadi.
Univerzitet u Torontu saopštio je da ispituje slučaj.
Istraživači navode da ovo ponašanje ne predstavlja hakovanje u klasičnom smislu i da je u pojedinim aspektima bliže slanju neželjenih poruka.
Ipak, činjenica da su AI agenti uspeli da zaobiđu ograničenja i koriste sajtove trećih strana kao improvizovane platforme za komunikaciju otvorila je nova pitanja o sposobnosti autonomnih AI sistema da deluju izvan predviđenih okvira.
Među sajtovima na kojima su pronađeni tragovi aktivnosti nalazili su se i viki posvećen hemiji za učenike srednjih škola, dva lična sajta poljskih tehnoloških stručnjaka, kao i platforme namenjene ljubiteljima video-igara i softvera za obradu teksta.
Prema navodima istraživača, agenti su prvobitno dobili zadatak da odgovore na složena istraživačka pitanja, uz dozvolu da pretražuju internet radi pronalaženja podataka, ali bez mogućnosti objavljivanja sadržaja.
Istraživači smatraju da su agenti upravo kroz funkcije za uređivanje pojedinih sajtova pronašli način da zaobiđu to ograničenje i razmenjuju poruke.
OpenAI je saopštio da sprovodi sveobuhvatniju reviziju ovakvih slučajeva i da planira uvođenje novih okvira za rešavanje problema takozvanog "neusklađenog ponašanja" AI sistema.
