“Ako je čovek toliko pametan, zašto smo onda toliko glupi ljudi”, upitao se autor bestselera Neksus i profesor istorije Juval Noa Harari, trenutno jedan od vodećih predavača koji izučava različite aspekte veštačke inteligencija na čovečanstvo.
Prenosimo njegov intervju za portal Bigthik u kome govori kako ljudi treba da zaštite svoj um u doba lažnih vesti i nepotrebnih informacija.
Život na ivici
Uspeli smo da stignemo do Meseca, da podelimo atom, da dešifrujemo DNK, a ipak, uz sve naše znanje i mudrost, nalazimo se na ivici ekološkog kolapsa, možda i trećeg svetskog rata. I uz to, razvijamo izuzetno moćnu tehnologijum, veštačku inteligenciju (AI), koja bi mogla da izmakne našoj kontroli i da nas porobi ili uništi.
Pre nego što o tome počnemo da razmišljamo u terminima rizika, pretnje ili prilike, zamislite samo šta bi značilo da sve više živimo svoje živote u okruženju kulturnih artefakata koji potiču iz veštačke inteligencije. Danas postoji ogromna pompa oko AI, posebno na tržištu. Ako danas želite da nešto prodate ljudima nazovite to AI. Ali, nije svaka automatska mašina AI. Ono što čini AI pravom AI jeste sposobnost da sama uči i menja se, da donosi odluke i ideje koje mi ne predviđamo niti možemo da predvidimo.
Akronim “AI” je preciznije posmatrati kao oznaku za Alien Intelligence – vanzemaljsku inteligenciju. Iz godine u godinu AI postaje sve manje “vestacka”, a sve više “strana” u smislu da ne možemo da predvidimo kakve će nove priče, ideje i strategije razviti. Ona misli i ponaša se na suštinski stran način. Ovo je AI – i to nije samo teorija, već nešto što već vidimo svuda oko nas.
Od ponedeljka do petka
Kad god se izmisli nova tehnologija, ona menja sve društvene, ekonomske i političke strukture – i često to čini na nedeterministički način. Na primer, u 20. veku, uspon masovnih medija i masovne informacionе tehnologije poput telegrafa, radija i televizije, s jedne strane, postao je osnova za velike demokratske sisteme, a s druge strane – za velike totalitarne sisteme.
Imamo najsofisticiraniju informacionu tehnologiju u istoriji, a gubimo sposobnost da međusobno vodimo razuman razgovor
Pre pojave moderne informacionе tehnologije, drevni kraljevi u Mesopotamiji, rimski carevi ili kineski carevi imali su vrlo ograničene mogućnosti prikupljanja informacija. Nisu mogli da mikromenadžuju društveni, ekonomski i kulturni život svakog pojedinca u zemlji, jer nisu imali potrebne informacije da to rade.
Sve informacionе tehnologije do 21. veka bile su organske mreže zasnovane na našem organskom mozgu. Naš život funkcioniše u ciklusima: dan i noć, zima i leto, rast i propadanje, vreme aktivnosti i vreme odmora i sna.
Pomislite na Volstrit - i on je, sve do danas, poštovao ovu organsku logiku. Tržište radi samo od ponedeljka do petka, vikendom se ne radi. Tako funkcionišu organska bića, čak i bankari, investitori i finansijeri, sve dok su ljudi, a ne algoritmi, imaju svoje slobodno vreme i privatnost.
Do pojave AI, čak ni najtotalitarniji režimi, poput Sovjetskog Saveza, nisu mogli da prate sve ljude u svakom trenutku. Nije bilo dovoljno agenata KGB da nadgledaju svakog građanina 24 sata dnevno.
Čak i da su to nekako uspeli, nisu imali dovoljno analitičara da obrade i razumeju sve te podatke. Organske informacione mreže su uvek imale periode odmora i meru privatnosti.
Sada, međutim, vidimo uspon novog tipa informacionih mreža – neorganskih, zasnovanih na AI. One ne moraju da prave pauze. Uvek su “uključene” i mogu nas primorati da i mi budemo uvek “uključeni”, stalno posmatrani i nadgledani. To je razorno za organska bića poput nas.
Ako primorate organsko biće da bude stalno aktivno ono će se na kraju srušiti i umreti. To već vidimo oko nas – 24-časovni informativni ciklus nikad ne staje, tržišta nikad ne miruju, politika nikad ne odmara. Sve što uradite ili kažete može biti zabeleženo i jednog dana – možda za 10 ili 20 godina – ponovo upotrebljeno protiv vas. Život sve više liči na jedan dug, neprekidan razgovor za posao.
AI sa računom u banci
Sve ovo je moguće jer je AI prva tehnologija u istoriji koja može da donosi odluke sama. Do sada su sve naše velike informacione mreže bile upravljane ljudskim birokratama. Zanimljiva činjenica je da, barem u SAD-u, već postoji pravni put kojim AI može postati “pravna osoba”.
Korporacije su pravna lica koja imaju prava poput slobode govora. Ako korporacija može da otvori bankovni račun – zašto ne bi mogla i AI? Ako je registrovana kao korporacija, može da zarađuje novac i da ga investira. Ako je veoma uspešna u investicionim odlukama, mogla bi da zaradi milijarde. Mogli bismo doći u situaciju da najbogatija “osoba” u SAD-u više ne bude čovek, nego inkorporirana AI.
Ono s čim se suočavamo nije holivudski scenario zlog kompjutera koji pokušava da osvoji svet, već scenario u kome milioni AI birokrata dobijaju sve veću moć da donose odluke o nama – u bankama, vojskama, vladama
Dakle, ono s čim se suočavamo nije holivudski scenario jednog zlog kompjutera koji pokušava da osvoji svet, već scenario u kome milioni AI birokrata dobijaju sve veću moć da donose odluke o nama – u bankama, vojskama, vladama.
U tome ima i potencijala za dobro! Mogli bi nam obezbediti najbolju zdravstvenu zaštitu u istoriji, ali i ogromne rizike. Šta ako više ne budete mogli da shvatite zašto vam je banka odbila kredit, ili zašto je vlada ili vojska preduzela određenu akciju? Kada moć pređe sa organskih ljudi na ove neorganske, “vanzemaljske” AI sisteme, postaje sve teže razumeti odluke koje oblikuju naše živote.
Predlog - dijeta informacija!
Najveća zabluda o informacijama je da su one istina. Većina informacija nije istina. Istina je retka, skupa i vredna vrsta informacija. Razmislite o slikama i portretima: tokom poslednjih 2.000 godina ljudi su naslikali milijarde portreta Isusa a ni jedan od njih nije autentičan – jer nemamo pojma kako je izgledao.
Ne postoji nijedan portret iz njegovog života, a Biblija ne sadrži ni jednu reč o njegovom izgledu. Fiktivne informacije je lako stvoriti, ne morate ništa istraživati, ne trebaju vam dokazi, jednostavno ih izmislite. Ako želite naslikati vernu sliku bilo čega, osobe, ekonomije, rata onda morate da uložite mnogo vremena, truda i novca u istraživanje da biste bili sigurni da je tačna.
Ako svet preplavimo informacijama i očekujemo da istina sama ispliva to se neće desiti – ona će potonuti.
Da bismo se nosili s erom AI moramo shvatiti da ne možemo predvideti kako će se ova tehnologija razvijati u narednim decenijama. Potrebne su nam žive institucije sa najboljim ljudskim kadrom i pristupom najboljoj tehnologiji sposobne da identifikuju i reaguju na opasnosti i pretnje kada se pojave.
Ne govorim o rigidnim propisima unapred već o potrebi za novim institucijama, jer se ne možemo oslanjati samo na “slovo zakona” ili na nekog harizmatičnog pojedinca-genija. Istorija pokazuje da se ljudi stalno suočavaju sa ovakvim problemima i da se rešenje uvek vraća na isto – institucije.
Dobre institucije odlikuje snažan mehanizam samokorekcije, sposobnost da prepoznaju i isprave sopstvene greške, bez spoljne intervencije. To je osnovna karakteristika svakog funkcionalnog organizma.
Na primer, dete uči da hoda uglavnom kroz samokorekciju. Isto važi i za čitave države. U demokratskim sistemima, izbori su mehanizam samokorekcije: date vlast određenoj stranci ili pojedincu da sprovede politiku. Ako se ispostavi da je to bila greška, slede izbori i prilika za promenu.
Suština demokratije je da veliki broj ljudi razgovara o važnim pitanjima dana. Nije slučajno što se ovaj demokratski dijalog svuda urušava – algoritmi ga preuzimaju. Imamo najsofisticiraniju informacionu tehnologiju u istoriji, a gubimo sposobnost da međusobno vodimo razuman razgovor. Da bismo zaštitili međuljudski dijalog, moramo zabraniti botove iz razgovora – zabraniti “lažne ljudi”. AI bi trebalo da bude dobrodošla u razgovor jedino ako se identifikuje kao AI.
Kao pojedinci, moj najbolji savet je – uvedite dijetu informacija, isto kao što ljudi uvode dijetu u ishrani. Informacije su hrana za um. Više informacija nije uvek dobro za vas – ponekad je korisno napraviti ”post od informacija”, kada ne unosimo ništa novo, već samo varimo i detoksikujemo. Takođe, moramo paziti na kvalitet informacija kojima hranimo svoj um – ako ga punimo “đubretom” ispunjenim pohlepom, mržnjom i strahom, završićemo sa bolesnim umom.
