Papa Lav XIV pozvao je na čvrstu regulaciju veštačke inteligencije i apelovao na njene tvorce da rade u interesu opšteg dobra, a ne profita, objavljujući obimni manifest o zaštiti čovečanstva u trenutku kada AI menja sve - od sveta rada do načina vođenja ratova, prenosi agencija AP.
“Magnifica Humanitas” ("Veličanstveno čovečanstvo“), prva enciklika (papsko pismo upućeno biskupima, vernicima, a često i širem svetu, o nekom važnom verskom, moralnom, društvenom ili političkom pitanju) Lava XIV, s nestrpljenjem se očekivala otkako je prvi papa rođen u SAD, samo nekoliko dana posle izbora, poručio da veštačku inteligenciju smatra najvećim izazovom sa kojim se čovečanstvo danas suočava.
U tekstu enciklike Lav osuđuje "kulturu moći“ koja pokreće trku u razvoju veštačke inteligencije, naročito kada je reč o sve sofisticiranijim metodama daljinskog ratovanja. Naglasio je da “nije dopušteno” poveriti nepovratne, smrtonosne odluke sistemima veštačke inteligencije, čime je otvorio još jednu tačku mogućeg sukoba između američkog pape i administracije Donalda Trampa, koja snažno radi na deregulaciji razvoja AI tehnologija.
Stručnjaci iz tehnološke industrije, akademske zajednice i oblasti katoličkog morala ocenjuju da bi ovaj dokument mogao da postane jedno od referentnih mesta u globalnoj raspravi o veštačkoj inteligenciji - za donosioce odluka, istraživače, ali i za obične građane.
"Ovaj dokument obraća se upravo ljudima koji su na prvoj liniji razvoja ovih alata, onima koji vide neverovatne mogućnosti koje oni donose, ali koji se istovremeno pitaju: šta uopšte znači biti čovek?“, rekao je Tejlor Blek, direktor za AI u Microsoftu i direktor Instituta za veštačku inteligenciju Katoličkog univerziteta Amerike.
Kritika AI u društvu kompanije Antropik
Papa je ovaj tekst predstavio u Vatikanu, na događaju na kojem učestvuje i suosnivač kompanije Antropik. Ova kompanija je trenutno u pravnoj borbi sa Trampovom administracijom zbog pristupa svojoj AI tehnologiji. Vatikan je odlučio da uključi Anthropic u predstavljanje enciklike kao deo desetogodišnjih napora da sa Silicijumskom dolinom vodi dijalog o ljudskoj ceni razvoja veštačke inteligencije. AI konkurenti OpenAI i Antropik danas su druga i treća najvrednija privatna kompanija u SAD, a svaka od njih procenjena je na stotine milijardi dolara - više od bruto domaćeg proizvoda mnogih država.
Ipak, papa u tekstu više puta oštro kritikuje koncentraciju moći i podataka u rukama malog broja aktera iz privatnog sektora, ocenjujući da to predstavlja opasnost, posebno za decu i najugroženije. Zato poziva na spoljašnju regulaciju njihovog rada.
"Nije dovoljno pozivati se na etiku u apstraktnom smislu; potrebni su čvrsti pravni okviri, nezavisan nadzor, informisani korisnici i politički sistem koji ne odustaje od svoje odgovornosti. Moralnija veštačka inteligencija nije dovoljna ako tu moralnost određuje nekolicina“, napisao je papa.
Usporite sa AI, razmislite o posledicama
Lav je više puta apelovao na developere AI i političke lidere odgovorne za njenu regulaciju da uspore i razmisle o posledicama onoga što rade. Pozvao ih je da se rukovode etičkim i duhovnim principima i da izaberu rad u korist čovečanstva, a ne u korist sopstvenog profita ili moći.
U metodično napisanom dokumentu papa, koji je po obrazovanju matematičar, prati istoriju socijalnog učenja Katoličke crkve i njegove ključne pojmove - pravdu, solidarnost, dostojanstvo rada i univerzalnu namenu dobara - primenjuje na digitalnu revoluciju.
“Uveren sam da će se pokazati da je ovo presudan dokument za naše doba, dubok i proročki tekst. Papa Lav nudi jasan, sveobuhvatan i koherentan glas koji nas poziva da preuzmemo odgovornost za izgradnju sveta u kojem će tehnologija služiti čoveku, a ne ponižavati ga”, rekao je Paolo Karoca, profesor prava na Pravnom fakultetu Univerziteta Notr Dam i predsedavajući Nadzornog odbora kompanije Meta.
U najjačim poglavljima enciklike Lav osuđuje način na koji je veštačka inteligencija doprinela ubrzanju “normalizacije rata“, otupljujući ljudsku osetljivost za njegovu cenu. Nije pominjao konkretne sukobe, ali je govorio o "suprotstavljenim imperijalizmima, između sila koje žele da očuvaju svoju nadmoć i onih koje teže da je preuzmu“.
Zatražio je transparentnost i odgovornost developera AI sistema, kako bi uvek bio poznat lanac odlučivanja u naređivanju napada izvedenih uz pomoć oružja zasnovanog na veštačkoj inteligenciji. Istovremeno je ocenio da je katolička teorija "pravednog rata“, koja propisuje kriterijume kada sila može biti opravdana, danas "zastarela“ zbog tehnološkog napretka u ratovanju.
Tekst u tradiciji socijalne pravde Crkve
Lav je encikliku potpisao 15. maja, na 135. godišnjicu objavljivanja enciklike "Rerum Novarum“ ("O novim stvarima“), najvažnijeg dokumenta socijalnog učenja njegovog uzora i imenjaka, pape Lava XIII. Taj tekst bavio se pravima radnika, granicama kapitalizma i obavezama države i poslodavaca prema radnicima u vreme industrijske revolucije.
"Rerum Novarum“ postao je temelj modernog katoličkog socijalnog učenja. Sadašnji papa pozvao se na njega već na početku svog pontifikata, povezujući ga sa revolucijom veštačke inteligencije, za koju smatra da otvara ista egzistencijalna pitanja kakva je industrijska revolucija otvorila pre više od jednog veka.
"Magnifica Humanitas“ tako postaje najnovije poglavlje u vek dugoj istoriji papinskih tekstova koji "Rerum Novarum“ prilagođavaju društvenim pitanjima svog vremena, često se zadržavajući na dostojanstvu rada kao uslovu ljudskog procvata.
Veštačka inteligencija danas istovremeno izaziva egzistencijalne strahove i utopijske vizije, u sve intenzivnijoj debati o tome da li će postati katalizator koji obogaćuje čovečanstvo ili tehnološki toksin koji otupljuje ljudsku inteligenciju i briše milione dobro plaćenih radnih mesta.
"Težnja za većim profitom ne može opravdati odluke koje sistematski žrtvuju radna mesta, jer je ljudska osoba cilj, a ne sredstvo i ekonomski poredak mora ostati podređen ljudskom dostojanstvu i opštem dobru“, napisao je Lav.
Ključni delovi papine enciklike o AI
Demokratija
Dezinformacija, zahvaljujući AI, dobila je moćan pojačivač kroz mogućnost manipulisanja sadržajem, slikama i video-zapisima, čime su ljudi izloženi pristrasnim ili obmanjujućim perspektivama. Papa upozorava da demokratija slabi kada pragmatizam, odnosno ono što deluje korisno i efikasno - zameni istinu. "Ravnodušnost prema istini vodi, polako ali sigurno, u sunovrat ka totalitarizmu“, napisao je Lav.
Društvene mreže
Oni koji kontrolišu digitalne platforme, uključujući i društvene mreže, imaju moć koja bi morala stalno da bude vođena traganjem za istinom i poštovanjem ljudskog dostojanstva. Internet bi trebalo posmatrati kao prostor u kojem unutrašnja sloboda i kritičko mišljenje mogu da sazrevaju, a ne kao "instrument preteranog odvraćanja pažnje, uniformisanja ili dominacije. U osnovi tog stava nalazi se ideja da komunikacija ne prenosi samo informacije, već stvara kulturu.
Rad
Svet rada mora biti uređen tako da štiti mogućnosti zapošljavanja i nezamenljivu ulogu pojedinca. Težnja za većim profitom ne može opravdati odluke koje sistematski žrtvuju radna mesta, jer je ljudska osoba cilj, a ne sredstvo, i ekonomski poredak mora ostati podređen ljudskom dostojanstvu i opštem dobru. Papa je dodao da vlade moraju da stvaraju uslove koji podstiču zapošljavanje, jer je rad “primarno dobro za porodice i društva“.
Rat
AI može samo brže da dovede do sukoba i učini ga još bezličnijim. Papa je pozvao na jasne i konkretne kriterijume pri donošenju odluka o napadima. To podrazumeva prepoznatljiv lanac odgovornosti koji se odnosi i na one koji dizajniraju, obučavaju, odobravaju i koriste tehnologiju. Zatražio je mere koje garantuju da se pri izboru meta pravi razlika između boraca i civila, kao i da se uzima u obzir uticaj na nezaštićeno stanovništvo. Među zahtevima o kojima se ne može pregovarati, papa navodi garancije odgovornosti i princip da upotreba smrtonosne sile ne sme biti automatizovana. Pozvao je i na zajednički međunarodni okvir koji bi "obuzdao tehnološku trku u naoružanju i obezbedio snažnu zaštitu civila“.
Ekonomija
Svetsko bogatstvo je sve više koncentrisano u sve manjem broju ruku, čime se produbljuju nejednakosti. U eri AI i robotike, napisao je papa, više nije moguće oslanjati se isključivo na nevidljivu ruku tržišta. Zato je pozvao političare da politike usmere ka “opštem dobru” i da podstiču “dostojanstven rad, društvenu uključenost i pravednu raspodelu koristi od inovacija“.
Trgovina ljudima
Papa je ukazao na ulogu digitalnih mreža, uključujući onlajn platforme, sisteme za razmenu poruka i anonimne metode plaćanja, u trgovini ljudima, koju je označio kao “savremeni oblik ropstva“. Upozorio je da nereagovanje ili tolerisanje takvih praksi nosi rizik saučesništva u “današnjim gresima, sličnim onima iz prošlosti, kada je ropstvo prikrivano i opravdavano“.
Životna sredina
Papa se osvrnuo i na ekološku cenu data centara koji omogućavaju rad AI modela, naglašavajući da oni troše “ogromne količine energije i vode“ i značajno utiču na emisije ugljen-dioksida. Kako potražnja raste, posebno za velikim jezičkim modelima, Lav je pozvao na razvoj održivijih tehnoloških rešenja.
Uticaj na mlade
Lav je pozvao na savez donosilaca odluka, obrazovnih institucija i porodica kako bi se mladi lakše snašli u “kulturi neposrednosti i hiperstimulacije” koju stvaraju digitalni mediji. Posebno je naglasio da AI pojačava opasnost od predatora koji ciljaju mlade ljude i upozorio na rizike davanja ličnih mobilnih uređaja deci u preranom uzrastu. "Onlajn fenomeni, kao što su vrbovanje, ucene i seksualna eksploatacija maloletnika nisu retkost, a postaju još podmukliji upotrebom lažnih profila, algoritama koji olakšavaju opasne kontakte i AI alata sposobnih da manipulišu slikama i video-zapisima“, napisao je papa.
