Opasnosti koje umjetna inteligencija predstavlja za čovječanstvo, uključujući moguće katastrofalne scenarije, sve su češće u središtu javnosti.
Je li svijet pred katastrofom koju bi mogla izazvati umjetna inteligencija? Ovisi o tome koga pitate.
Jacob Coxon, bivši zaposlenik američkog tehnološkog diva Anthropic – iste kompanije koja je poslala svojeg predstavnika u Vatikan da sudjeluje uz papu Lava XIV. prigodom objave njegove enciklike o umjetnoj inteligenciji Magnifica Humanitas – izazvao je 8. rujna buru kada je javno dao otkaz u kompaniji. Na društvenim je mrežama upozorio da ljudi koji razvijaju umjetnu inteligenciju „iskreno vjeruju da bi ona do kraja desetljeća mogla sve nas ubiti“.
Drugi zaposlenici vodećih laboratorija za umjetnu inteligenciju potom su se javili i potvrdili Coxonovu procjenu te objasnili na koje bi načine čovječanstvo moglo doživjeti svoj kraj: nekontrolirana umjetna inteligencija mogla bi proizvesti i osloboditi smrtonosni virus, isključiti ili pretvoriti u oružje ključnu infrastrukturu, pokrenuti smrtonosne dronove ili dovesti do stotina drugih morbidno maštovitih scenarija.
Direktori nekoliko takvih kompanija, među njima Sam Altman iz OpenAI-ja i Elon Musk iz xAI-ja, podržali su naknadni poziv izvršnog direktora Anthropica Darija Amodeija na državnu regulaciju i neovisni nadzor industrije umjetne inteligencije.
No pozivi tehnoloških kompanija na intervenciju države kako bi se spriječila katastrofa nisu naišli na opće odobravanje, pa tako ni među nekim katolicima. Dok su neki katolički vođe i stručnjaci ta upozorenja opisali kao poziv na buđenje i poticaj za uspostavu zaštitnih mjera povezanih s umjetnom inteligencijom, kakve zagovara papa Lav XIV., drugi su izrazili zabrinutost zbog motiva tehnoloških kompanija te zbog gospodarskih i nacionalno-sigurnosnih posljedica usporavanja razvoja u Sjedinjenim Državama.
Egzistencijalna prijetnja?
Iako je ideja o apokalipsi izazvanoj umjetnom inteligencijom trenutno možda najaktualnija tema u medijima i javnim raspravama diljem svijeta, strah od takvog scenarija nije nov.
Nedavna rasprava također nije prvi put da su ljudi povezani s Anthropicom izričito pozvali na globalno usporavanje razvoja umjetne inteligencije. Suosnivač Jack Clark i voditeljica Anthropic Institutea Marina Favaro objavili su 4. lipnja tekst u kojem upozoravaju na opasnost od toga da „ljudi izgube kontrolu nad sustavima umjetne inteligencije“, osobito zato što će njihov sustav Claude uskoro biti sposoban autonomno projektirati sve snažnije modele umjetne inteligencije bez ljudskog sudjelovanja.
Sadašnja rasprava također nije prvi put da se pokušava brojčano izraziti vjerojatnost apokalipse uzrokovane umjetnom inteligencijom. Geoffrey Hinton, kojega se često opisuje kao „kuma umjetne inteligencije“, izazvao je 2024. brojne dramatične naslovnice diljem svijeta kada je rekao da postoji „10 do 20 posto“ vjerojatnosti da će umjetna inteligencija u sljedećih 30 godina dovesti do izumiranja čovječanstva.
Još 2023. nekoliko katolika uključenih u raspravu o umjetnoj inteligenciji, među njima i o. Phillip Larrey, potpisalo je rezoluciju koju je sastavio Future of Life Institute. U njoj se pozivalo na moratorij na razvoj najmoćnijih modela umjetne inteligencije, uz upozorenje na mogućnost uništenja čovječanstva.
„Razoružavanje“ umjetne inteligencije
Charles Camosy, katolički teolog koji javno govori o potrebi zaštite čovječanstva od posljedica umjetne inteligencije, uključujući njezinu uporabu u ratovanju, opisao je poziv Anthropica na stanku kao nešto što je u skladu s jezikom pape Lava XIV. o „razoružavanju“ tehnologije.
Taj pojam proizlazi iz papine enciklike o umjetnoj inteligenciji Magnifica Humanitas. U enciklici papa Lav izričito poziva na „aktivnije političko djelovanje koje je sposobno usporiti stvari kada se sve ubrzava“, kao i na „regulatorne instrumente sposobne zaštititi pravednost i obuzdati izobličujuće učinke tehnološke moći“.
Istodobno, Lav tvrdi da sama regulacija nije dovoljna. Čovječanstvo se, prema njegovim riječima, mora udaljiti od „mentalnosti oružanog natjecanja“, što u kontekstu umjetne inteligencije uključuje „utrku za sve moćnijim algoritmima i većim skupovima podataka, potaknutu željom za osiguravanjem geopolitičke ili komercijalne prevlasti“.
Nakon upozorenja tehnoloških kompanija, poruku pape Lava XIV. o suradnji i davanju prednosti općem dobru u američkom su javnom prostoru dodatno istaknuli ljudi poput nadbiskupa Salvatorea Cordileonea. U utorak je nadbiskup San Francisca boravio u Washingtonu, gdje je sudjelovao na konferenciji „pro-human“, koja je okupila poznate osobe i političare različitih svjetonazora koji pozivaju na snažniju regulaciju umjetne inteligencije.
„Idealno bi bilo da svi budu na istoj strani i da svi ograniče tu tehnologiju kako ti agenti ne bi krenuli djelovati samostalno“, rekao je nadbiskup Cordileone.
Šire gledano, čini se da je Američka biskupska konferencija (USCCB) aludirala na nedavna upozorenja čelnika industrije umjetne inteligencije u priopćenju od 16. rujna, kojim je najavljeno osnivanje posebne radne skupine za umjetnu inteligenciju.
„Nedavni događaji samo su dodatno naglasili veliku potrebu za djelovanjem svih uključenih“, rekla je glasnogovornica USCCB-a Chieko Noguchi, opisujući prijetnje koje proizlaze iz nekontrolirane umjetne inteligencije kao „stvarnu i neposrednu opasnost“.
Camosy, koji je nedavno sudjelovao u nizu „iznimno iskrenih razgovora“ čelnika USCCB-a s predstavnicima industrije umjetne inteligencije o mogućim egzistencijalnim prijetnjama koje ta tehnologija predstavlja, rekao je da je vrijeme za djelovanje sada.
„Pozivi na usporavanje sada su toliko snažni i dolaze iz toliko različitih krugova, uključujući ljude koji su dali otkaz i nemaju nikakve dionice ni druge financijske interese u tim kompanijama, da je sada ludost odbacivati njihove stavove“, istaknuo je.
„Međutim, nije dovoljno samo usporiti“, dodao je Camosy. „Potrebna nam je stanka i zaokret prema potpuno drukčijem načinu razmišljanja o toj tehnologiji.“
Višestruki otpor
Neki katolici, međutim, na nedavna dramatična upozorenja ljudi iz industrije gledaju sa sumnjom. Smatraju da bi najave mogle biti motivirane vlastitim interesima ili da su moguće opasnosti pretjerane.
Eric Sammons, urednik časopisa Crisis Magazine, primjerice, kritizirao je sadašnje zabrinutosti i predložena rješenja za umjetnu inteligenciju, smatrajući da podsjećaju na način komunikacije tijekom pandemije bolesti COVID-19.
„Koordinirani medijski pokušaj izazivanja panike… Samo nas veća kontrola države može spasiti“, napisao je Sammons na X-u.
Luke Burgis, autor i profesor na Katoličkom sveučilištu Amerike, rekao je da je skeptičan prema širokim tvrdnjama o umjetnoj inteligenciji te da daje prednost pristupu koji bi se u odgovoru na umjetnu inteligenciju temeljio na razboritim odlukama pojedinaca i svake obitelji.
„Općenite, kategorične izjave s implikacijama za cijelo društvo“, osobito kada se uvelike podudaraju s onim što govore čelnici vodećih laboratorija za umjetnu inteligenciju, nisu korisne u sadašnjoj raspravi, rekao je. Jednako tako, nije korisno ni moralno posramljivanje drugih katolika koji na problem gledaju drukčije.
Burgis je rekao da „brzo svrstavanje katolika u ideološke ladice“ pokazuje da se u Crkvi još uvijek ne odvijaju ozbiljan dijalog i razlučivanje.
„Ne bojim se umjetne inteligencije i ne prihvaćam nedavne tvrdnje o vjerojatnosti masovnog izumiranja. Razumijem da se mnogi drugi iskreno boje i to shvaćam ozbiljno. Ali podjela na ‘pro-ljudski’ i ‘protu-ljudski’ tabor redukcionistička je retorika“, napisao je Burgis. Dodao je da „ekstremne regulatorne mjere nose nepredviđene posljedice koje ljudi ne cijene u dovoljnoj mjeri“.
Drugi katolici koji optimistično gledaju na umjetnu inteligenciju, smatrajući je ključnim elementom sadašnjeg i budućeg američkog gospodarskog napretka, odbacuju ideju o usporavanju razvoja. Smatraju da bi takav potez pogodovao već etabliranim divovima umjetne inteligencije poput Anthropica, na štetu budućih konkurenata.
Katolici su također izrazili zabrinutost iz perspektive vanjske politike. Primjerice, potpredsjednik JD Vance izrazio je skepsu prema pozivima direktora tehnoloških kompanija na usporavanje razvoja te ponovio stajalište Trumpove administracije da Sjedinjene Države moraju imati prednost pred Kinom u „dugoročnoj utrci u području umjetne inteligencije“ između dviju zemalja.
Devan Patel, katolik i suradnik za etiku tehnologije u javnopolitičkom centru Rainey Center, ne podržava zaustavljanje razvoja umjetne inteligencije, premda osobno strahuje od mogućnosti „događaja s masovnim žrtvama“ koje bi umjetna inteligencija mogla izazvati, primjerice uporabom biološkog oružja ili nuklearnim napadom.
Ipak, rekao je da bi trebalo otvoriti prostor za raspravu o tome kako bolje uskladiti tempo razvoja umjetne inteligencije te kako „jasno definirati prava i zaštitu potrošača te mehanizme odgovornosti i utvrđivanja krivnje za neodgovorne programere“.
„U procesu nadmetanja s Kinom moramo paziti da ne postanemo Kina – masovni nadzor, nikakva privatnost, državno vlasništvo nad tehnologijom i podacima“, rekao je, dodajući da Magnifica Humanitas sugerira kako „zemlja koja naposljetku možda neće biti sposobna upravljati vlastitom najmoćnijom tehnologijom neće dobiti ništa vrijedno pobjede“.
Uloga Crkve?
Najviši čelnici vodećih kompanija za umjetnu inteligenciju godinama lobiraju za regulaciju za koju tvrde da bi njihove proizvode učinila sigurnijima. Unatoč tim pozivima, predsjednik Donald Trump odlučno je odbacio ideju regulacije umjetne inteligencije na način na koji je traže direktori tehnoloških kompanija. U nedavnoj objavi na društvenim mrežama rekao je da je za obuzdavanje umjetne inteligencije potreban samo „SNAŽAN I PAMETAN (visok IQ!) PREDSJEDNIK“.
U Kongresu je, međutim, ideja regulacije dobila potporu s obje stranačke strane. Predsjednik Zastupničkog doma Mike Johnson izrazio je određenu otvorenost prema djelovanju Kongresa te rekao da se nada da će do kraja sljedećeg tjedna organizirati sastanak čelnika umjetne inteligencije i zakonodavaca kako bi razgovarali o mogućem federalnom regulatornom okviru.
Usred rasprave o najboljem načinu poticanja međunarodne suradnje, ideja da Vatikan preuzme vodeću ulogu u poticanju dijaloga između država i drugih aktera dobila je pristaše iz različitih ideoloških krugova, među njima istraživača Anthropica Chrisa Olaha i Deana Balla, voditelja strateških budućnosti u OpenAI-ju.
Brian Burch, američki veleposlanik pri Svetoj Stolici, rekao je u svibnju da Trumpova administracija pozdravlja doprinos Vatikana regulaciji umjetne inteligencije.
Camosy već dugo zagovara da papa Lav XIV. preuzme vodeću ulogu u međunarodnom dijalogu o umjetnoj inteligenciji. Smatra da je papa, „zahvaljujući svojem položaju, diplomatskim odnosima i moralnoj viziji, jedinstveno pozicioniran da istupi i preuzme vodstvo u ovom prijelomnom trenutku povijesti“.
„Ono što je potrebno jest globalna institucija sa snažnim i utjecajnim lokalnim vezama sa Sjedinjenim Državama, s jasnim i uglednim vodstvom i vizijom u pitanjima etike i politike umjetne inteligencije. Ta je institucija Katolička Crkva“, napisao je Camosy u nedavnom komentaru.
Camosy je priznao da bi nacionalna sigurnost mogla biti ugrožena ako Kina prestigne Sjedinjene Države u području umjetne inteligencije. No katolički teolog smatra da je ono što je doista potrebno dijalog i suradnja između dviju supersila.
Ne, rekao je, „vođenje još jednog katastrofalnog hladnog rata i utrka prema dnu koja ugrožava čovječanstvo“.
