„Roboti ubojice“ i umjetna inteligencija u ratovanju: što o tome kaže Katolička Crkva?
Na bojištu iznad zemlje lebdi naoružani dron. Njegovi senzori hladnom preciznošću traže sljedeću metu. Pritiskom na gumb vojnik na zemlji aktivira takozvani „Terminatorov način rada“ i prepušta neumoljivom stroju da sam pronađe i uništi sve što procijeni neprijateljskim — uključujući i ljude.
Ovo nije scenarij iz znanstvenofantastičnog filma. Prema navodima koji su se pojavili u javnosti, takav se događaj dogodio prije dvije godine tijekom testiranja oružja u Ukrajini, pri čemu je poginulo nekoliko ruskih vojnika.
Izvršni direktor ukrajinske tvrtke koja proizvodi dronove otkrio je detalje incidenta u lipnju. Smatra se da je riječ o prvom potpuno autonomnom ubojstvu izvedenom u stvarnim borbenim uvjetima. U isto vrijeme, svjetske velesile ulažu desetke milijardi dolara u razvoj autonomnog oružja, pa se mogućnost da takozvani „roboti ubojice“ postanu dio šire vojne uporabe čini sve izglednijom.
U toj utrci Katolička Crkva jedan je od najdosljednijih glasova protiv širenja smrtonosnih autonomnih oružanih sustava, poznatih pod kraticom LAWS. Crkva pritom posebno naglašava da se odluke o životu i smrti u ratu ne mogu prepustiti strojevima.
Međutim, pitanje umjetne inteligencije u ratovanju puno je složenije. Nije sasvim jasno znači li protivljenje autonomnom oružju i protivljenje svakoj uporabi umjetne inteligencije na bojištu. Dok američki vojni čelnici upozoravaju da bi, zbog razvoja takvog oružja kod drugih država, Sjedinjene Države mogle biti prisiljene slijediti isti put, otvara se i pitanje savjesti vojnika: hoće li moći odbiti sudjelovanje u uporabi oružja za koje smatraju da je moralno neprihvatljivo?
Crkveno učenje o „robotima ubojicama“
Katekizam Katoličke Crkve uči da „zlo i nepravde prate svaki rat“. Istodobno, Crkva priznaje da pojedinci i države imaju pravo braniti se od nepravednog napadača te da u krajnjem slučaju mogu posegnuti i za smrtonosnom silom.
Upravo je tu ključna razlika kada je riječ o autonomnom oružju. Da bi odluka o oduzimanju ljudskog života u ratu bila moralno opravdana, ona mora biti donesena od strane čovjeka i to kao krajnja mjera legitimne samoobrane. Takva se odluka, prema crkvenom učenju, ne može prepustiti stroju.
Papa Lav XIV. u enciklici Magnifica Humanitas, objavljenoj u svibnju 2026., izričito je upozorio da „nije dopušteno povjeriti smrtonosne ili na drugi način nepovratne odluke umjetnim sustavima“. Izrazio je i zabrinutost da bi umjetna inteligencija mogla rat učiniti lakše zamislivim i prihvatljivijim kao sredstvo rješavanja sukoba.
„UI ne uklanja inherentnu nehumanost sukoba; naprotiv, može samo ubrzati sukob i učiniti ga bezličnijim, snižavajući prag za pribjegavanje nasilju, pretvarajući obranu u predviđanje prijetnji i tako svodeći žrtve na podatke. Na taj će nas način naviknuti na ideju da je nasilje neizbježno i da ga samo treba optimizirati“, napisao je Papa.
Moralni teolog Charles Camosy, profesor na Katoličkom sveučilištu Amerike, često je istupao u prilog crkvenom stajalištu o autonomnom oružju. Smatra da je riječ o „velikoj prilici“ za snažnije predstavljanje katoličkog shvaćanja ljudskog dostojanstva u ratnim okolnostima.
U ožujku se zajedno s drugim moralnim teolozima i etičarima javno svrstao uz odluku tehnološke tvrtke Anthropic da odbije zahtjeve Pentagona povezane s uporabom njezine tehnologije za masovni nadzor i autonomno oružje.
U nedavnom svjedočenju pred Kongresnim Povjerenstvom za ljudska prava Toma Lantosa, Camosy je upozorio da svaka uporaba umjetne inteligencije u ratovanju mora zadržati čovjeka u središtu odlučivanja. To, prema njegovu mišljenju, ne znači samo da čovjek mora snositi odgovornost za odluke i pogreške sustava nego i da vojnik mora biti sposoban u protivniku prepoznati ljudsko biće stvoreno na Božju sliku.
„Svako ljudsko biće na svakoj strani svakog sukoba ima pravo na dostojanstvo da bude viđeno i prepoznato kao osoba, a ne obrađivano kao podatak“, rekao je Camosy.
Sličan stav zastupa i Joseph Capizzi, ravnatelj McGrathova instituta za život Crkve pri Sveučilištu Notre Dame i stručnjak za teoriju pravednog rata.
Prema njegovim riječima, nijedan računalni sustav, koliko god bio sofisticiran, ne može u potpunosti zamijeniti ljudsku prosudbu.
„Bez obzira na razinu sofisticiranosti, program ne može razumjeti ljudskost potencijalne žrtve na način na koji to može drugi čovjek“, objasnio je. Potencijalna žrtva za takav sustav može biti tek podatak u matematičkom izračunu. Odluke umjetne inteligencije, dodao je, nisu ljudske moralne prosudbe i ne uključuju način na koji čovjek oblikuje savjest i donosi odluke.
Jesu li autonomna oružja neizbježna?
Protivljenje Katoličke Crkve autonomnom smrtonosnom oružju nije u suprotnosti s javnim raspoloženjem. Ujedinjeni narodi izrijekom su pozivali na zabranu takozvanih „robota ubojica“, dok prema nedavnim istraživanjima najmanje tri četvrtine Amerikanaca smatra da odluke o uporabi smrtonosne sile u ratu ne bi trebale biti u potpunosti prepuštene sustavima umjetne inteligencije.
Unatoč tome, razvoj američke vojne politike ide u suprotnom smjeru.
General Dan Caine, predsjednik Združenog stožera američkih oružanih snaga, rekao je krajem travnja da će autonomno oružje u budućnosti biti „ključan i neophodan dio svega“ što američka vojska bude radila.
U lipnju je Odbor Senata za oružane snage odobrio odredbu za fiskalnu 2027. godinu kojom bi se pojednostavila nabava i isporuka bespilotnih oružanih sustava u svim granama američkih oružanih snaga.
Ipak, Sjedinjene Države zasad formalno ne dopuštaju uporabu potpuno autonomnog oružja. Direktiva Ministarstva obrane 3000.09, donesena 2012. i ažurirana 2023., zahtijeva da ljudski zapovjednici zadrže „odgovarajuću razinu ljudske prosudbe“ pri uporabi autonomnih i poluautonomnih oružanih sustava.
U Kongresu se trenutačno razmatra i dvostranački prijedlog zakona kojim bi se ta odredba pretvorila u zakon.
No neki vojni stručnjaci smatraju da bi takva ograničenja u budućnosti trebalo ublažiti. Jedan nedavni rad istraživača iz američke vojske predlaže mogućnost da autonomno oružje, nakon što zapovjednik odobri napad, djeluje „brzinom stroja“ — odnosno da samostalno nastavi djelovati i donositi odluke o uništavanju ciljeva.
Neki u vojnim krugovima takav razvoj smatraju gotovo neizbježnim. U jednom radu umirovljeni general-bojnik i politički analitičar John Ferrari te istraživač Dillon Prochnicki pišu da „roboti ubojice dolaze“, neovisno o tome što netko misli o njihovoj etičnosti.
Camosy, međutim, smatra da čak ni mogućnost da Kina razvije i uporabi takvo oružje ne bi opravdala njegovo uvođenje u američke oružane snage — barem ne iz katoličke perspektive.
Katolici, objašnjava, nisu konsekvencijalisti. Drugim riječima, postoje postupci koji su moralno nedopušteni sami po sebi i ne mogu se opravdati pozivanjem na moguće pozitivne posljedice.
Sličan problem javlja se i kod ideje da bi razvoj autonomnog oružja mogao poslužiti kao sredstvo odvraćanja drugih država. Crkva je i ranije upozoravala na takvu logiku. Tijekom hladnoratovske utrke u nuklearnom naoružanju sveti Ivan Pavao II. učio je da se nuklearno odvraćanje može samo uvjetno opravdati — kao privremeni korak prema potpunom razoružanju.
Ima li umjetna inteligencija ipak mjesto u vojsci?
Iako papa Lav ozbiljno upozorava na uporabu umjetne inteligencije u ratovanju, pitanje može li se UI koristiti u nekim drugim vojnim ulogama ostaje otvoreno.
Capizzi smatra da papin poziv na „najstroža etička ograničenja“ ne znači nužno zabranu svake uporabe umjetne inteligencije u vojne svrhe.
„Nije svaka uporaba UI-ja u ratovanju nemoralna. Suvremeno ratovanje — kao i suvremene aktivnosti općenito — uključuje iznimno složene računalne izračune“, rekao je.
Sličan argument iznio je i Craig Albert, profesor studija nacionalne sigurnosti na Sveučilištu Augusta u Georgiji. Prema njegovu mišljenju, zabrana povjeravanja smrtonosnih i nepovratnih odluka autonomnim sustavima ne bi trebala značiti potpuno odricanje od vojnih tehnologija koje koriste umjetnu inteligenciju.
Albert smatra da bi UI čak mogla pomoći vojnicima i zapovjednicima povećanjem preciznosti. Primjerice, sustav bi mogao pomoći u opozivu ili preusmjeravanju projektila, čime bi se potencijalno smanjio broj civilnih žrtava i drugih pogrešaka.
Takve bi mogućnosti, smatra Albert, mogle pridonijeti proporcionalnijoj i preciznijoj uporabi sile, što je važno prema načelima teorije pravednog rata.
Ni Camosy ne odbacuje svaku vojnu uporabu umjetne inteligencije. Njegovo je ključno protivljenje usmjereno na ideju da bi stroj ikada mogao zamijeniti čovjeka u donošenju odluke o oduzimanju života.
„Moramo više razmišljati o ulozi UI-ja u ratu općenito, ali postoje dobri argumenti za uporabu UI-ja, primjerice u obavještajne svrhe“, rekao je. Takve uporabe za katolike, dodao je, ostaju „otvoreno pitanje“.
Mogu li katolički vojnici odbiti uporabu autonomnog oružja?
Ako autonomno oružje jednoga dana postane široko rasprostranjeno u američkoj vojsci, ostaje otvoreno pitanje mogu li vojnici, pozivajući se na savjest, odbiti njegovu uporabu.
Camosy je upravo na to upozorio u svom svjedočenju pred Kongresom. Pozvao je na donošenje posebnih zakonskih zaštita za vojnike koji bi odbili rasporediti ili nadzirati sustav koji donosi odluke o smrtonosnom ciljanju bez ljudskog nadzora.
Monsinjor Stuart Swetland, veteran američke mornarice i predsjednik Donnelly Collegea u Kansas Cityju, smatra da bi trebao postojati mehanizam koji bi vojnicima omogućio odbijanje određene aktivnosti ili sudjelovanja u sukobu ako ga smatraju nepravednim.
Ako bi vojniku prema sadašnjem pravnom okviru bilo naređeno da upotrijebi potpuno autonomno oružje, on bi morao znati da vojnici nisu dužni izvršavati naredbe za koje znaju da su nezakonite — štoviše, takve naredbe ne smiju izvršiti, istaknuo je Swetland.
No čak i bez posebne zakonske zaštite, smatra on, katolici bi trebali ostati čvrsti u odbijanju uporabe potpuno autonomnog oružja. To vrijedi čak i kada se mogu osmisliti složeni scenariji kojima bi se pokušalo dokazati da bi njegova uporaba u određenim okolnostima bila opravdana.
Katolički vojnici, zaključuje mons. Swetland, ne bi smjeli prihvatiti moralni relativizam u ratovanju.
Jer ako se izgubi jasna granica između onoga što je moralno dopušteno i onoga što nije, upozorio je, „doslovno će se otvoriti vrata pakla“.
