Pápež Lev XIV. vyzval svetových lídrov, aby nedovolili umelej inteligencii rozhodovať o ľudských životoch, použití zbraní ani zásahoch do slobody jednotlivcov. Počas stretnutia s odborníkmi vo Vatikáne 30. októbra upozornil, že človek sa pri rozhodovaní algoritmov môže zmeniť na obyčajný údaj v databáze. Štáty, ktoré sa v novembri stretnú v Ženeve, vyzval na konkrétne kroky smerujúce k zákazu smrtiacich autonómnych zbraní. Zároveň žiada vytvorenie účinných medzinárodných pravidiel, nezávislého dohľadu a jasnej zodpovednosti za škody spôsobené umelou inteligenciou.
Stroje nesmú rozhodovať o živote a smrti
Pápež vystúpil na stretnutí s názvom Budúcnosť umelej inteligencie: Dialóg medzi Vatikánom a vedeckým svetom o vývoji a využívaní inteligentných technológií. Podujatie sa konalo v Apoštolskom paláci a organizovali ho Pápežská akadémia pre život a Future of Life Institute.
Lev XIV. vo svojom príhovore zdôraznil, že technologický pokrok prináša veľké možnosti, ale zároveň vyvoláva čoraz vážnejšie otázky týkajúce sa ľudskej dôstojnosti. Podľa neho sa spoločnosť síce približne zhoduje na tom, akým smerom by sa mal vývoj umelej inteligencie uberať, no zatiaľ sa nerobí dosť na to, aby sa tieto zásady skutočne presadili.
Osobitne upozornil na situácie, v ktorých algoritmy získavajú rozhodovaciu právomoc nad ľudským životom, slobodou alebo použitím sily. Ako príklad uviedol zaradenie človeka na zoznam potenciálnych vojenských cieľov alebo jeho vloženie do databázy určenej na kontrolu hraníc.
V takýchto prípadoch podľa pápeža hrozí, že sa konkrétny človek zredukuje na súbor údajov bez zohľadnenia jeho skutočnej situácie. Rozhodnutia s vážnymi následkami preto musia zostať pod účinným, informovaným a zodpovedným ľudským dohľadom.
Pápež žiada zákaz smrtiacich autonómnych zbraní
Jednou z najvýraznejších častí príhovoru bola výzva na zákaz smrtiacich autonómnych zbraňových systémov. Ide o technológie, ktoré dokážu samostatne vyhľadávať, identifikovať a vyberať ciele a následne na ne zaútočiť bez priameho rozhodnutia človeka v konkrétnom okamihu.
Lev XIV. vyhlásil, že umelá inteligencia musí byť „odzbrojená“. Štáty, ktoré sa v novembri stretnú v Ženeve, vyzval, aby podnikli konkrétne kroky smerujúce k zákazu takýchto zbraní.
V Ženeve sa má od 16. do 20. novembra 2026 uskutočniť rokovanie v rámci Dohovoru OSN o určitých konvenčných zbraniach. Jednou z diskutovaných tém budú práve autonómne zbraňové systémy a možnosti ich medzinárodnej regulácie.
Debata sa týka zásadnej otázky: môže byť rozhodnutie o usmrtení človeka ponechané na technológii, ktorá nemá vlastné morálne vedomie a nenesie osobnú zodpovednosť za svoje konanie?
Pápežova odpoveď je jednoznačná. Rozhodnutie o použití smrtiacej sily nesmie byť odovzdané automatizovanému systému. Za takéto rozhodnutia musia niesť zodpovednosť ľudia.
Umelá inteligencia nie je osoba, ale nástroj
Lev XIV. predstavil päť základných úvah, ktorými by sa podľa neho mal riadiť ďalší vývoj umelej inteligencie. Prvou je presvedčenie, že jej budúcnosť nie je vopred určená. Závisí od rozhodnutí ľudí, ktorí technológie vyvíjajú, financujú, regulujú a používajú.
Pápež preto zdôraznil, že najdôležitejšou otázkou nie je iba to, čo všetko AI dokáže, ale predovšetkým to, na aký účel má slúžiť. Technologické preteky podľa neho nesmú viesť k tomu, že spoločnosť bude uprednostňovať stále výkonnejšie systémy bez dostatočného posúdenia ich následkov.
Druhou zásadou je, že stroje sú nástroje, nie osoby. Umelá inteligencia nemá vlastné ľudské skúsenosti, telo ani schopnosť prežívať radosť, bolesť či vzťahy. Nedokáže sama pochopiť význam lásky, priateľstva, práce alebo zodpovednosti tak, ako ich prežíva človek.
Pápež zároveň varoval pred snahami priznávať systémom umelej inteligencie práva alebo dokonca právnu subjektivitu. Podľa neho by takýto prístup mohol zakrývať zodpovednosť ľudí a organizácií, ktoré technológie vytvárajú a používajú. Človek poškodený nesprávnym rozhodnutím algoritmu by sa potom mohol ocitnúť v situácii, keď nebude jasné, kto za následky skutočne zodpovedá.
Technológie majú slúžiť spoločnému dobru
Treťou zásadou je zachovanie ľudskej kontroly nad rozhodnutiami, ktoré ovplyvňujú život, slobodu a bezpečnosť. Štvrtou je požiadavka, aby technologický pokrok slúžil spoločnému dobru a neprinášal výhody iba úzkej skupine privilegovaných ľudí alebo veľkých spoločností.
Lev XIV. upozornil, že spravodlivosť si vyžaduje prístup k prínosom inovácií. Umelá inteligencia by podľa neho mala podporovať solidaritu a rozširovať možnosti ľudí v rôznych častiach sveta. Nemala by prehlbovať rozdiely medzi tými, ktorí majú prístup k moderným technológiám, a tými, ktorí z ich výhod zostávajú vylúčení.
Piatou a podľa pápeža možno najnaliehavejšou otázkou sú inštitúcie. Etické zásady už podľa neho existujú, no chýbajú dostatočne účinné mechanizmy, ktoré by zabezpečili ich dodržiavanie.
Vyzval preto na vytvorenie spoločných medzinárodných štandardov, nezávislého dohľadu a jasných pravidiel zodpovednosti. Rozhodnutia týkajúce sa vývoja a využívania umelej inteligencie by mali byť preskúmateľné a v prípade spôsobenej škody by mali existovať možnosti nápravy.
Varovanie nadväzuje na pápežovu encykliku Magnifica Humanitas
Piatkové vystúpenie nebolo izolovaným vyjadrením. Lev XIV. nadviazal na svoju encykliku Magnifica Humanitas, ktorú vydal 15. mája 2026 a venoval ju ochrane ľudskej osoby v období rozvoja umelej inteligencie.
V dokumente sa podrobnejšie zaoberá tým, ako nové technológie menia spoločnosť, hospodárstvo, pracovný trh aj spôsob vedenia vojenských konfliktov.
Upozorňuje tiež na rastúcu moc súkromných technologických spoločností. Tie disponujú finančnými a technologickými zdrojmi, ktoré v niektorých oblastiach prevyšujú možnosti jednotlivých štátov. Práve preto považuje za nevyhnutné, aby vývoj umelej inteligencie nebol ponechaný výlučne na rozhodnutiach komerčných subjektov.
Encyklika sa venuje aj autonómnym zbraniam. Pápež v nej odmieta predstavu, že algoritmus môže prevziať morálnu zodpovednosť za rozhodnutie o použití smrtiacej sily. Podľa jeho argumentácie rýchlejšie a efektívnejšie rozhodovanie automaticky neznamená spravodlivejšie alebo bezpečnejšie rozhodovanie.
Riziká AI sa týkajú aj bezpečnosti a vojenských konfliktov
Diskusia o autonómnych zbraniach naberá na význame aj v súvislosti s vývojom moderných vojenských technológií. Umelá inteligencia sa čoraz viac využíva pri analýze spravodajských informácií, vyhodnocovaní pohybu jednotiek, riadení bezpilotných systémov či plánovaní operácií.
Vojenské využitie AI môže priniesť rýchlejšie spracovanie údajov a zvýšiť presnosť niektorých operácií. Zároveň však vzniká riziko, že rozhodovanie o použití sily sa bude postupne presúvať od ľudí k automatizovaným systémom.
Práve takémuto vývoju chce pápež zabrániť. Upozorňuje, že ak sa rozhodnutia o útokoch stanú neprehľadnými alebo automatizovanými, môže byť ťažšie určiť, kto nesie zodpovednosť za následky.
O rastúcom význame umelej inteligencie vo vojenskej oblasti sme písali aj v článku NATO predstavilo novú stratégiu. Dôležitú úlohu majú drony, umelá inteligencia aj nové technológie.
Kontrola AI sa stáva dôležitou témou aj na Slovensku
Otázka regulácie umelej inteligencie sa netýka iba veľkých technologických mocností. Nové pravidlá postupne zavádzajú aj európske štáty vrátane Slovenska.
Slovensko pripravuje systém dohľadu nad umelou inteligenciou v súlade s európskymi predpismi. Hlavnú koordinačnú úlohu má dostať Ministerstvo investícií, regionálneho rozvoja a informatizácie SR. Súčasťou pripravovaného systému je aj kontrolované prostredie, v ktorom budú môcť firmy testovať nové technológie pod dohľadom štátu.
Viac o pripravovaných opatreniach sa dočítate v článku Slovensko nastavuje pravidlá pre AI. MIRRI bude dohliadať na trh a zriadi kontrolovaný sandbox.
Rozdiel medzi európskym prístupom a pápežovou výzvou spočíva najmä v rozsahu. Európska legislatíva upravuje používanie umelej inteligencie podľa miery rizika, zatiaľ čo Lev XIV. zdôrazňuje aj potrebu medzinárodných pravidiel pre technológie, ktoré môžu rozhodovať o živote a smrti.
November môže priniesť dôležitú diskusiu o autonómnych zbraniach
Najbližšou významnou udalosťou bude novembrové rokovanie v Ženeve, na ktorom sa štáty budú zaoberať autonómnymi zbraňovými systémami. Výzva pápeža prichádza v čase, keď sa medzinárodné spoločenstvo snaží nájsť spoločný prístup k technológiám, ktorých vojenské využitie sa rýchlo rozširuje.
Zatiaľ nie je isté, či rokovania povedú k dohode o právne záväznom zákaze. Takéto rozhodnutie si vyžaduje podporu jednotlivých štátov a dohodu o tom, ktoré systémy a spôsoby ich využitia by mali byť zakázané alebo obmedzené.
Lev XIV. však vyslal jasný odkaz: technologický pokrok nesmie zbaviť ľudí zodpovednosti za rozhodnutia, ktoré môžu mať nezvratné následky. Umelá inteligencia môže byť užitočným nástrojom, no podľa pápeža nesmie dostať právomoc rozhodovať o tom, kto bude žiť, kto bude považovaný za hrozbu a kedy sa použije smrtiaca sila.
ČÍTAJTE AJ
Bill Gates varuje: Zneužitá AI môže ohroziť život miliardy ľudí
Udalosť na mape
