Папа Римський попередив про небезпеку AI-зброї, яку вже не контролює людина

Папа Римський Лев XIV опублікував першу енцикліку, присвячену штучному інтелекту. У документі він попередив про небезпеку автономної зброї, дезінформації та втрати людського контролю над технологіями.

Pope Leo XIV оприлюднив свою першу енцикліку під назвою "Magnifica Humanitas" ("Велична людяність"), у якій різко висловився щодо ризиків штучного інтелекту та закликав уряди світу жорсткіше регулювати розвиток AI-систем. Про це пише Reuters.

Дивіться також Люди обирають роботів замість політиків: на Філіппінах з'явився острів, яким управляє ШІ

Чому Ватикан закликає сповільнити розвиток AI?

Документ представили у Ватикані 25 травня. Основною темою енцикліки став саме штучний інтелект, хоча Папа також торкнувся воєн, глобальної політики, соціальної нерівності та ролі технологічних корпорацій.

Лев XIV заявив, що AI-системи вже зараз можуть поширювати дезінформацію, підсилювати конфлікти та створювати ризик "нескінченної війни". Особливе занепокоєння у понтифіка викликали автономні системи озброєння.

Читайте більше перевірених новин Додайте 24 Канал у вибрані джерела в Google Додати

"Деякі автономні системи озброєння просунулися практично за межі будь-якого людського контролю", – наголосив Папа під час презентації документа. Ватиканський захід також відвідав співзасновник Anthropic Кріс Ола, чия компанія створює AI-модель Claude.

Папа закликав стримати конкуренцію між AI-компаніями

У 43-тисячному документі Лев XIV закликав політиків активніше втручатися у розвиток технологій, а не залишати сферу AI виключно приватним корпораціям.

"Потрібна активніша політична участь, здатна сповільнити процеси тоді, коли все навколо лише прискорюється", – написав Папа.

Він також виступив за:

• створення жорстких правових рамок для AI;
• незалежний нагляд за технологічними компаніями;
• захист працівників;
• безпеку дітей у цифровому середовищі;
• обмеження надмірної конкуренції між AI-компаніями.

Окремо понтифік наголосив, що дані для навчання штучного інтелекту не повинні залишатися виключно у приватній власності великих корпорацій.

Як пише CNN, Кріс Ола під час виступу фактично погодився з критикою Ватикану. За його словами, AI-компанії перебувають під сильним комерційним тиском. "Кожна провідна AI-лабораторія, включно з Anthropic, працює в системі стимулів і обмежень, які інколи можуть суперечити правильним рішенням", – заявив він.

Ватикан виступив проти AI-рішень про вбивство людей

Одним із найгучніших пунктів енцикліки стала заява про неприпустимість передачі AI права ухвалювати смертельні рішення. Лев XIV прямо зазначив, що використання штучного інтелекту у військовій сфері повинно бути "під найсуворішими етичними обмеженнями".

"Неприпустимо доручати AI-системам летальні рішення", – підкреслив Папа.

У документі також міститься одна з найжорсткіших за останні роки критик так званої теорії "справедливої війни", яку Католицька церква використовувала ще з V століття для моральної оцінки збройних конфліктів.

"Теорія "справедливої війни", яка надто часто використовувалась для виправдання будь-якої війни, тепер є застарілою", – написав понтифік. Ця заява пролунала на тлі нещодавньої критики з боку Лева XIV щодо війни Ірану та США, через що він уже викликав невдоволення президента Donald Trump.

Папа порівняв AI із Вавилонською вежею

У своїй енцикліці Лев XIV звернувся і до біблійної історії про Вавилонську вежу. На його думку, вона демонструє небезпеку технологічних проєктів, які прагнуть "досягти небес без Божого благословення".

"Із серцем пастиря і батька я прошу всіх відмовитися від будівництва ще однієї Вавилонської вежі та об'єднатися заради спільного блага", – заявив Папа. Водночас понтифік закликав не впадати у відчай через масштаби проблеми AI.

"Спокуса полягає в думці, що проблеми надто великі, а ми надто малі, тому наші рішення нічого не змінюють", – написав він.

Лев XIV попросив вибачення за роль Церкви у рабстві. Окрім теми штучного інтелекту, енцикліка торкнулася історичної відповідальності Католицької церкви. Лев XIV визнав, що Церква надто довго не засуджувала трансатлантичну работоргівлю, і попросив вибачення від її імені.

"Це є раною в християнській пам'яті. За це я щиро прошу прощення від імені Церкви", – заявив він.

Також Папа порівняв сучасну AI-індустрію з "новими формами рабства". Він звернув увагу на умови праці людей, які видобувають рідкісноземельні елементи для виробництва смартфонів, комп'ютерів та AI-інфраструктури. "Тіла цих людей вкриті шрамами, травмами та виснаженням, щоб обчислювальні системи могли працювати безперервно", – написав Лев XIV.