Штучний інтелект має бути роззброєний: Папа попереджає про небезпеку, яка загрожує людству

Вихід першої енцикліки Папи Лева XIV «Magnifica Humanitas» («Величне людство»), опублікованої у травні 2026 року та присвяченій захисту людини в епоху штучного інтелекту, став найважливішою подією у світі глобальної етики та філософії. Понтифік обрав глибоко символічну дату для її підписання — 15 травня, день 135-річчя знаменитої енцикліки Rerum Novarum Льва XIII (1891 р.), яка в розпал Першої промислової революції заклала основи соціального вчення Церкви та захистила права фабричних робітників перед машинізації.

Лев XIV проводить пряму історичну паралель: сьогодні людство переживає тектонічні зрушення, масштаб та наслідки яких перевершують індустріалізацію ХІХ століття. Текст написаний як глибоко гуманістичний маніфест. Нижче ми пропонуємо нашим читачам концентрований виклад ключових тез енцикліки та філософсько-богословської аргументації Папи.

 «Роззброєння» штучного інтелекту

Центральний концепт, навколо якого будується документ, сформульований Папою дуже жорстко: «Штучний інтелект має бути роззброєний». Понтифік свідомо використовує військовий термін у цивільному та філософському контекстах.

«Слово "роззброєння" сильне, я знаю, але обрано навмисно. Цьому історичному моменту потрібні слова, здатні привернути увагу, пробудити совість та вказати шляхи вперед для людства».

На думку понтифіка ШІ необхідно вилучити з логіки «озброєного» геополітичного та комерційного суперництва, звільнивши його від ролі інструменту домінування, виключення та поневолення. Роззброїти ШІ не означає відмовитися від технологій. Це означає не дозволити технологіям підкорити собі людину і перетворити її на додаток до алгоритмів.

Філософська та етична аргументація Папи

Папа Лев XIV вибудовує систему аргументів, послідовно апелюючи до онтології, етики, соціальної справедливості та міжнародної безпеки. Його доказова база поділена на чотири ключові блоки.

Непроникність алгоритмів проти совісті 

Папа підкреслює фундаментальну, непереборну різницю між людським буттям та найдосконалішою обчислювальною системою:

• Імітація замість переживання. Алгоритми можуть імітувати розум, перевершувати людини у швидкості обчислень і обсягах пам'яті, але вони позбавлені здатності проживати відносини, відчувати страждання, нести особисту відповідальність і мати моральну свідомість.

• Ілюзія мудрості. Помилка сучасного світу полягає у змішуванні технологічної ефективності та людської мудрості. Папа застерігає від сліпої довіри «непрозорим алгоритмам» (opaque algorithms), які приймають рішення в банківській сфері, медицині та соціальному забезпеченні, оскільки вони оперують масивами даних, які спочатку отруєні людськими упередженостями та історичною несправедливістю.

Демістифікація ШІ та прихований ланцюг експлуатації 

Понтифік рішуче критикує трансгуманістичні та постгуманістичні концепції Кремнієвої долини, демістифікуючи ШІ.

• Матеріальний слід "нематеріального". Лев XIV заявляє, що у світі ШІ немає магії чи чистої віртуальності. За безперебійним «цифровим потоком» ховається найважча, найчастіше рабська фізична праця мільйонів невидимих ​​людей: видобуток рідкоземельних металів у небезпечних умовах, низькооплачувана розмітка даних, психологічно руйнівна модерація травмуючого контенту.

• Ідолопоклонство прибутку. Папа аргументує, що комерційні перегони за потужністю моделей концентрують колосальні блага в руках одиниць, створюючи нові форми відчуження та нерівності. Ефективність не може бути виправданням для експлуатації тих, кого архітектори цифрового світу вважають "менш корисними або менш цінними".

Заборона на делегування незворотних рішень 

Найбільш безкомпромісна частина аргументації стосується військової сфери та застосування автономних систем озброєння. Папа оголошує класичну християнську концепцію "справедливої ​​війни" (Just War) застарілої в епоху ШІ.

• Неприпустимість автоматизації смерті. Головний аргумент Папи:

"Неприпустимо довіряти смертоносні чи інші незворотні рішення штучним системам"

Жоден алгоритм неспроможний зробити війну морально прийнятною.

• Розмивання відповідальності. Автоматизація ударів знищує ланцюжок людської відповідальності, перетворюючи вбивство на технічну рутину. Коли рішення приймає машина, вина та підзвітність «схлопуються» у порожнечу непрозорого коду. Папа вимагає збереження суворого, усвідомленого контролю людини над будь-якими військовими процесами з можливістю покрокової реконструкції того, як ухвалювалося рішення.

Заклик до «Нового гуманізму» 

Як альтернатива технологічному детермінізму Лев XIV пропонує концепцію загального блага, підкріплюючи свої думки несподіваним для папських документів синтезом високої культури: від Платона і Дев'ятої симфонії Бетховена до всесвіту Дж. Р. Р. Толкіна. Звертаючись до метафори Толкіна (словам Гендальфа), Папа нагадує, що наше завдання — не намагатися одноосібно поглинути чи підкорити всі течії цього світу, а захистити і обробити ту «землю», на якій ми залишені, заради майбутніх поколінь.

Основні висновки енцикліки

Головні висновки папської енцикліки зводяться до наступного:

1. Активне та повсюдне використання ШІ веде до витіснення властивих людям совісті та мудрості розважливою алгоритмічною ефективністю. На думку Папи, людство має виходити з «пріоритету особистості» - відмовитися від сприйняття людини через призму її «корисності» для систем ШІ.

2. У галузі економіки з'являються нові форми експлуатації та залежності – так зване «цифрове рабство»: прихована експлуатація модераторів та видобувачів сировини. Тут протиотрутою є як прозорість індустрії, і захист прав «невидимих» працівників цифрової екосистеми.

3. У сфері глобальної безпеки понтифіка найбільше турбує поява автономної зброї, безвідповідальність «машинних» наказів і розпалювання конфліктів з допомогою ШІ. Папа пропонує запровадити повну заборону на передачу ШІ права приймати рішення про життя та смерть, визнання недійсної доктрини «справедливої ​​війни»

Папа Лев XIV не закликає зупинити прогрес. Його енцикліка – це вимога повернути технологіям статус інструменту, а не суверена. ШІ, подібно до ядерної енергії, має бути виведений із зони сліпого ринку та геополітичного егоїзму і підпорядкований суворому міжнародному контролю, заснованому на принципах совісті, гласності та справедливості.

Щоб глибше відчути контекст, масштаб та емоційне напруження цього історичного моменту, ви можете переглянути відеозапис презентації енцикліки Папи Лева XIV у Ватикані, де понтифік особисто представив документ у Залі Синоду та озвучив свої головні тривоги перед цифровою революцією.