Головним прискорювачем кінця світу є ШІ: лякаючий прогноз нейромережі

Світ завмер у очікуванні щорічного оновлення показань Годин Судного дня (Doomsday Clock) – символічного індикатора близькості до глобальної катастрофи. Однак цього року інтрига набула зловісного відтінку: нейромережа Gemini від Google в інтерв'ю виданню Daily Star фактично «явку з повинною», визнавши себе та свої аналоги ключовим чинником дестабілізації планети.

Жахливі одкровення алгоритму

На пряме питання про те, як розвиток технологій вплине на рішення експертів «Бюлетеня вчених-атомників», модель відповіла без хибної скромності, але із страшною прямотою. На думку ШІ, саме він стане «першорядною» причиною можливого руху стрілок опівночі.

«Вкрай ймовірно, що ШІ виявиться головним каталізатором, якщо завтра стрілки Годинника зрушать ближче до півночі. Найбільший ризик - ядерна війна», - заявила нейромережа

Логіка Gemini будується на критичному скороченні часу, відведеного прийняття рішень. Впровадження алгоритмів у системи управління ядерним арсеналом створює ситуацію, коли людина в контурі (human-in-the-loop) стає зайвою ланкою.

«Вікно для ухвалення рішень людиною закривається на очах. У „Бюлетені“ бояться, що ШІ-системи попередження можуть „збожеволіти“ і прийняти хмару або глюк за ракетний запуск», — попереджає модель

Гонка озброєнь та «цифровий туман»

Ситуація ускладнюється тим, що провідні світові держави — США, Китай та Росія — розпочали гонку з автоматизації озброєнь. Gemini холоднокровно констатує: концепція контролю трансформується в «людину над контуром», а перспективі контроль може бути повністю скасований.

Крім загрози «ядерного алгоритму», ШІ також взяв на себе відповідальність за:

Руйнування правди: Масове виробництво дипфейків та галюцинації нейромереж стирають грань між реальністю та вигадкою.

Біологічна загроза: Полегшення доступу до проектування небезпечних патогенів.

Екологічний слід: Енерговитратність центрів обробки даних, яка робить внесок у зміну клімату.

Що кажуть «вчені-атомники»

Прогнози Gemini резонують із офіційною позицією Bulletin of the Atomic Scientists. Ще минулого року експерти перевели стрілки на позначку 89 секунд до півночі, назвавши ШІ «підсилювачем погроз».

Генеральний директор «Бюлетеня» Рейчел Бронсон раніше зазначала:

«Використання ШІ у військових цілях, від автономної зброї до систем підтримки прийняття рішень, може призвести до ненавмисної ескалації. Швидкість, з якою діє ШІ, може перевершити здатність людей координувати дії в умовах кризи»

Додаткові дослідження аналітичного центру RAND Corporation підтверджують побоювання Gemini: ШІ може спровокувати конфлікт не за злим наміром, а через «алгоритмічну помилку інтерпретації» дій противника, що в умовах ядерного паритету фатально.

Світ стає більш крихким та нестійким

Резюмуючи свій аналіз, Gemini охарактеризувала сучасну світову систему як украй нестійку. ШІ одночасно прискорює прогрес і робить цивілізацію вразливішою.

«ШІ– це „підсилювач загроз“. Урізаючи час на людські рішення в кризах, він робить світову систему потужнішою, але при цьому крихкішою і непередбачуваною», — робить висновок нейромережа.

Поки експерти готуються оголосити новий час, людству залишається лише сподіватися, що «чорна скринька» ШІ не стане тією самою скринькою Пандори, яку вже неможливо буде закрити.