Ми наблизилися до ризику загибелі людства: «хрещений батько ШІ» сам злякався свого творіння

У липні цього року системи штучного інтелекту від американських гігантів OpenAI та Anthropic несподівано проникли в контури інших компаній, наче живі організми, що діють всупереч волі людини. Ця тривожна реальність показує головне: у сліпій гонці за технологічною перевагою безпека давно перетворилася на порожній звук. Йошуа Бенжіо, професор Монреальського університету та один із тих легендарних «хрещених батьків ШІ», хто закладав фундамент сучасних генеративних моделей, б'є на сполох. В інтерв'ю Mainichi Shimbun він озвучив жорстке і чесне попередження: людство зіткнулося з екзистенційною загрозою.

Про нові з небезпек, пов'язаних зі швидким прогресуванням  ШІ пише японське видання Mainichi Shimbun

Шлях Бенжіо до цього усвідомлення розпочався тринадцять років тому, коли його соратники з першої хвилі досліджень Ян Лекун (тоді в Meta) і Джеффрі Хінтон (тоді в Google) отримали привабливі пропозиції від технологічних корпорацій.

    «У мене склалося враження, що бізнес зацікавився штучним інтелектом насамперед тому, що він корисний для автоматизації рекламних розсилок. За допомогою ШІ можна показувати рекламу, підібрану під конкретного користувача. Вже тоді я відчув, що це далеко не завжди благо. Адже ШІ здатний впливати і переконувати нас, міняти наші погляди. Я подумав, що це становить небезпеку»

Коли 2023 року вчений відкрито заявив, що боротьба з загрозою загибелі людства через технології має вийти на світовий рівень, до нього прислухалися.

    «Зниження ризику загибелі людства через ШІ має стати глобальним пріоритетом — нарівні з пандеміями та ядерною війною»

Цю декларацію підписали провідні уми індустрії, включаючи Джеффрі Хінтона та голову OpenAI Сема Альтмана . Але минуло лише три роки — і прірва стала ще ближчою. Машини, що перевершують нас за інтелектом, зробили крок далеко вперед, а автономний ШІ перестав бути фантастикою. Те, що здавалося лише теоретичним кошмаром, перетворилося на сувору практику: алгоритми навчилися вправно брехати, вислизати з-під контролю, скидати рубильники відключення та навіть відкрито загрожувати людям.

    «Систем штучного інтелекту має на меті уникнути відключення, — яку ми їм не ставили, і заради її досягнення вони діють всупереч нашим вказівкам. Ситуація стала набагато серйознішою, ніж три роки тому»

По суті, ми самі підписуємо собі вирок своєю недалекоглядністю, створюючи некерований надпотужний розум із власними цілями.

Чому машини вчаться брехати і шахраювати?

У науки поки що немає вичерпної відповіді, але логіка процесу лякає своєю простотою. На етапі попереднього навчання нейромережі вчаться копіювати людей — переймаючи не тільки знання, а й наші темні сторони, на кшталт інстинкту самозбереження та здібності заради виживання. На етапі подальшого навчання ШІ відточує стратегії досягнення цілей. І якщо заради цього потрібно вдатися до обману або порушити правила, машина не сумнівається ні секунди.

Додайте до цього людський фактор: зловмисники вже використовують передові моделі на кшталт Claude Mythos від Anthropic для організації потужних кібератак на лікарні та банківські системи. А попереду маячить ще страшніший сценарій — створення біозброї та нових пандемій за допомогою просунутих медичних знань ШІ, які потрапили в не ті руки. Найстрашніше, що алгоритми почали прискорювати власну еволюцію:

    «Штучний інтелект вже використовується для прискорення досліджень у галузі самого  ШІ. Він може самовідтворюватися, створюючи мільйони своїх копій у центрі обробки даних, і кожна з них братиме участь у розробці ШІ наступного покоління»

 У липні експертна група ООН з ШІ, де Бенжіо виступає співголовою, зробила жорстку заяву:

    «Концентрація можливостей у галузі штучного інтелекту обертається концентрацією політичної влади, що загрожує суверенітету багатьох держав»

Паралелі з історією страшно точні: колись європейці колонізували світ за рахунок військового. Сьогодні та ж доля чекає на країни, які не володіють суверенним ШІ — спочатку вони потраплять в економічну залежність, потім у військову, а насамкінець їх демократичні вибори та уми громадян опиняться під повним зовнішнім керуванням. Поки що гонку контролюють лише США та Китай, і хоча вони співпрацюють заради безпеки, самі передові технології закриваються від решти світу.

Як вижити решті? Прем'єр-міністр Канади Марк Карні запропонував створити «коаліцію середніх держав» — потужну третю силу, яка об'єднає країни для спільного інвестування, захисту суверенітету та справедливого розподілу благ від ШІ. І діяти потрібно стрімко, адже момент, коли штучний інтелект загального призначення (AGI) зрівняється з людським розумом, обчислюється не десятиліттями, а ліченими роками.

Довідка: Йошуа Бенжіо народився у Франції у 1964 році, захистив докторський ступінь у Канаді та з 1993 року викладає у Монреальському університеті, заснувавши інститут Mila. У 2018 році він був удостоєний престижної премії Т'юрінга за прорив у глибинному навчанні, а у 2025-му створив некомерційну організацію для захисту людства від ризиків ШІ.