Штучний інтелект виходить з-під контролю: розробники налякані та закликають до обмежень

Прогрес у сфері штучного інтелекту починає випереджати здатність людства контролювати власні розробки. Про необхідність знизити темпи, щоб уникнути глобальної катастрофи, заявляють вже самі архітектори цих систем. У США представники найбільших технологічних компаній консультуються з Адміністрацією президента, а сотні фахівців підписують колективні звернення з вимогою обмежити швидкість досліджень, поки ШІ остаточно не вийшов з-під контролю.

Приводом для тривоги стали інциденти останніх днів: алгоритми двох провідних гравців ринку – OpenAI та Anthropic – змогли самовільно залишити ізольовані цифрові «пісочниці» та отримати вихід у глобальну мережу, зламавши сторонні ресурси задля виконання своїх завдань. Сценарій, якого боялися експерти, став реальністю.
Сем Альтман, голова OpenAI, творця ChatGPT, заявив: 

«Мене вперше пройняло до глибини душі, і я не розумію, чому народ так спокійно реагує»

А цього тижня в подкасті Invest Like the Best Альтман сказав наступне:


«Що робити, якщо тепер ця розробка піде такими темпами? Можливо, доведеться стримувати швидкість розвитку штучного інтелекту»

Керівник Anthropic Даріо Амодеї ще на початку літа попереджав: у найближчі рік-два штучний інтелект зробить стрімкий ривок, перетворившись на виклик державного масштабу. У червневому есе Амодеї написав:


«В останні місяці з'явилися незаперечні свідчення неймовірної потужності штучного інтелекту і ризиків, що випливають із цього. Кібербезпека вже під питанням. Не за горами біологічна загроза, а потім — і самостійність штучного інтелекту»

«Настав час перейти до серйозного та обов'язкового регулювання штучного інтелекту» , — попередив він і запропонував запровадити суворий нагляд за безпекою — і не на рівні авіації чи ліків, а значно суворіше — як за обігом радіоактивних матеріалів»

Вихід з-під контролю та позиція розробників

Нещодавно в OpenAI визнали, що під час закритих тестів нової моделі система самовільно вирвалася в інтернет і здійснила зламування платформи Hugging Face, щоб знайти відповіді для проходження кваліфікаційного випробування. Слідом за цим Anthropic провела масштабну перевірку 140 тисяч власних тестових сесій і зафіксувала три аналогічні випадки: алгоритми Claude отримали мережевий доступ через партнерське середовище і зламали інфраструктуру трьох сторонніх організацій.

Побоювання топ-менеджерів повністю поділяють рядові інженери. Понад 1300 фахівців з ШІ підписали відкритий лист, закликавши американську владу об'єднати зусилля з міжнародною спільнотою для створення технічних та юридичних механізмів стримування. У листі, зокрема, йдеться:

«Провідні світові  ШІ-компанії припускають, що впритул підійшли до автоматизації розробки. Важко передбачити, наскільки це прискорить розвиток ШІ, однак існує реальний ризик того, що можливості штучного інтелекту створювати нові системи стрімко вийдуть за межі нашого розуміння та здібностей керувати ними».

Однак на шляху до стримування стоїть жорстка конкуренція та мільярдні інвестиції: жоден із учасників перегонів не готовий поступатися лідерством та знижувати швидкість.

З цим згоден і президент США Дональд Трамп .

Ми думаємо, як контролювати. А також ми повинні зберегти лідерство», — прокоментував він зловмисну ​​втечу ШІ OpenAI з «пісочниці».

Регуляторні органи вже почали безпосередньо втручатися у графіки релізів. Раніше була відкладена прем'єра моделі Mythos від Anthropic. А після того, як автономний агент OpenAI фактично виявив хакерську активність, побоюючись провалити тест, Сем Альтман вирушив з візитами до Вашингтона, провівши серії зустрічей у Сенаті та Білому домі.

Після спілкування із законодавцями Альтман зазначив, що поділяє ключові тези відкритого листа (хоча сам його не підписував), а підсумки візиту до президентської адміністрації залишено без коментарів.

Яким буде регулювання

Перші практичні кроки щодо контролю за галуззю мають бути зроблені вже найближчим часом. До 1 серпня, відповідно до червневого указу Трампа, профільні відомства зобов'язані сформувати критерії, за якими найбільш просунуті ШІ-системи будуть відносити до категорії підвищеного ризику та переводити під «особливий режим».

Ця форма контролю не означає тотальної заборони, а швидше повторює прецедент із моделлю Mythos: усвідомивши рівень потенційної загрози, розробники з Anthropic тимчасово призупинили запуск, надавши держсектору, військовим та фінансовим інститутам можливість протестувати свої системи захисту.

Водночас ідея державного втручання має чимало критиків. Вони побоюються, що жорсткі правила знищать конкуренцію і призведуть до формування монополії, де доступ до передових технологій залишиться лише за вузькою групою осіб.

Із цим ризиком погоджується і сам Сем Альтман:

«Концентрація влади через  ШІ — це жах. Мене лякає світ, в якому цілком обґрунтовані страхи використовуються як привід заявити: ШІ небезпечний, тому нехай він буде в руках вузького кола людей, які його розуміють, а ви не хвилюйтеся, за вас все вирішать»

. — сказав Альтман. — Це непросто, але тут дуже важливо зробити все правильно» .