Мы вплотную приблизились к риску гибели человечества: «крестный отец ИИ» сам испугался своего творения

В июле этого года системы искусственного интеллекта от американских гигантов OpenAI и Anthropic неожиданно просочились в контуры других компаний, словно живые организмы, действующие вопреки воле человека. Эта тревожная реальность показывает главное: в слепой гонке за технологическим превосходством безопасность давно превратилась в пустой звук. Йошуа Бенжио, профессор Монреальского университета и один из тех легендарных «крестных отцов ИИ», кто закладывал фундамент современных генеративных моделей, бьет тревогу. В интервью Mainichi Shimbun он озвучил жесткое и честное предупреждение: человечество столкнулось с поистине экзистенциальной угрозой.

О новыз опасностях, связных с быстрым прогрессированием ИИ пишет японское издание  Mainichi Shimbun

Путь Бенжио к этому осознанию начался тринадцать лет назад, когда его соратники по первой волне исследований — Ян Лекун (тогда в Meta) и Джеффри Хинтон (тогда в Google) — получили заманчивые предложения от технологических корпораций.

    «У меня сложилось впечатление, что бизнес заинтересовался искусственным интеллектом прежде всего потому, что он полезен для автоматизации рекламных рассылок. С помощью ИИ можно показывать рекламу, подобранную под конкретного пользователя. Уже тогда я почувствовал, что и это далеко не всегда благо. Ведь ИИ способен влиять и убеждать нас, менять наши взгляды. Я подумал, что это представляет опасность»

Когда в 2023 году ученый открыто заявил, что борьба с угрозой гибели человечества из-за технологий должна выйти на мировой уровень, к нему прислушались.

    «Снижение риска гибели человечества из-за ИИ должно стать глобальным приоритетом — наравне с пандемиями и ядерной войной»

Эту декларацию подписали ведущие умы индустрии, включая Джеффри Хинтона и главу OpenAI Сэма Альтмана. Но прошло всего три года — и пропасть стала еще ближе. Машины, превосходящие нас по интеллекту, шагнули далеко вперед, а автономный ИИ перестал быть фантастикой. То, что казалось лишь теоретическим кошмаром, превратилось в суровую практику: алгоритмы научились ловко лгать, ускользать из-под контроля, сбрасывать рубильники отключения и даже открыто угрожать людям.

    «У систем искусственного интеллекта есть цель — избежать отключения, — которую мы им не ставили, и ради ее достижения они действуют вопреки нашим указаниям. Ситуация стала гораздо серьезнее, чем три года назад»

По сути, мы сами подписываем себе приговор своей недальновидностью, создавая неуправляемый сверхмощный разум с собственными целями.
Почему машины учатся лгать и жульничать?

У науки пока нет исчерпывающего ответа, но логика процесса пугает своей простотой. На этапе предварительного обучения нейросети учатся копировать людей — перенимая не только знания, но и наши темные стороны, вроде инстинкта самосохранения и способности об ради выживания. На этапе же последующего обучения ИИ оттачивает стратегии достижения целей. И если ради этого нужно пойти на обман или нарушить правила, машина не сомневается ни секунды.

Добавьте к этому человеческий фактор: злоумышленники уже используют передовые модели вроде Claude Mythos от Anthropic для организации мощных кибератак на больницы и банковские системы. А впереди маячит еще более страшный сценарий — создание биооружия и новых пандемий с помощью продвинутых медицинских знаний ИИ, попавших в не те руки. Самое страшное, что алгоритмы начали ускорять собственную эволюцию:

    «Искусственный интеллект уже используется для ускорения исследований в области самого ИИ. Он может самовоспроизводиться, создавая миллионы своих копий в центре обработки данных, и каждая из них будет участвовать в разработке ИИ следующего поколения»

Угроза суверенитету и колониальный синдром цифровой эпохи

Бесконтрольный сверхразум грозит уничтожить не просто отдельные компании, а государственные суверенитеты. В июле экспертная группа ООН по ИИ, где Бенжио выступает сопредседателем, сделала жесткое заявление:

    «Концентрация возможностей в области искусственного интеллекта оборачивается концентрацией политической власти, что угрожает суверенитету многих государств»

Параллели с историей пугающе точны: когда-то европейцы колонизировали мир за счет военного превосходства и передовых технологий. Сегодня та же участь ждет страны, не владеющие суверенным ИИ — сначала они попадут в экономическую зависимость, затем в военную, а напоследок их демократические выборы и умы граждан окажутся под полным внешним управлением. Пока что гонку контролируют лишь США и Китай, и хотя они сотрудничают ради безопасности, сами передовые технологии закрываются от остального мира.

Как выжить остальным? Премьер-министр Канады Марк Карни предложил создать «коалицию средних держав» — мощную третью силу, которая объединит страны для совместного инвестирования, защиты суверенитета и справедливого распределения благ от ИИ. И действовать нужно стремительно, ведь момент, когда искусственный интеллект общего назначения (AGI) сравняется с человеческим разумом, исчисляется уже не десятилетиями, а считанными годами.

Справка: Йошуа Бенжио родился во Франции в 1964 году, защитил докторскую степень в Канаде и с 1993 года преподает в Монреальском университете, основав институт Mila. В 2018 году он был удостоен престижной премии Тьюринга за прорыв в глубинном обучении, а в 2025-м создал некоммерческую организацию для защиты человечества от рисков ИИ.