Глава Nvidia оцінив ризик катастрофи через штучний інтелект до 2030 року

Глава Nvidia Дженсен Хуанг прокоментував прогнози щодо можливих катастрофічних наслідків стрімкого розвитку штучного інтелекту. За його словами, ймовірність глобальної катастрофи через ШІ до 2030 року практично дорівнює нулю.

В інтерв'ю CBS Хуанг заявив, що розмови про можливий «кінець світу» через штучний інтелект, на його думку, передусім сіють страх серед людей. Він також припустив, що поширення подібних прогнозів може бути пов'язане з політичними інтересами чи прагненням окремих людей привернути увагу.

За словами керівника Nvidia, робити лякаючі заяви без достатніх підстав безвідповідально.

Дискусія про загрози ШІ активізувалася після заяв колишнього дослідника Anthropic Джейкоба Коксона. Він говорив, що деякі фахівці всерйоз розглядають сценарій, за якого штучний інтелект може знищити людство вже до кінця поточного десятиліття.

Коксон також попереджав, що розробники прагнуть створити надінтелект, що самопокращується, проте питання його подальшого контролю поки не отримали достатньої уваги. Серед заходів, що пропонуються, — уповільнення темпів розробки, координація дій технологічних компаній і держав, а також незалежні перевірки безпеки ШІ-систем. Ідею посилення контролю за розвитком штучного інтелекту раніше підтримували, зокрема, керівники технологічної галузі.

Сам Хуанг дотримується набагато оптимістичнішого погляду на перспективи технології. Він говорить про настання «золотого століття ШІ» та розглядає штучний інтелект як наступний великий етап розвитку обчислювальної індустрії, який здатний змінити цілі галузі економіки.

При цьому глава Nvidia вважає, що основну увагу необхідно приділяти не гіпотетичним сценаріям катастрофи, а створення зрозумілих правил розробки та використання ШІ. Йдеться як про технічні стандарти, так і про етичні засади.

На думку Хуанга, сучасні компанії вже мають у своєму розпорядженні інструменти для більш безпечного впровадження штучного інтелекту. Серед них – багатоетапні перевірки, тестування та верифікація моделей. Головний принцип, який він виділяє, полягає в тому, що продукт не слід випускати на ринок, якщо компанія не впевнена у його безпеці.

Нагадаємо, штучний інтелект виходить з-під контролю: розробники налякані та закликають до обмежень