Розробники ChatGPT і Claude заявили, що ШІ може скоро знищити людство

Гендиректор OpenAI Сем Альтман заявив про необхідність терміново обмежити темпи розвитку штучного інтелекту. Його слова наводить британська газета The Guardian.

За словами Альтмана, стрімкий розвиток ШІ створює ризик загибелі людства вже до кінця десятиліття. У зв'язку з цим OpenAI має намір зосередитися на безпеці та контролі за технологіями, навіть якщо це уповільнить розвиток продуктів.

"Я вважаю неприйнятним ризикувати тим, що до кінця десятиліття ми всі загинемо з ймовірністю 10%. Я думаю, що зараз ми вступаємо в нову еру, і нам, швидше за все, доведеться – як ми чинили в інші епохи в минулому – діяти по-іншому, щоб гарантувати, що наша діяльність принесе користь всьому людству, але при цьому".

Раніше із закликом обмежити темпи розвитку ШІ виступив глава Anthropic Даріо Амодеї.

"За останні кілька місяців я переконався, що для повного вирішення проблем, пов'язаних з ризиками, потрібна ще більша обачність – не просто інвестиції в запобігання ризикам, але регулювання темпів розвитку можливостей, щоб система запобігання ризикам не відставала", – вважає глава Anthropic.

Амодеї зазначив, що побоювання пов'язані з прискоренням розвитку ШІ та його здатністю створювати моделі наступних поколінь.

"Враховуючи темпи розвитку можливостей ШІ, що прискорюються, я побоююся, що через 6-12 місяців такий рій зможе захопити весь інтернет за допомогою постійно діючого ботнету і потенційно завдати шкоди в сотні мільярдів доларів", – пише Амодеї.

Глава Anthropic запропонував план із трьох етапів: зовнішню експертну перевірку провідних ШІ-компаній, координацію між розробниками для вироблення загальних стандартів безпеки та обмежень, а також глобальну співпрацю урядів.

Засновник xAI Ілон Маск підтримав ці пропозиції.

"Даріо прав", – написав він у соцмережі Х.

Раніше масштабний експеримент, проведений дослідниками Університету Вілланова, показав, що оповідання, створені ChatGPT, отримали вищі оцінки, ніж тексти, написані людьми престижних журналів.