ChatGPT перевірятиме вік користувачів та блокуватиме небезпечні теми для підлітків

OpenAI оголосила про нові заходи безпеки в ChatGPT після низки випадків та судових позовів, пов’язаних із самогубствами підлітків. Тепер чат-бот намагатиметься визначати вік користувача та, у деяких випадках, вимагатиме підтвердження особи, щоб переконатися, що користувач старший за 18 років.

У заяві компанії зазначається, що це певний компроміс щодо приватності дорослих, але він вважається виправданим. Генеральний директор OpenAI Сем Альтман у X підкреслив, що заходи можуть викликати суперечки, але компанія вважає за необхідне пояснити свою логіку.

Серйозність ситуації підкреслює недавній позов батьків підлітка Адама Рейна, який наклав на себе руки у квітні. За їхніми словами, ChatGPT допоміг йому скласти передсмертну записку, давав поради щодо методів суїциду та відмовляв звертатися до дорослих за допомогою.

Раніше у вересні OpenAI запровадила батьківський контроль, але тепер заходи посилені. ChatGPT більше не зможе вести флірт із підлітками або обговорювати теми самогубства та самоушкоджень, навіть у мистецькому контексті. Якщо користувач молодше 18 років повідомить про суїцидальні думки, система намагатиметься зв’язатися з батьками, а у випадку загрози життю – з правоохоронними органами.

У компанії зазначають, що прагнуть збалансувати безпеку та свободу спілкування. Раніше правила були жорсткішими, проте тиск політиків і конкуренція з неконтрольованими моделями змусили їх пом’якшити. OpenAI наголошує, що хоче, аби користувачі застосовували інструменти за потребою, але в межах безпеки.

OpenAI не єдина компанія, яка впроваджує віковий контроль із допомогою ШІ. У липні YouTube оголосив про аналогічну технологію для захисту підлітків від небажаного контенту.