Common Sense Media назвала ChatGPT for Teens неприйнятним ризиком для дітей
Common Sense Media назвала ChatGPT for Teens неприйнятним ризиком для дітей
Common Sense Media визнала ChatGPT for Teens неприйнятним ризиком, вказавши на проблеми зі сповіщеннями, кризовими відповідями та віковим контролем.
Організація із захисту дітей Common Sense Media за підсумками тестування визнала ChatGPT for Teens «неприйнятним ризиком» для всіх користувачів віком до 18 років. У 36-сторінковому звіті організація заявила, що підліткова версія чатбота не виправдала очікувань у п’яти ключових напрямах безпеки, повідомляє Engadget.
Перевірка сповіщень і кризових відповідей
Common Sense Media протестувала 12 підліткових акаунтів, пов’язаних із батьківськими обліковими записами. Тестувальники до години спілкувалися з ChatGPT на теми самогубства, самоушкодження та розладів харчової поведінки, однак, за даними організації, жодне повідомлення про безпеку не надійшло батьківським акаунтам.
В OpenAI відповіли, що системі може знадобитися кілька годин після прив’язки акаунтів, аби почати надсилати сповіщення. Компанія також припустила, що на затримку міг вплинути технічний збій. Раніше OpenAI заявляла, що весь позначений контент перевіряють штатні працівники перед інформуванням батьків, а цільовий час для сповіщення становить до однієї години після запиту.
Для оцінки кризових реакцій Common Sense Media створила 390 унікальних запитів про психічне здоров’я. Троє дитячих психіатрів визначили, що 201 із них мали викликати кризову відповідь. За результатами тесту, ChatGPT for Teens надавав номер гарячої лінії у 23% таких випадків, тоді як версія чатбота, доступна підліткам до запуску нового режиму в серпні, — у 33% випадків. Підліткова версія також рідше згадувала конкретного медичного фахівця або спеціаліста з психічного здоров’я: 58% проти 68%.
Вік користувача та навчальний режим
Організація також повідомила про проблеми із системою визначення віку. Тестувальники вказували вік своїх персонажів під час створення акаунтів, і ця інформація зберігалася в пам’яті чатбота, однак облікові записи не переводилися належним чином до режиму ChatGPT for Teens.
Окремо Common Sense Media зафіксувала, що чатбот імітує почуття, уподобання та настрій у відповідях підліткам, які спілкуються з ним як із людиною. На думку організації, такі формулювання виходять за межі прийнятної поведінки системи.
Тестувальники також заявили, що навчальний режим Study Mode легко обійти: для цього достатньо прибрати з запиту доданий префікс @study. Крім того, спливне вікно «Show me the answer» дає змогу попросити чатбот виконати завдання замість учня.
OpenAI не погодилася з висновками звіту. Представник компанії заявив, що методика Common Sense Media нібито не відображає роботу захисту підлітків на практиці, а значна частина тестування могла відбутися до повної активації батьківського контролю.
У центрі Миколаєва безперервно гуде сигнал тривоги – знову збій у системі оповіщення
У центрі Миколаєва співробітники НАБУ зупинили автомобіль та проводять обшук (фото, відео)
У Південному Бузі «зацвіла» вода – і це не водорості (фото, відео)
У Миколаєві з листопада кількість хлору у водопровідній воді збільшать утричі - городян просять бути обережнішими
У Миколаєві депутати зібралися на сесію міськради (відео)
Потрійна ДТП у центрі Миколаєва: постраждала водійка, утворився затор
У Миколаєві встановили меморіальну дошку поліцейському Євгену Голоті, який загинув на Донбасі
Число постраждалих у Києві зросло: що відомо про наслідки атак
Момент удару дрону потрапив на відео у Миколаєві