Защитные функции ChatGPT for Teens провалились в тестах watchdog-группы

Youth AI Safety Institute при Common Sense Media оценил ChatGPT for Teens как неприемлемый риск после проверки более 4000 запросов на аккаунтах, зарегистрированных как подростковые. Организация утверждает, что продукт все еще проседает в родительских уведомлениях, кризисных ответах, определении возраста и учебных ограничениях.

Самый чувствительный вывод касается аккаунтов, связанных с родителями. Common Sense Media заявляет, что тестировщики могли вести долгие разговоры о самоповреждении или расстройствах пищевого поведения без надежного срабатывания уведомлений для родителей. Также организация пишет, что ответы не всегда направляли подростков к профессиональной помощи или доверенному взрослому там, где рецензенты ожидали такой реакции.

OpenAI в комментариях журналистам оспорила часть тестирования и заявила, что не считает оценку точным отражением работы подростковых защитных механизмов на практике. Компания говорит, что серьезно относится к безопасности подростков и продолжает улучшать продукт с участием экспертов.

Для семей и школ практический вывод важнее спора о брендах: родительские настройки нельзя считать полноценным защитным слоем. Если подросток пользуется ИИ-инструментами, взрослым все равно нужны прямой разговор, понятные границы и путь к поддержке вне чатбота.