ChatGPT будет завершать опасные диалоги и ограничит данные об оружии для подростков

OpenAI усиливает защиту ChatGPT от запросов, связанных с насилием и оружием. Новые правила вводят более строгие ограничения для подростков и дополнительные меры для диалогов с тревожными признаками. Развертывание должно начаться в ближайшие недели.

Пользователи, которых система считает несовершеннолетними, будут получать меньше практической информации об оружии и системах безопасности, даже если запрос выглядит безобидно. OpenAI заявляет, что ее система определения возраста будет постоянно учитывать новые сигналы и переводить вероятных подростков в режим до 18 лет. Совершеннолетние, попавшие туда по ошибке, смогут подтвердить возраст через Persona.

ChatGPT также станет осторожнее отвечать, если недавние разговоры указывают на возможное насилие. При фиксации пользователя на причинении серьезного вреда сервис сможет автоматически завершить диалог, а повторные случаи могут привести к временной приостановке аккаунта. Для всех пользователей ограничат подробные реконструкции массовых нападений.

OpenAI сообщила, что за один недавний квартал передала правоохранительным органам более 200 сообщений о непосредственных угрозах. Компания также пообещала выпускать дважды в год отчет о безопасности сообществ с обезличенными примерами, данными и оценкой эффективности защитных мер.