OpenAI переписала Model Spec для более автономного AI
Публичные правила поведения теперь строятся вокруг пяти ценностей, учитывают контекст и побочные эффекты и отказываются от большинства предписаний по стилю.
OpenAI полностью обновила Model Spec — публичное описание того, как должны вести себя модели компании. Новая версия рассчитана на системы, которые выполняют более автономную работу и сталкиваются с ситуациями, не описанными в инструкциях напрямую.
Документ теперь строится вокруг пяти ценностей: верности человеческим намерениям, минимизации вреда, честности и прозрачности, человеческой субъектности и заботы. По замыслу OpenAI, они должны объяснять смысл отдельных правил и помогать моделям применять их в незнакомых обстоятельствах.
Обновление уточняет иерархию инструкций между OpenAI, разработчиками и пользователями. Появились правила об использовании диалогов, памяти и другого контекста, поддержке самостоятельности человека, соблюдении социальных норм и контроле или объяснении побочных эффектов. Одновременно OpenAI убирает большинство подробных требований к стилю, чтобы ответы лучше подстраивались под предпочтения пользователя и ситуацию.
Вместо «ассистента» документ теперь называет модель «GPT», отражая использование за пределами чата. OpenAI подчеркивает, что Spec описывает желаемое поведение, которому текущие модели пока соответствуют не полностью. Это новая основа для систем, которые все чаще планируют, действуют и принимают решения от имени пользователя.
