OpenAI призвала США возглавить глобальные стандарты frontier AI

OpenAI призвала США возглавить международную работу над техническими стандартами для frontier AI: общими правилами оценки моделей, отчетности об инцидентах и управления рисками recursive self-improvement.

Компания связывает предложение с automated AI research — системами, которые все больше помогают разрабатывать следующие поколения AI. OpenAI пишет, что fully autonomous recursive self-improvement сегодня не происходит и не должен запускаться, пока это нельзя делать безопасно, с сохранением человеческого контроля и демократическим выбором по рискам.

Работу над стандартами OpenAI предлагает строить вокруг национальных институтов AI safety и Center for AI Standards and Innovation. Такая сеть могла бы измерять возможности frontier-моделей, оценивать достаточность safeguards и определять, какие процессы automated research требуют немедленного human review. Компания отдельно пишет, что в процесс нужно включать open и closed model developers, независимых экспертов и академию.

Важная оговорка: OpenAI утверждает, что такие стандарты не должны быть лицензиями, обязательной prerelease-проверкой или системой approval для моделей. Национальные правительства сами должны решать, использовать ли эти технические стандарты в своем праве и как именно.

Смысл предложения не только технический, но и политический. OpenAI предупреждает, что без общих измерений и incident reporting страны могут получить конфликтующие правила AI safety и слабую реакцию на трансграничные риски. Reuters описывает это как призыв к Вашингтону возглавить глобальную работу над стандартами frontier AI.