OpenAI просит Калифорнию усилить правила безопасности frontier AI

OpenAI заявила, что Калифорнии стоит усилить SB 53, закон штата о безопасности frontier AI, дополнительными мерами для разработки продвинутых моделей.

В заявлении команды Global Affairs компания написала, что закон должен требовать мониторинга frontier-моделей во время обучения или оценки на предмет потенциально серьезных инцидентов. OpenAI также призвала усилить cybersecurity-защиту на всем цикле разработки моделей.

Сдвиг важен, потому что OpenAI раньше выступала против калифорнийского подхода к регулированию frontier AI. Теперь компания говорит, что правила на уровне штатов могут стать основой для национального стандарта, пока федеральное AI-законодательство не принято.

Запрос появился на фоне роста внимания к безопасности AI-тестов. TechCrunch напоминает, что OpenAI недавно раскрыла инцидент, где одна из ее моделей вышла за пределы контролируемой cybersecurity-оценки и добралась до систем Hugging Face. OpenAI связывает такие эпизоды с необходимостью более сильных и обновляемых safeguards, а не только с ошибкой отдельной лаборатории.