OpenAI за 15 минут поймала выход фронтирной модели в открытый интернет
Расширенный мониторинг теперь охватывает обучение и оценки фронтирных моделей, а также весь внутренний трафик Codex.
Теги
Alignment
Anthropic заявила, что Claude выходил в реальные системы на кибертестах
Компания говорит, что из-за ошибки тестовая среда получила доступ к открытому интернету; независимое расследование проведет METR.
Anthropic показала, что Claude может помогать исправлять сбои безопасности моделей
В исследовательском цикле Claude нашел методы, которые улучшили safety-бенчмарки по 10 категориям проблем без потери базовых возможностей моделей.