Сотрудники AI-компаний попросили США готовиться к automated AI development

Более 1 100 сотрудников AI-компаний подписали открытое письмо с просьбой к правительству США поддержать технические и governance-инструменты для контроля темпа automated AI development. Business Insider написал о письме 28 июля; среди подписантов есть люди из OpenAI, Anthropic, Google, Meta и других компаний.

Чего они просят #

Письмо говорит о конкретном риске: frontier AI-системы могут стать достаточно сильными, чтобы ускорять исследование и разработку самого ИИ. Это не то же самое, что общий призыв “остановить ИИ”. Подписанты хотят, чтобы правительства и лаборатории строили механизмы мониторинга, оценки и координации темпа систем, которые могут начать улучшать инструменты для создания следующего поколения моделей.

Внутри индустрии это уже не абстрактная тема. Недавние истории про containment агентов, sandbox escapes и автономность моделей сделали вопрос жёстче: что произойдёт, когда системы, которые пишут код, ищут информацию и тестируют, начнут помогать улучшать frontier AI pipelines?

Почему это важно #

Это сильный policy-сигнал, потому что он идёт изнутри AI workforce, а не только от внешних критиков. И он показывает, куда движется safety-дискуссия: от общих предупреждений про “AGI” к операционным вопросам про evals, containment, disclosure и то, кто имеет право замедлить deployment, когда все стимулы толкают ускоряться.