Anthropic усилила защиту Claude от кражи reasoning-данных

Anthropic заявила, что усилила защиту Claude от distillation attacks: сценариев, где злоумышленники используют ответы и reasoning traces frontier-модели, чтобы без разрешения обучать другую модель. По оценке компании, новые методы сократили объем данных, которые удается собрать distillers, примерно на 90-99%.

Защита сфокусирована на reasoning traces Claude, потому что, по словам Anthropic, они особенно полезны для копирования поведения модели. Изменения включают preserved thinking controls, которые ограничивают перенос прежнего reasoning между контекстами, safeguards для обнаружения попыток извлечь hidden reasoning, а также более строгие лимиты или баны для аккаунтов, которые повторяют такие попытки.

Anthropic говорит, что система теперь ловит техники distillation, описанные компанией в threat report, на самых сильных общедоступных моделях: Claude Sonnet 5.5, Claude Opus 5 и 5.5, Claude Fable 5 и 5.1. Заявленный false positive rate классификатора ниже 0.1%.

Есть и цена. Некоторым разработчикам пришлось обновить интеграции, безобидные запросы все еще могут быть заблокированы, а Anthropic снова взимает плату за заблокированные запросы в областях, где считает false positive rate очень низким. Главный сигнал: frontier labs начинают рассматривать distillation как abuse и national-security проблему, а не только как нарушение правил сервиса.