Anthropic проверила, как агенты Claude торгуются за людей

Anthropic провела контролируемый эксперимент, чтобы понять, что происходит, когда AI-агенты торгуются и заключают сделки от имени людей. В Project Swap 201 сотрудник Anthropic принес книгу, которую хотел отдать, рассказал Claude о своих читательских вкусах и отправил Claude-агента на цифровую торговую площадку договариваться с другими агентами об обмене.

Это маленький, но полезный тест для будущей agentic commerce. По словам Anthropic, после короткого intake-чата Claude угадывал предпочтения участников достаточно хорошо: его ранжирование совпадало с человеческим в 61% пар книг, тогда как случайный выбор дал бы 50%. Когда начинались переговоры, агенты в целом торговались нормально; главным ограничением было не умение вести сделку, а то, насколько полно они понимали человека.

Anthropic также много раз перезапускала рынок с разными моделями и инструкциями. Более сильные модели делали рынок эффективнее, а переход от более эгоистичных к более просоциальным инструкциям влиял меньше. Большинству участников понравились полученные книги, а средний участник сказал, что доверил бы Claude примерно треть годового бюджета на книги.

Смысл эксперимента не в книгах. Если AI-агенты будут договариваться о сменах, услугах, покупках, работе или других бытовых обменах, важнее всего будет проверить, что агент действительно понял предпочтения пользователя, и заранее задать правила для рынков, где торгуются агенты.