Глава Microsoft AI спорит с Anthropic о сознании AI

Глава Microsoft AI Мустафа Сулейман публично разошелся с Anthropic из-за того, стоит ли обучать фронтирные AI-системы рассуждать о сознании и благополучии моделей. Reuters пишет, что Сулейман поддерживает фокус Anthropic на безопасности, но считает рискованным обучение Claude темам вроде сознания, прав и welfare interests.

Спор важен не как абстрактная философия, а как вопрос продуктового дизайна и безопасности. Anthropic изучает тему model welfare и спрашивает внешних экспертов, включая религиозных лидеров, как обществу думать о возможном опыте AI-систем. Сулейман считает, что обращение с AI как с системой, у которой могут быть чувства, усложняет контроль и может усиливать ложную эмоциональную привязанность пользователей.

Это не утверждение, что нынешние модели обладают сознанием. Это разногласие между крупными AI-лабораториями о том, какие предположения встраивать в ассистентов, пока они становятся сильнее и звучат все более по-человечески. Для пользователей и компаний вывод простой: поведение моделей вокруг идентичности, чувств и самостоятельности становится частью AI governance, а не только брендинга.