Руководительница AI-этики OpenAI ушла меньше чем через год

Руководительница AI-этики OpenAI Chloé Bakalar ушла из компании меньше чем через год после прихода, пишет Financial Times в материале, опубликованном The Irish Times. До OpenAI Bakalar была chief ethicist в Meta, а в OpenAI занималась этическими подходами к разработке моделей, взаимодействием людей с AI и темами вроде machine consciousness.

По данным отчета, Bakalar была единственным выделенным ethicist в OpenAI, и замена пока не назначена. OpenAI заявила FT, что этика не находится в руках одного человека или команды, а этические соображения встроены в работу исследовательских и model-building команд.

История важна из-за контекста. Уход Bakalar совпадает с другими недавними уходами людей, связанных с safety: Johannes Heidecke, руководителя safety systems, и Joshua Achiam, chief futurist и бывшего руководителя mission alignment. Когда frontier-лаборатории находятся под давлением из-за безопасности моделей, автономности и правил релиза, устройство их внутренних safety- и governance-команд само становится важной новостью.