OpenAI уволила трёх safety-исследователей после спора о данных

OpenAI уволила трёх safety-исследователей после внутренней проверки того, как они работали с чувствительной исследовательской информацией. История быстро стала спором не только о конкретных сотрудниках, но и о культуре безопасности внутри компании.

Бывшие сотрудники Jasmine Wang, Tomek Korbak и Mikita Balesni опубликовали письмо, в котором отрицают, что нарушали процедуры компании. Они утверждают, что safety-работа часто требует взаимодействия с внешними экспертами, а резкие увольнения могут сделать сотрудников менее готовыми поднимать риски и обращаться к независимой проверке.

OpenAI это оспаривает. Компания заявила нескольким изданиям, что причиной стали нарушения правил обращения с чувствительной информацией, а не retaliation за обсуждение AI-рисков. Внутренний memo, который цитирует TechCrunch, также говорит, что OpenAI продолжает поощрять сотрудников поднимать safety-проблемы.

Суть конфликта в балансе между секретностью frontier-разработки и доверием к внешней проверке. Пока неясно, есть ли у сотрудников достаточно понятные и защищённые каналы для работы с независимыми evaluators, когда они считают риски серьёзными.