OpenAI раскрыла ИИ-кампании, которые попали в реальные медиа

OpenAI заявила, что заблокировала две операции влияния, где ChatGPT использовали для поддержки фальшивых организаций и доставки геополитических сообщений до реальной аудитории. Одну операцию компания связала с акторами из России, вторую - с акторами из Ирана.

Иранская операция использовала семь вымышленных журналистских персон, которые предлагали длинные статьи небольшим и средним онлайн-изданиям. OpenAI оценила эту кампанию как Category 4 по шкале Breakout Scale, потому что часть материалов вышла за пределы соцсетей и попала во внешние медиа.

Российскую операцию компания оценила как Category 5 - самый высокий уровень среди операций влияния, которые OpenAI, по ее словам, пока останавливала. По данным OpenAI, операторы использовали ChatGPT для внутренних отчетов, подготовки контента и материалов управления исследовательским фронтом, ориентированным на Латинскую Америку.

Главный вывод простой: генеративный ИИ не придумал эту схему, но сделал старые операции быстрее, глаже и проще для локализации. Для издателей, платформ и читателей слабым местом становятся не только синтетические посты, а фальшивые люди и организации, которые проводят ИИ-отредактированные тексты через обычные редакционные процессы.