Компания OpenAI раскрыла ранее неизвестную операцию российского происхождения, в которой ChatGPT использовался для распространения политической пропаганды в интернете. Исследователи безопасности компании заблокировали группу аккаунтов, с которых создавались публикации для Telegram, X, Facebook, LinkedIn и Substack.
Операторы, предположительно находившиеся в России, использовали VPN, чтобы обходить ограничения доступа к сервисам OpenAI. Запросы к ChatGPT они формулировали на русском языке, а затем просили создавать тексты на английском, немецком и французском. Отдельно пользователей интересовало, как убрать из материалов языковые особенности, которые могли бы указывать на их российское происхождение.
Основной задачей кампании было продвижение International Burke Institute (IBI) — организации, которая представлялась израильским «экспертным сообществом». Сайт института был зарегистрирован в феврале 2025 года и содержал материалы с критикой США и европейских стран и позитивной оценкой России.
Особое место занимал созданный IBI «индекс суверенитета». В нем Россия занимала четвертое место, тогда как Франция была 19-й, а Германия — 21-й. Публикации института утверждали, что западные государства якобы утратили значительную часть самостоятельности и зависят от финансовых институтов и крупных корпораций.
При этом созданию видимости независимого научного центра уделялось особое внимание. На сайте IBI публиковались работы, приписанные известным исследователям, однако OpenAI обнаружила многочисленные случаи плагиата и неправильной атрибуции. В выборке из 36 материалов 34 были скопированы из других источников.
Организаторы также пытались создать впечатление международной поддержки института. Среди якобы связанных с ним организаций и экспертов упоминались ЮНИСЕФ, ООН, Фрэнсис Фукуяма и Ноам Хомский. Однако эти связи не подтверждались.
При этом расследование выявило реальные связи проекта с Израилем. По данным Le Monde, сайт IBI указывал банковские реквизиты в Израиле. Журналисты также обнаружили связь счета с организацией «Дор Мория», работающей с русскоязычными репатриантами. Некоторые люди, продвигавшие материалы IBI, были выходцами из России и проживали в Израиле.
В OpenAI подчеркнули, что непосредственно статьи на сайте IBI не были созданы с помощью моделей компании. ChatGPT использовался главным образом для подготовки публикаций в социальных сетях, которые должны были привлекать внимание к материалам института.
По оценке OpenAI, кампания не смогла собрать большую аудиторию, однако ее инфраструктура отличалась необычной сложностью. Исследователи считают, что использование генеративного ИИ позволяет существенно упростить создание многоязычных информационных кампаний и маскировку их реального происхождения.
