Шпионский скандал в OpenAI: сотрудники годами предупреждали об утечках

Как сообщает агентство Reuters со ссылкой на пять осведомлённых источников, ещё в конце 2022 года, до того как ChatGPT увидел свет, сотрудники OpenAI начали публично сомневаться в том, как компания выстраивает защиту внутренней информации. Они обращались и к топ-менеджменту, и к совету директоров. После разговоров у части работников сложилось впечатление, что руководство куда больше озабочено гонкой с Google и Anthropic, чем вопросами безопасности. По их мнению, охрана секретов в OpenAI была организована настолько слабо, что посторонние люди — и даже иностранные правительства — могли относительно легко получить доступ к чувствительным технологическим данным компании. Один из собеседников приводит простой пример: любой сотрудник с правами доступа к коду мог просматривать технические детали множества проектов, включая те, что никак не связаны с его работой.

Сейчас, по словам двух источников, OpenAI начала пересматривать подход к безопасности. Возглавил усиление защиты внутренних систем старший руководитель, отвечающий за разработку продуктов, — Тибо Сотио. Сама история с многолетними жалобами сотрудников отражает непростое положение, в котором оказалась вся индустрия искусственного интеллекта. После запуска ChatGPT в конце 2022 года ИИ-технологии превратились в стратегический актив США, и американские компании ощутили возросшее давление: нужно любой ценой не дать технологиям утечь к зарубежным конкурентам. Но усиление охраны может замедлить разработку, а то и вовсе осложнить масштабные планы OpenAI и Anthropic по выходу на биржу.

Бывший исследователь OpenAI Уилл Депуйе, покинувший компанию в апреле, прямо говорил: в условиях жёсткой конкуренции руководители ИИ-компаний не могут позволить себе жертвовать скоростью ради безопасности. Пресс-секретарь OpenAI Элана Видерман, комментируя претензии, заявила, что компания — одна из самых атакуемых организаций в мире и вкладывает огромные средства в защиту от угроз со стороны собственных сотрудников, киберпреступников и государственных структур.

Напомним, что 13 октября Министерство юстиции США объявило о задержании 35-летнего гражданина Саудовской Аравии Абдулрахмана Альфозана. Его обвиняют в том, что он тайно установил в переговорной комнате руководства OpenAI записывающее устройство, спрятанное в рулоне туалетной бумаги. На момент инцидента Альфозан работал в OpenAI инженером.

Причина столь широкого доступа к информации кроется в прежней системе управления кодом. OpenAI хранила основную часть кода в едином огромном репозитории — так называемом монорепозитории. Он масштабен и сложен, и раньше это само по себе могло отпугнуть часть потенциальных злоумышленников, но современные ИИ-агенты уже способны искать и систематизировать данные в таких объёмах. Кроме того, немало исследовательских документов лежало на GitHub и в Slack. Некоторые сотрудники опасались, что при желании ключевую внутреннюю информацию всё ещё можно добыть. Впрочем, один из источников и сама OpenAI подтверждают: доступ к чувствительным проектам всё же ограничен. В компании настаивают, что многие самые секретные проекты хранятся в отдельных репозиториях с жёстким контролем доступа, а монорепозиторий не содержит ни всего кода OpenAI, ни ключевых технических деталей моделей — например, весов, определяющих работу алгоритма.

Три человека, знакомых с внутренними процессами, рассказали и о другой проблеме: внутренние инструменты не проходили регулярных проверок безопасности. Речь в том числе о «песочницах», где исследователи тестируют новые модели на прочность. Сотрудники часто дорабатывали инструменты под свои задачи, но изменения не всегда проходили проверку, оставляя лазейки для внешних атак. В OpenAI отвечают: после прихода в октябре 2024 года директора по информационной безопасности Дэйна Стаки компания внедрила жёсткие меры и регулярно проверяет внутренние инструменты.