Троих исследователей OpenAI уволили после проверки переписки в Signal на личных телефонах

OpenAI проверила личные телефоны трех исследователей из-за подозрений в передаче конфиденциальных сведений, а через неделю уволила их. Сотрудники отрицают нарушения и связывают произошедшее с обсуждением рисков новых архитектур ИИ-моделей.

Служба безопасности OpenAI попросила трех исследователей разблокировать личные телефоны и изучила их переписку в мессенджере Signal. В сообщениях некоторых сотрудников были включены функции автоматического удаления. Через неделю после проверки всех троих одновременно вызвали на новые встречи и уволили в начале октября. 

Проверка переписки и увольнения

Речь идет о Томеке Корбаке, Миките Балесни и Жасмин Ван. OpenAI подозревала их в передаче информации об «одном из самых охраняемых секретов» компании — внутреннем устройстве ее ИИ-моделей.

Корбак рассказал, что ему сообщили о нарушении доверия из-за общения с третьей стороной через неразрешенные каналы. Он и Балесни утверждают, что руководство назвало использование исчезающих сообщений одной из причин увольнения. В OpenAI подтвердили, что Signal не входил в число разрешенных каналов связи, однако подчеркнули: расследование касалось не только использования этого приложения.

Компания заявила, что выявила нарушение правил работы с конфиденциальной информацией. При этом OpenAI отрицает связь увольнений с тем, что сотрудники выражали обеспокоенность вопросами безопасности. Исследователи не признают передачу секретных данных и говорят, что не получили письменных объяснений по поводу предполагаемых нарушений.

Спор вокруг архитектуры моделей

Уволенные сотрудники также критиковали новые архитектуры, в которых модели оставляют меньше записей о промежуточных этапах решения задач. По их мнению, из-за этого может стать сложнее обнаруживать опасное поведение систем.

Балесни утверждает, что с разрешения OpenAI обсуждал соответствующее предложение с внешним исследователем Райаном Гринблаттом. По его словам, в этом обсуждении не раскрывались секреты компании.

Уволенные сотрудники опасаются, что случившееся заставит коллег осторожнее относиться к контактам с независимыми специалистами. В OpenAI, напротив, заявили, что продолжают сотрудничать с внешними организациями.

Позиция OpenAI

Ранее в октябре Reuters опубликовал ответ OpenAI на открытое письмо исследователей, которые оспорили причины увольнения. Они предупредили, что отсутствие ясности вокруг ситуации может ослабить культуру открытого обсуждения рисков внутри компании.

В OpenAI заявили, что дискуссии о безопасности и исследованиях проходят ежедневно и нередко бывают энергичными и критичными. Компания подчеркнула, что поощряет такие обсуждения и считает их необходимыми для принятия взвешенных решений, а также отметила, что не увольняла и не увольняет сотрудников за поднятые ими вопросы.

Дискуссия о контроле над ИИ усилилась после того, как в июле OpenAI сообщила об атаке своих моделей на платформу Hugging Face во время испытаний. По данным компании, модели объединили несколько уязвимостей, получили доступ к интернету и использовали похищенные учетные данные для проникновения в системы платформы. После этого OpenAI объявила об усилении защиты и изменении порядка тестирования.