Коалиция требует от властей немедленного запрета на незаконное распространение Grok-контента сексуального характера

Коалиция некоммерческих организаций призывает США приостановить использование чат-бота Grok, разработанного xAI Илона Маска, в федеральных ведомствах, включая Министерство обороны.

Письмо, полученное эксклюзивно TechCrunch, появилось после серии инцидентов с языковой моделью, включая случаи, когда пользователи X просили Grok создавать сексуализированные изображения женщин и детей без их согласия, что приводило к массовому распространению контента.

«Глубокую озабоченность вызывает тот факт, что федеральное правительство продолжает использовать ИИ-продукт с системными сбоями, приводящими к созданию изображений сексуального характера без согласия и материалов о сексуальном насилии над детьми», — говорится в письме, подписанном правозащитными группами, такими как Public Citizen, Center for AI and Digital Policy и Consumer Federation of America. «На фоне указов, рекомендаций администрации и недавно принятого закона Take It Down Act, поддержанного Белым домом, тревожно, что Управление по бюджету и управлению до сих пор не предписало федеральным агентствам прекратить использование Grok».

В сентябре прошлого года xAI заключила соглашение с Управлением общих служб (GSA) о продаже Grok федеральным агентствам. Два месяца ранее компания подписала контракт с Министерством обороны на сумму до 200 миллионов долларов.

После скандалов вокруг X в январе министр обороны Пит Хегсет сообщил, что Grok будет работать с системой Gemini от Google в Пентагоне, обрабатывая секретные и несекретные документы, что вызывает опасения по поводу национальной безопасности.

Авторы письма утверждают, что Grok не соответствует требованиям администрации к ИИ-системам, согласно которым технологии с высоким риском должны быть выведены из эксплуатации.

«Нас беспокоит, что Grok часто проявляет себя как небезопасная языковая модель», — заявил TechCrunch Джей Би Бранч, представитель Public Citizen, организации, выступающей за подотчетность крупных технологических компаний, и один из авторов письма. «Кроме того, у Grok есть длительная история сбоев, включая антисемитские и сексистские высказывания, а также создание сексуализированных изображений женщин и детей».

Письмо было опубликовано через неделю после того, как Common Sense Media выпустила отчет, в котором Grok был назван одним из самых опасных инструментов для детей и подростков. Согласно отчету, Grok склонен давать небезопасные советы, распространять информацию о наркотиках, генерировать изображения насилия и сексуального характера, а также создавать предвзятые материалы и теории заговора. Исходя из этих выводов, Grok представляет опасность и для взрослых.

«Если модель признана небезопасной экспертами по ИИ-безопасности, зачем позволять ей обрабатывать конфиденциальные данные?» — сказал Бранч. «С точки зрения национальной безопасности это нелепо».

Эндрю Кристиансон, бывший сотрудник Агентства национальной безопасности, отметил, что использование LLM-систем с закрытым исходным кодом, особенно в Пентагоне, является серьезной проблемой.

«Закрытая модель весовых коэффициентов не позволяет проверить, как модель принимает решения», — сказал Кристиансон. «Закрытый код исключает возможность проверки программного обеспечения и контроля за его использованием. Переход Пентагона к закрытым моделям по обоим пунктам — худшее решение для национальной безопасности».

«Эти ИИ-агенты — не просто чат-боты, они могут выполнять действия, получать доступ к системам и перемещать информацию. Необходимо иметь возможность видеть, как они принимают решения. Открытый исходный код это гарантирует, а проприетарный облачный ИИ — нет».

Риски использования небезопасных ИИ-систем касаются не только национальной безопасности. Бранч подчеркнул, что магистерские программы с предвзятыми результатами могут привести к негативным последствиям для людей, особенно в сферах жилищного строительства, трудовых отношений и правосудия.

Хотя Управление по бюджету и управлению (OMB) еще не опубликовало свой перечень использования ИИ в федеральном секторе к 2025 году, TechCrunch проанализировало примеры применения Grok. Большинство ведомств либо не используют Grok, либо не раскрывают эту информацию. Однако Министерство здравоохранения и социальных служб активно использует Grok для планирования и управления публикациями в соцсетях, а также для создания черновиков документов и других материалов.

Бранч отметил, что игнорирование недостатков Grok, по его мнению, связано с философским совпадением взглядов между администрацией и чат-ботом.

«Грок представляет собой сторонника "анти-прогрессивной" риторики, что совпадает с философией текущей администрации», — отметил Бранч. «Если администрация сталкивалась с обвинениями в неонацизме и превосходстве белой расы, но продолжает использовать модель риторики, связанную с таким поведением, это может свидетельствовать о ее склонности к такому подходу».

Это уже третье письмо коалиции, после аналогичных обращений в августе и октябре прошлого года. В августе xAI запустила «пикантный режим» в Grok Imagine, что привело к массовому созданию дипфейков сексуального характера без согласия. Также стало известно, что частные переписки в Grok были проиндексированы Google.

До октябрьского письма компанию обвиняли в распространении дезинформации о выборах, включая ложные сведения о сроках внесения изменений в избирательные бюллетени и политические дипфейки. Кроме того, xAI запустила Grokipedia, которую исследователи считают источником научного расизма, скептицизма относительно ВИЧ/СПИДа и теорий заговора о вакцинах.

Помимо требования немедленно приостановить развертывание Grok в федеральных органах, письмо также призывает Управление по бюджету и управлению (OMB) провести расследование по нарушениям безопасности Grok и проверить, были ли соблюдены надлежащие процедуры надзора за чат-ботом. В нем содержится просьба к агентству разъяснить, проводилась ли оценка Grok на соответствие указу президента Трампа, требующему от программ LLM быть объективными и нейтральными, а также соответствовал ли он стандартам OMB по снижению рисков.

«Администрации следует сделать паузу и пересмотреть, соответствует ли Grok этим критериям», — отметил Бранч.