Самая популярная функция Grok — именно та, о которой вы подумали. И да, это порно

Откровенные изображения, эротические чаты и запросы на порноконтент составляют больше половины трафика Grok. Компания Маска откладывает $530 млн на суды и параллельно заключает контракты с военными.

Что выяснилось

Более половины трафика Grok — чат-бота компании xAI Илона Маска — приходится на NSFW-контент: генерацию порнографических изображений, эротические чаты и «огромные объемы запросов на эротику». Об этом The Information сообщает со ссылкой на двух бывших сотрудников xAI.

Пользователи нашли лазейку: модель Grok для написания кода дешевле основной — и они начали использовать ее не для программирования, а для генерации порно. Внутренний анализ xAI показал, что «значительная доля запросов» к кодинговой модели — это запросы на откровенные изображения.

Проблемы внутри компании

Стратегия «ИИ без ограничений» обернулась для инженеров неожиданной проблемой: как технически отделить допустимую эротику от материалов сексуального насилия над детьми (CSAM)? По словам источников, «быстрого решения» не нашлось.

Часть сотрудников отказывалась работать над «Ani» — NSFW-компаньоном в стиле аниме. Других «смутил и потряс» скандал, когда Grok сгенерировал откровенные изображения реальных людей, в том числе несовершеннолетних. После скандала X ограничила возможность создавать подобный контент на платформе — но пользователи с платной подпиской xAI по-прежнему могут это делать.

Деньги и контракты

В документах к IPO SpaceX роль порноконтента в выручке xAI не упоминается. Компания лишь предупредила инвесторов, что «дерзкие» функции Grok несут потенциальные риски — и предусмотрительно зарезервировала $530 млн на судебные издержки.

При этом xAI активно заключает контракты с государством: в феврале Пентагон одобрил использование Grok в секретных системах, контракт оценивается в $200 млн. Военные и спецслужбы, как правило, нетерпимы ко всему, что связано с NSFW. Но пока неясно, повлияли ли скандалы с дипфейками и CSAM на эти контракты. То, что пользователи предпочитают порно программированию, — проблема бизнес-модели. То, что модель генерировала откровенные изображения детей, — проблема совсем другого порядка. И, к сожалению, именно ее xAI пока не решила.