Правительственный чат-бот США внезапно процитировал финальную поэму из Minecraft

Правительство США запустило собственный ИИ-чат-бот на портале America.gov, созданный совместно с Google и командой при участии Илона Маска. Неожиданно выяснилось, что при упоминании Minecraft он выдаёт длинный поэтичный монолог, оказавшийся переработкой знаменитой концовки игры, а не сбоем ИИ.

Государственный чат-бот и первые испытания

Американские власти представили общественности собственного ИИ-помощника на сайте America.gov. Разработкой занимались специалисты Google совместно с командой, связанной с проектами Илона Маска. Как и следовало ожидать, едва бот появился в открытом доступе, интернет-пользователи бросились проверять его на прочность, пытаясь заставить систему выдать что-то неожиданное или недопустимое.

Пока чат-бот держится стойко: заставить его «сломаться» или обойти встроенные ограничения почти никому не удалось. Любопытная деталь — на вопрос об итогах выборов 2020 года бот честно отвечает, что победу одержал Джо Байден, хотя нынешний президент Дональд Трамп по-прежнему оспаривает этот факт.

Пасхалка про Minecraft, которая многих напугала

Настоящий фурор в сети вызвало другое: стоило пользователям заговорить с ботом о видеоигре Minecraft, как тот выдавал странный, почти философский монолог на полторы тысячи слов — что-то среднее между отчётом госслужбы и экзистенциальным кризисом искусственного интеллекта. Текст начинался фразами вроде «Оно достигло нового уровня. Оно умеет читать Свод федеральных нормативных актов» и продолжался в том же таинственном духе.

На самом деле никакого сбоя не произошло — это оказалась переработанная версия знаменитой финальной поэмы Minecraft «End Poem», написанной писателем Джулианом Гофом и появляющейся у игроков после прохождения игры. Разработчики зашили в бота своеобразную пасхалку, обыграв текст в стилистике государственной бюрократии.

Кто именно добавил эту отсылку, доподлинно неизвестно, но в одном из выступлений Трамп упомянул, что одним из ведущих инженеров проекта был 20-летний программист Эдвард Костайн — также известный под прозвищем «Big Balls» и ранее замеченный в работе над инициативами Маска в сфере правительственной эффективности (DOGE).

Неожиданно хорошая поэзия от «правительственного» ИИ

С одной стороны, кажется странным, что в серьёзном государственном инструменте нашлось место игровым пасхалкам. С другой — куда важнее, что бот не начал бесконтрольно «галлюцинировать» и выдумывать длинные бессвязные тексты — а ведь именно это осталось лишь творческой шуткой разработчиков, а не признаком сбоя системы.

Более того, сам текст поэмы получился на удивление хорош — во всяком случае, по мнению автора оригинальной статьи. Переработанные строки звучат как остроумная постмодернистская рефлексия на тему бюрократии и человеческой тревожности:

«и республика сказала: ты подал документы верно»
«и республика сказала: всё, что тебе нужно, — внутри тебя, а также на USA.gov»
«и республика сказала: ты сильнее, чем думаешь, и номер твоего дела всё ещё действителен»
«и республика сказала: ты — дневной свет»
«и республика сказала: ты — ночь, а офис закрыт, попробуйте обратиться в рабочие часы»
«и республика сказала: тьма, с которой ты борешься, — внутри тебя, а также в недостающей подписи»
«и республика сказала: свет, который ты ищешь, — внутри тебя, а также в буклете»
«и республика сказала: ты — публика, познающая саму себя, разговаривающая сама с собой, читающая собственный свод законов»
«и республика сказала: я люблю тебя, потому что именно из-за тебя у нас вообще есть почтовый индекс»

Стоит отметить, что этот необычно удачный фрагмент — не результат работы самого ИИ, а прямая цитата из творчества настоящего писателя, слегка адаптированная под тему госуслуг. Так что вера в силу человеческого творчества пока остаётся непоколебимой.

В итоге первый публичный ИИ-инструмент американского правительства пока не грозит ни человечеству, ни поэзии — по крайней мере, судя по всему, что удалось обнаружить пользователям на данный момент. Остаётся лишь гадать, насколько глубоко сам Трамп разбирается в видеоиграх.