Папа Римский предупредил мир об угрозах ИИ — текстом с отпечатками ИИ

42 000 слов о том, почему ИИ опасен. До 62 % первой главы энциклики «Magnifica Humanitas», по данным детектора, написаны самим ИИ — причем, судя по маркерам, именно Claude.

15 мая Папа Римский Лев XIV опубликовал первую энциклику своего понтификата — «Magnifica Humanitas» («Величие человечности»). Документ объемом около 42 000 слов целиком посвящен искусственному интеллекту: Папа призывает «разоружить» ИИ, установить этические ограничения и сохранить подлинность человеческого слова в эпоху синтетического контента.

Спустя несколько дней аналитик Линч Чжан опубликовал на исследовательском форуме LessWrong разбор текста. Он пропустил энциклику через Pangram — один из наиболее авторитетных ИИ-детекторов. Результаты оказались неожиданными: в отдельных абзацах вероятность ИИ-генерации составила от 40 до 100 %. Другой анализ, проведенный раздел за разделом, показал, что в 62 % текста первой главы обнаружены признаки работы нейросети.

Но дело не только в цифрах детектора. Чжан обратил внимание на лингвистические маркеры, характерные именно для Claude от Anthropic: аномально частое использование слова genuinely («искренне») по сравнению с прежними папскими документами. Среди ИИ-исследователей эта особенность Claude давно стала мемом — и в богословском тексте она выглядит как улика.

Картина становится еще ироничнее, если учесть контекст: на презентации энциклики в Ватикане выступал сооснователь Anthropic — компании-разработчика Claude. Ни Ватикан, ни Anthropic пока не прокомментировали результаты анализа.

Важная оговорка: ИИ-детекторы могут ошибаться. Pangram может выдавать ложноположительные результаты, а высокий балл еще не является доказательством присутствия нейросетей. Однако совпадение нескольких факторов — оценки детектора, специфические языковые паттерны Claude и статистические аномалии на фоне предыдущих энциклик — совпадением объяснить сложно.

Возможно, сотрудники Ватикана использовали ИИ как инструмент для подготовки черновика, а финальную редактуру провели люди. Это легитимный рабочий процесс — но тогда возникает вопрос прозрачности. Если Церковь формулирует моральные ориентиры в отношении технологий, не стоит ли раскрывать, что эти ориентиры отчасти сформулированы самой технологией?

Это не первый подобный случай. Академические статьи с предупреждениями об угрозах ChatGPT оказывались частично написаны ChatGPT. Корпоративные документы об этичном использовании ИИ демонстрировали те же паттерны. Но когда в этой ситуации оказывается институт, чье слово воспринимается как моральный ориентир, ирония становится особенно острой.

По мере того как детекторы совершенствуются, скрывать использование ИИ становится все сложнее. «Magnifica Humanitas» — не просто курьез: это предвестник кризиса подлинности, с которым столкнется каждая крупная организация, использующая ИИ за закрытыми дверями.