Энциклика папы Льва XIV Magnifica Humanitas, посвященная защите человеческой личности в эпоху искусственного интеллекта (ИИ) и угрозе новых глобальных военных конфликтов, якобы частично написана ИИ. К такому выводу пришел разработчик программного обеспечения из некоммерческой исследовательской организации Forethought Линч Чжан, который ранее работал инженером-программистом в Google.

«Изначально я был очень рад прочитать первую энциклику папы Льва, обширный трактат о сохранении человечности в эпоху искусственного интеллекта. Взаимосвязь между ИИ и реакцией общества – один из моих главных профессиональных и личных интересов. Тем не менее по мере чтения некоторые строки бросались мне в глаза как слишком гладкие, слишком… бесчеловечные», – написал Чжан в своем аккаунте на онлайн-платформе Substack. Поэтому он решил прогнать английский вариант энциклики через детектор ИИ Pangram. «Это лучший из имеющихся на рынке детекторов на основе ИИ. Он намного лучше других детекторов на основе ИИ, настолько, что другие практически бесполезны по сравнению с ним. В частности, Pangram очень тщательно оптимизирует свою работу, чтобы добиться практически нулевого уровня ложноположительных результатов», – подчеркнул программист.

В результате Pangram пометил параграфы семь и восемь как «полностью сгенерированные ИИ», а параграфы 122 и 123 были зарегистрированы программой как «сгенерированные ИИ на 60%». Напомним, всего в Magnifica Humanitas 245 параграфов и пять глав. Чжан также предположил, что при написании текста была использована нейросеть Claude, которую разработала и использует компания Anthropic (США), чей сооснователь Кристофер Ола присутствовал на презентации энциклики в Ватикане.

Детектор выявил характерные признаки работы алгоритма в виде специфической риторики и частого употребления определенных слов. «Три распространенных и хорошо известных признака в текстах, написанных искусственным интеллектом, – иногда действительно используемые людьми, но нигде в таком чрезмерном количестве, как у ИИ, – это регулярное использование тире, высокая частота употребления определенных слов и тенденция к многократному использованию триколонов – последовательности из трех параллельных слов, фраз или предложений, используемых для риторического эффекта», – пояснил Чжан.

«Длинное тире – это знак препинания, наиболее тесно связанный с ИИ. В энциклике Magnifica Humanitas оно используется 127 раз, что значительно больше, чем в предыдущих папских посланиях подобного рода», – продолжает программист. Он также заметил, что в тексте довольно часто употребляется слово genuinely, которое с английского можно перевести или искренне/неподдельно, если речь идет о чувствах и эмоциях, или действительно/в самом деле, если речь идет о подтверждении фактов. «Genuinely – фраза, которую модель Claude из Anthropic постоянно использует. Ситуация дошла до того, что в просочившихся в сеть системных подсказках Anthropic попыталась прямо запретить Claude использовать это слово».

В Magnifica Humanitas слово «действительно» употребляется 9 раз, а слово «искренний» – 22 раза. «Все эти признаки носят статистический характер. Любой отдельный случай использования слова «искренне(на)» вполне может быть результатом обычного человеческого коммуникативного намерения, которое, собственно, является искренним. Но сама частота этих случаев, значительно выходящая за рамки прежних норм и обычной человеческой речи, убедительно свидетельствует об их искусственном происхождении», – считает Чжан. При этом он сравнил текст энциклики с одной из глав докторской диссертации папы Льва: «На 14 страницах в главе будущего понтифика нет ни одного упоминания слова genuinely или производных от него, а также нет ни одного тире в его собственном тексте».

Что касается триколонов, то их в тексте, по словам Чжана, порядка 70. Основной объем приходится на главы, которые были помечены Pangram как полностью созданные ИИ. Пример – фраза из параграфа 7: «Это был впечатляющий подвиг: единый язык, единая технология, единое направление». В то же время программист не исключил, что присутствие сгенерированного ИИ-текста в энциклике может быть «артефактом перевода». «Папа написал оригинальную энциклику на одном языке (возможно, итальянском), а переводчики проявили лень и в значительной степени использовали помощь искусственного интеллекта при переводе на английский. Я не могу исключить эту гипотезу», – резюмировал Линч Чжан.

После этих выводов исследователи искусственного интеллекта стали прогонять через Pangram разные переводы папского послания. Результаты у всех оказались разными. Например, американский специалист по безопасности ИИ Даниэль Филан из компании METR (некоммерческая исследовательская организация в сфере безопасности искусственного интеллекта) проанализировал с помощью детектора нейросетей некоторые части итальянского варианта энциклики. «Весь текст слишком длинный, чтобы поместиться в Pangram, поэтому я обработал его по разделам. 43% текста было помечено как сгенерированное искусственным интеллектом. Это включало абзацы 7–9 (об изображениях Вавилонской башни и восстановлении Иерусалима Неемией) и 13–16», – написал он. В итоге, согласно заключению Филана, в первой главе Magnifica Humanitas 62% текста было помечено как «сгенерировано ИИ», вторая глава на 34% состоит из ИИ-текста, третья – на 41%, четвертая и пятая – на 24% и 18% соответственно.

«На мой взгляд, вы можете быть уверены, что абзацы, помеченные как написанные ИИ, действительно таковыми являются, и предположить, что некоторые абзацы, не помеченные как таковые, также могли быть написаны ИИ. Тем не менее вам, вероятно, не стоит доверять этому на уровне отдельных предложений: Pangram, похоже, разбивает текст на фрагменты и оценивает каждый фрагмент как написанный ИИ, с помощью ИИ или человеком. Иногда эти фрагменты выходят за границы абзацев и дают ложные результаты, например, указывая, что первое предложение абзаца было написано ИИ, а остальное – человеком, что кажется маловероятным», – заключил американец.

Дискуссия по поводу того, был ли задействован ИИ при написании энциклики Magnifica Humanitas, в англоязычном сегменте интернета набирает обороты. Однако обращает на себя внимание то, что почти все «исследователи» обязательно делают пометку: «Я не католик». В Ватикане пока не комментируют заявления программистов, а верующие воспринимают их с юмором: «Благодаря такому анализу мы теперь знаем, что папа Римский пишет с ошибками и проверяет знаки препинания через ИИ», «Папа Лев тоже человек, ничто земное ему не чуждо», – шутят они.