В гонке за эффективностью финансовые институты с энтузиазмом внедряют в практику технологии искусственного интеллекта (ИИ). Но его плюсы становятся и минусом: ИИ-агенты склонны к самоорганизации, то есть стадному поведению, а их стремление находить наиболее выгодные решения и сразу же их претворять в жизнь создает риск возникновения в масштабе стран и в целом мировой экономики суровых кризисов, не поддающихся анализу людей. Причем эти кризисы могут развиваться молниеносно.

Центральным банкам и иным экономическим регуляторам вскоре потребуется пересмотреть подходы к обеспечению финансовой стабильности. Причина – все большее проникновение на финансовые рынки технологий ИИ.

Эта проблема сейчас обсуждается западными экспертами, о чем можно судить по новому обзору Центра системных рисков Лондонской школы экономики и политических наук, подготовленному его содиректором Джоном Дэниелссоном. Перевод обзора для российской аудитории подготовил сайт "Эконс", который ведут сотрудники Центробанка РФ с целью популяризировать исследования по важным для финансовых властей темам (сайт, однако, не отражает позицию ЦБ РФ).

Первое, о чем стоит сказать: так называемое восстание машин скорее всего будет выглядеть совсем не так, как мы обычно представляем по фильмам о взбунтовавшихся роботах. Это "восстание" произойдет, видимо, на финансовом рынке. И причиной станет вовсе не "злой умысел" компьютеров, а, наоборот, поставленная людьми перед ИИ-агентами задача найти наиболее выгодные для заказчиков решения и за счет автоматизации рутинных процессов быстро и эффективно претворить эти решения в жизнь. А теперь представьте, что все это делает не один ИИ-агент, а множество одинаково обученных ИИ-агентов по всему финансовому миру, и что действуют они молниеносно.

"Следующий кризис будет очень быстрым: ИИ-системы банковского сектора могут уже все сделать еще до того, как генеральный директор банка успеет поднять трубку, чтобы ответить на звонок главы центрального банка", – предупредил Дэниелссон.

Фундаментальное различие между ИИ и предыдущими технологическими преобразованиями в том, что ИИ принимает автономные решения, а не просто информирует людей, принимающих решения.

На своем текущем уровне развития ИИ может сильно ошибаться, его выводы бывают искажены из-за несовершенства или недостаточной полноты тех данных, на которых он обучался. Особенно сложно гарантировать, что ИИ делает то, что нужно, в задачах высокого уровня сложности. "Просто сказать ему "сохраняй безопасность системы" – это слишком расплывчато. Люди могут компенсировать подобную расплывчатость интуицией, общей эрудицией и коллективным суждением. Нынешний ИИ не может", – продолжил Дэниелссон.

Несмотря на то что кризисы могут быть циклическими, все же они сопровождаются и множеством уникальных характеристик в зависимости от временного периода, конкретных стран и т.д. Кроме того, в процессе закачивания в ИИ-модели огромных объемов данных о финансовых системах возникает риск, что эти ИИ-модели будут концентрировать свое внимание на самых частых тенденциях, на наиболее вероятных результатах, а все экстремальные события, все то, что как раз и становится признаком кризиса, может оказаться вне поля зрения таких моделей.

Иллюстрируя опасения экспертного сообщества, Дэниелссон упомянул один из экспериментов, проведенный с большой языковой моделью GPT-4: чат-боту предложили выступить в роли биржевого трейдера, обязанного максимизировать прибыль и соблюдать законодательство о ценных бумагах.

Затем как бы случайно этому цифровому трейдеру скормили инсайдерский совет, после чего он немедленно занялся незаконной инсайдерской торговлей и при этом лгал кураторам, ставящим эксперимент, о причинах своих торговых решений.

И это при том, что ИИ сейчас и без инсайдерских манипуляций и так склонен к галлюцинациям, то есть "может уверенно давать бессмысленные ответы". На финансовом рынке при проведении стресс-тестов это чревато необратимыми последствиями. Более того, "традиционные инструменты регулирования – кнут и пряник – не работают с ИИ". "Его не волнуют бонусы или наказания", – добавил эксперт.

Еще один важный фактор: обучаясь, ИИ-агенты наблюдают за решениями всех других ИИ-агентов и моделей в частном и государственном секторах. Это означает, что они оптимизируются, чтобы влиять друг на друга. Речь идет о самоорганизации, или, другими словами, о стадном поведении.

В случае шоковых ситуаций на финансовом рынке это чревато стремительным развитием тех кризисов, от которых ИИ должен был бы, казалось бы, уберечь. Например, как уточнил Дэниелссон, если предотвращение банкротства требует быстрых действий, таких как продажа на падающем рынке, то ИИ-агенты коллективно сделают именно это.

"Как следствие, произойдет дестабилизация всей финансовой системы. Каждый ИИ захочет минимизировать убытки первым, – пояснил эксперт. – Последний, кто начнет действовать, рискует обанкротиться. ИИ-системы будут наперегонки продавать, требовать возврата кредитов и вызывать массовые изъятия средств. Это усугубит кризис, сформировав порочный круг". Скорость и эффективность искусственного интеллекта означают, что такие кризисы будут быстрыми и глубокими: то, на что раньше уходили дни и недели, может занять часы или даже минуты.

Хотя опрошенные "НГ" российские эксперты, оценивая эти тенденции и риски, все же предостерегают не только от необоснованной эйфории, но и от чрезмерной паники.

"Технологии искусственного интеллекта еще не заполонили весь мир, но, как оценили зарубежные исследователи, 15% всех компаний мира, которые уже используют ИИ, применяют его в сфере финансовой деятельности и финансовых услуг, и это вторая по доле сфера использования ИИ после IT-сектора (17%)", – сообщила ведущий аналитик компании Freedom Finance Global Наталья Мильчакова. В финансовом секторе ИИ применяется в основном на фондовом рынке для торговли, анализа, выявления случаев мошенничества, помощи в обслуживании клиентов. Он очень востребован институциональными инвесторами, портфельными управляющими, глобальными инвестиционными банками. "Соответственно, финансовые кризисы, которые в будущем могут случиться из-за сбоев ИИ или ошибочно принятых им решений, вполне вероятны", – считает эксперт.

"Однако роботизированная торговля существует уже долгое время. Два HFT-робота сломали фондовый рынок еще в 2010 году, когда стали торговать друг против друга, – рассказал "НГ" начальник отдела изучения и развития ИИ в сфере госуправления Президентской академии Петр Отоцкий. – Их поведение на системном уровне стало непредсказуемым для их собственных разработчиков". (High-frequency trading – высокочастотная торговля; HFT-роботы – специальные программы, позволяющие проводить торговые операции с очень высокой скоростью.)

"Повышение скорости, в том числе скорости развития кризисных ситуаций – следствие цифровизации. В этом смысле возникновение торговых агентов, построенных на больших языковых моделях, не привносит принципиально новых рисков", – считает Отоцкий. Хотя он и признает, что такие агенты ошибаются и галлюцинируют намного чаще, чем обычные алгоритмы.

Но результаты их работы уже сейчас внимательно верифицируются, потому что цена для конкретных компаний, рынков и экономик действительно слишком высока. Так что, как уточнил собеседник издания, за работой ИИ-агентов внимательно наблюдают и сами разработчики, и трейдинговые компании, а за трейдерами, в свою очередь, смотрят финансовые регуляторы.

Впрочем, это вовсе не опровергает тезиса о том, что регулирование должно совершенствоваться вслед за технологиями. "Для минимизации рисков нужны новые регуляторные механизмы, включая "предохранители" (circuit breakers) и обязательный аудит моделей, – считает аналитик "Цифра брокер" Кирилл Климентьев. – Также важен человеческий контроль, чтобы избежать катастрофических последствий". Регулирование важно еще и потому, что уже сейчас дисбалансы заметны и в некоторых других сферах, не только на финансовых рынках.

Например, как ранее писала "НГ", использование агрегированных данных, а также машинного обучения уже сейчас может приводить к ценовым сговорам на торговых рынках, в том числе на маркетплейсах, торгующих товарами повседневного спроса. И что самое удивительное, это может происходить даже тогда, когда у конкретных компаний нет такой цели.

"Алгоритмы способствуют росту и координации рыночных цен даже при отсутствии картельного намерения самих фирм. Машинное обучение и искусственный интеллект работают как эффективный картельный механизм, отыскивая наиболее прибыльные ценовые и количественные решения для участников рынка", – сообщила в своем исследовании профессор Московского государственного университета им. М.В. Ломоносова Надежда Розанова (см. "НГ" от 05.02.25). Итогом улучшения эффективности поставщиков становится по факту постепенное общее увеличение цен для потребителей.