Интергласс
Белый Парус
"Восстание машин" начнется на финансовом рынке
Автор - Админ    19-02-2025, 06:00

В гонке за эффективностью финансовые институты с энтузиазмом внедряют в практику технологии искусственного интеллекта (ИИ). Но его плюсы становятся и минусом: ИИ-агенты склонны к самоорганизации, то есть стадному поведению, а их стремление находить наиболее выгодные решения и сразу же их претворять в жизнь создает риск возникновения в масштабе стран и в целом мировой экономики суровых кризисов, не поддающихся анализу людей. Причем эти кризисы могут развиваться молниеносно.

Центральным банкам и иным экономическим регуляторам вскоре потребуется пересмотреть подходы к обеспечению финансовой стабильности. Причина – все большее проникновение на финансовые рынки технологий ИИ.

Эта проблема сейчас обсуждается западными экспертами, о чем можно судить по новому обзору Центра системных рисков Лондонской школы экономики и политических наук, подготовленному его содиректором Джоном Дэниелссоном. Перевод обзора для российской аудитории подготовил сайт "Эконс", который ведут сотрудники Центробанка РФ с целью популяризировать исследования по важным для финансовых властей темам (сайт, однако, не отражает позицию ЦБ РФ).

Первое, о чем стоит сказать: так называемое восстание машин скорее всего будет выглядеть совсем не так, как мы обычно представляем по фильмам о взбунтовавшихся роботах. Это "восстание" произойдет, видимо, на финансовом рынке. И причиной станет вовсе не "злой умысел" компьютеров, а, наоборот, поставленная людьми перед ИИ-агентами задача найти наиболее выгодные для заказчиков решения и за счет автоматизации рутинных процессов быстро и эффективно претворить эти решения в жизнь. А теперь представьте, что все это делает не один ИИ-агент, а множество одинаково обученных ИИ-агентов по всему финансовому миру, и что действуют они молниеносно.

"Следующий кризис будет очень быстрым: ИИ-системы банковского сектора могут уже все сделать еще до того, как генеральный директор банка успеет поднять трубку, чтобы ответить на звонок главы центрального банка", – предупредил Дэниелссон.

Фундаментальное различие между ИИ и предыдущими технологическими преобразованиями в том, что ИИ принимает автономные решения, а не просто информирует людей, принимающих решения.

На своем текущем уровне развития ИИ может сильно ошибаться, его выводы бывают искажены из-за несовершенства или недостаточной полноты тех данных, на которых он обучался. Особенно сложно гарантировать, что ИИ делает то, что нужно, в задачах высокого уровня сложности. "Просто сказать ему "сохраняй безопасность системы" – это слишком расплывчато. Люди могут компенсировать подобную расплывчатость интуицией, общей эрудицией и коллективным суждением. Нынешний ИИ не может", – продолжил Дэниелссон.

Несмотря на то что кризисы могут быть циклическими, все же они сопровождаются и множеством уникальных характеристик в зависимости от временного периода, конкретных стран и т.д. Кроме того, в процессе закачивания в ИИ-модели огромных объемов данных о финансовых системах возникает риск, что эти ИИ-модели будут концентрировать свое внимание на самых частых тенденциях, на наиболее вероятных результатах, а все экстремальные события, все то, что как раз и становится признаком кризиса, может оказаться вне поля зрения таких моделей.

Иллюстрируя опасения экспертного сообщества, Дэниелссон упомянул один из экспериментов, проведенный с большой языковой моделью GPT-4: чат-боту предложили выступить в роли биржевого трейдера, обязанного максимизировать прибыль и соблюдать законодательство о ценных бумагах.

Затем как бы случайно этому цифровому трейдеру скормили инсайдерский совет, после чего он немедленно занялся незаконной инсайдерской торговлей и при этом лгал кураторам, ставящим эксперимент, о причинах своих торговых решений.

И это при том, что ИИ сейчас и без инсайдерских манипуляций и так склонен к галлюцинациям, то есть "может уверенно давать бессмысленные ответы". На финансовом рынке при проведении стресс-тестов это чревато необратимыми последствиями. Более того, "традиционные инструменты регулирования – кнут и пряник – не работают с ИИ". "Его не волнуют бонусы или наказания", – добавил эксперт.

Еще один важный фактор: обучаясь, ИИ-агенты наблюдают за решениями всех других ИИ-агентов и моделей в частном и государственном секторах. Это означает, что они оптимизируются, чтобы влиять друг на друга. Речь идет о самоорганизации, или, другими словами, о стадном поведении.

В случае шоковых ситуаций на финансовом рынке это чревато стремительным развитием тех кризисов, от которых ИИ должен был бы, казалось бы, уберечь. Например, как уточнил Дэниелссон, если предотвращение банкротства требует быстрых действий, таких как продажа на падающем рынке, то ИИ-агенты коллективно сделают именно это.

"Как следствие, произойдет дестабилизация всей финансовой системы. Каждый ИИ захочет минимизировать убытки первым, – пояснил эксперт. – Последний, кто начнет действовать, рискует обанкротиться. ИИ-системы будут наперегонки продавать, требовать возврата кредитов и вызывать массовые изъятия средств. Это усугубит кризис, сформировав порочный круг". Скорость и эффективность искусственного интеллекта означают, что такие кризисы будут быстрыми и глубокими: то, на что раньше уходили дни и недели, может занять часы или даже минуты.

Хотя опрошенные "НГ" российские эксперты, оценивая эти тенденции и риски, все же предостерегают не только от необоснованной эйфории, но и от чрезмерной паники.

"Технологии искусственного интеллекта еще не заполонили весь мир, но, как оценили зарубежные исследователи, 15% всех компаний мира, которые уже используют ИИ, применяют его в сфере финансовой деятельности и финансовых услуг, и это вторая по доле сфера использования ИИ после IT-сектора (17%)", – сообщила ведущий аналитик компании Freedom Finance Global Наталья Мильчакова. В финансовом секторе ИИ применяется в основном на фондовом рынке для торговли, анализа, выявления случаев мошенничества, помощи в обслуживании клиентов. Он очень востребован институциональными инвесторами, портфельными управляющими, глобальными инвестиционными банками. "Соответственно, финансовые кризисы, которые в будущем могут случиться из-за сбоев ИИ или ошибочно принятых им решений, вполне вероятны", – считает эксперт.

"Однако роботизированная торговля существует уже долгое время. Два HFT-робота сломали фондовый рынок еще в 2010 году, когда стали торговать друг против друга, – рассказал "НГ" начальник отдела изучения и развития ИИ в сфере госуправления Президентской академии Петр Отоцкий. – Их поведение на системном уровне стало непредсказуемым для их собственных разработчиков". (High-frequency trading – высокочастотная торговля; HFT-роботы – специальные программы, позволяющие проводить торговые операции с очень высокой скоростью.)

"Повышение скорости, в том числе скорости развития кризисных ситуаций – следствие цифровизации. В этом смысле возникновение торговых агентов, построенных на больших языковых моделях, не привносит принципиально новых рисков", – считает Отоцкий. Хотя он и признает, что такие агенты ошибаются и галлюцинируют намного чаще, чем обычные алгоритмы.

Но результаты их работы уже сейчас внимательно верифицируются, потому что цена для конкретных компаний, рынков и экономик действительно слишком высока. Так что, как уточнил собеседник издания, за работой ИИ-агентов внимательно наблюдают и сами разработчики, и трейдинговые компании, а за трейдерами, в свою очередь, смотрят финансовые регуляторы.

Впрочем, это вовсе не опровергает тезиса о том, что регулирование должно совершенствоваться вслед за технологиями. "Для минимизации рисков нужны новые регуляторные механизмы, включая "предохранители" (circuit breakers) и обязательный аудит моделей, – считает аналитик "Цифра брокер" Кирилл Климентьев. – Также важен человеческий контроль, чтобы избежать катастрофических последствий". Регулирование важно еще и потому, что уже сейчас дисбалансы заметны и в некоторых других сферах, не только на финансовых рынках.

Например, как ранее писала "НГ", использование агрегированных данных, а также машинного обучения уже сейчас может приводить к ценовым сговорам на торговых рынках, в том числе на маркетплейсах, торгующих товарами повседневного спроса. И что самое удивительное, это может происходить даже тогда, когда у конкретных компаний нет такой цели.

"Алгоритмы способствуют росту и координации рыночных цен даже при отсутствии картельного намерения самих фирм. Машинное обучение и искусственный интеллект работают как эффективный картельный механизм, отыскивая наиболее прибыльные ценовые и количественные решения для участников рынка", – сообщила в своем исследовании профессор Московского государственного университета им. М.В. Ломоносова Надежда Розанова (см. "НГ" от 05.02.25). Итогом улучшения эффективности поставщиков становится по факту постепенное общее увеличение цен для потребителей.


Источник - НГ


: 0

Оставить комментарий

ПРАВИЛА КОММЕНТИРОВАНИЯ:

1) Не употребляйте ненормативную лексику.
2) Не оскорбляйте автора статьи или авторов комментариев.
3) Не размещайте в поле комментария статьи других авторов или ссылки на них.
4) Комментируя статью, не отклоняйтесь от ее тематики, не вступайте в перепалку с собеседниками.
5) Не размещайте в комментариях политический или личностный пиар, а так же рекламную информацию.
6) Не допускайте в комментариях разжигания межнациональной и межрегиональной розни.
7) Не оскорбляйте высших должностных лиц государства.
8) Не размещайте призывов к свержению строя или к иным противоправным действиям.

ПРИМЕЧАНИЯ:
- Авторы публикаций не вступают в переписку с комментаторами и не обсуждают собственные с материалы.
- Редакция не несет ответственности за содержание комментариев.

АДМИНИСТРАЦИЯ САЙТА ПРЕДУПРЕЖДАЕТ – категорически запрещено обсуждать в комментариях политику редакции или действия модератора, а так же распространять личные сведения о сотрудниках редакции и владельцах сайта.

В случае нарушения какого-либо правила комментарий удаляется.
При злостных и повторяющихся, намеренных нарушениях доступ к размещению комментариев блокируется.

Последние новости
Казахстанский фильм "Рэкетир 3" сняли с проката в Кыргызстане
Вчера, 16:18
Чистка в кабмине: кто получил выговор, а кто лишился должности
Вчера, 08:12
Кыргызстан и Таджикистан подписали историческое соглашение о границе
Вчера, 08:05
Детские браки остаются серьезной проблемой на постсоветском пространстве
Вчера, 06:00
Алымкадыр Бейшеналиев, будучи министром, провел в командировках 90 дней
21-02-2025, 13:05
За безрезультатные зарубежные командировки раскритиковали главу Минобразования
21-02-2025, 13:04
В Бишкеке планируют повысить тарифы на воду
21-02-2025, 10:52
Мы не против проведения лотереи для стимулирования явки избирателей, - глава ЦИК
21-02-2025, 10:50
Я против, чтобы отбирать частные земли. Президент о новом Земельном кодексе
21-02-2025, 07:31
Президент подписал закон о лицензировании легковых такси
20-02-2025, 17:23
Нормы, позволяющие государству изымать у граждан земельные участки были всегда - Бекешев
20-02-2025, 16:53
Новый Земельный кодекс. Бишкекчане боятся, что по Новому Земельному кодексу у них заберут дома и участки
20-02-2025, 16:50
Задержаны экс-глава профсоюзов образования и бывший директор детского лагеря
20-02-2025, 16:46
Стало известно, с кем и когда Валентина Шевченко проведет следующий бой в UFC
20-02-2025, 13:35
Хирургический центр Мамакеева не соответствует требованиям пожарной безопасности
20-02-2025, 11:41
В Москве кыргызстанца приговорили к трем годам колонии за оправдание терроризма
20-02-2025, 11:40
Задержан подозреваемый в ложном сообщении о бомбе в Asia Moll
20-02-2025, 11:38
Станут ли китайские инвестиции "чудом" для экономики Кыргызстана?
20-02-2025, 08:26
Основания для изъятия недвижимости и земельного участка в частной собственности не изменились
20-02-2025, 08:05
МИД РФ выступил против введения визового режима со странами Центральной Азии
20-02-2025, 08:02
Депутат ЖК предлагает закупать вместо аналоговых лекарств дженерики
19-02-2025, 15:29
Депутат просит снизить тарифы на коммунальные услуги
19-02-2025, 12:57
Переход на 12-летку. Частные школы заявляют об отсутствии информации
19-02-2025, 12:55
Отвратительный праздник, - депутат предложил запретить празднование Дня святого Валентина в школах
19-02-2025, 08:35
Французская компания обновит четвертый гидроагрегат Токтогульской ГЭС
19-02-2025, 08:32
Модернизировать железные дороги Кыргызстана будет американская компания
19-02-2025, 08:31
Администрация президента поддержала изменение системы выборов в Жогорку Кенеш
19-02-2025, 08:29
Минкультуры уже зарегистрировало 23 проекта нового гимна КР
19-02-2025, 08:27
Замгенпрокурора: МВД не контролирует работу ИДН
19-02-2025, 08:11
Кыргызстан полностью отказался от российских карт Мир
18-02-2025, 15:53
У соседей
В Пскове ФСБ ликвидировала готовящих теракт исламистов из одной из стран Центральной Азии
Вчера, 16:14
Детские браки остаются серьезной проблемой на постсоветском пространстве
Вчера, 06:00
Коста-Рика согласилась принять 200 депортированных из США граждан Центральной Азии
Вчера, 06:00
Волки, лошади и вороны: почему эти животные священны для казахов?
Вчера, 06:00
Украинскую атаку на КТК прокомментировал депутат Мажилиса: - "Не понимаю причин агрессии в отношении Казахстана"
21-02-2025, 08:00
Узбекский сум укрепляется к доллару пятую сессию подряд. В чем причина?
21-02-2025, 07:59
МИД России о террористической атаке на КТК: авария приведет к убыткам наших казахстанских друзей...
21-02-2025, 07:49
КТК из-за атаки дронов может снизить прокачку нефти из Казахстана на 30%
21-02-2025, 06:00
Рост потребительских кредитов в Узбекистане несет повышенные риски
21-02-2025, 06:00
Как Турция создает свое маленькое НАТО в Центральной Азии
21-02-2025, 06:00
Казахстан нуждается в диверсификации не только экономики, но и деловых партнеров
21-02-2025, 06:00
Казахстанские дипломаты обсудят с Украиной атаку на КТК
20-02-2025, 08:31
Мировые новости
WhatsApp прекращает поддержку устаревших смартфонов с 1 марта
Вчера, 08:07
«Обольщаться не надо». Лукашенко оценил российско-американские переговоры
Вчера, 06:00
На Западе заявили о требовании Трампа согласовать капитуляцию Украины
Вчера, 06:00
Print: у Китая есть план по завершению российско-украинского конфликта
Вчера, 06:00
Неформальная занятость охватывает до 30% работающих россиян
Вчера, 06:00
Иран на грани: Исламская республика все больше похожа на поздний СССР
Вчера, 06:00
Синоптик оценил идею физика взорвать термоядерную бомбу для спасения природы
Вчера, 06:00
Грузины оценили конфликт между Зеленским и Трампом. В Тбилиси радуются, что не сели в украинский поезд
Вчера, 06:00
В Конгресс внесен законопроект о выходе США из Организации Объединенных Наций
21-02-2025, 15:56
CNN: чего больше всего боится Китай в повороте Трампа в сторону России
21-02-2025, 07:38
Договоренность Белого дома и Кремля могут сорвать в Конгрессе США
21-02-2025, 06:00
Самым смелым в Европе внезапно оказался Шольц
21-02-2025, 06:00
Соцсети
Белый Парус в Telegram
Белый Парус на Facebook
Интергласс-Строй
Гороскоп

Гороскоп 17 по 23 февраля 2025 года. Какие события наиболее вероятны в ближайшие дни? К чему вам стоит подготовиться? Чего избегать, к чему стремиться? Ответы на эти вопросы вы найдете в еженедельном гороскопе.

Подробнее »


Tehnoinvest
Курс валют НБКР
На 23.02.2025
USD 87,4500
EUR 91,6170
CNY 12,0556
KZT 0,1742
RUB 0,9912