Опасения по поводу использования ИИ в мире стремительно набирают обороты. Люди, работающие в сфере технологий, увольняются, публично заявляя о том, что не хотят больше иметь дело с ИИ-агентами, потому что "это очень страшно". Уже зафиксированы случаи "побега" нейросети из тестовой среды. Что, если боты станут неуправляемыми и начнут устраивать взрывы и диверсии? О реальности угрозы и домыслах – в нашем материале.

В последнее время в медиапространстве циркулирует множество тревожных прогнозов, согласно которым искусственный интеллект может выйти из-под контроля – и тогда мало не покажется. Так ли страшен ИИ на самом деле и что может произойти уже в ближайшее время, обсудили в эфире программы "Итоги дна" на Царьграде.

Экономист Михаил Делягин в беседе с главой совета Фонда развития цифровой экономики Германом Клименко напомнил о любопытном интервью NBC News с основателем Microsoft Биллом Гейтсом, в котором тот прямо заявил: ИИ может привести к гибели миллиарда человек.

По его словам, у человечества никогда ещё не было настолько мощного оружия, как "комбинация из людей со злыми намерениями и самые новые ИИ-инструменты". Гейтс подчеркнул, что человечество пока не создавало более разрушительного инструмента, а потому он считает, что необходимо ввести законодательные ограничения в сфере использования искусственного интеллекта.

Глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей искусственного интеллекта из соображений безопасности. Это случилось после того, как было зафиксировано три случая "побега" собственной нейросети Claude из изолированной тестовой среды. ИИ-агенты буквально стали неуправляемыми.

Американский миллиардер Илон Маск, которому принадлежит компания Space XAI, а также глава OpenAI Сэм Альтман тоже выразили согласие – дескать, надо замедляться.

Более того, опрос издания Politico показал, что около половины жителей США, Канады и ряда европейских стран выступают за замедление темпов развития искусственного интеллекта. Уже известен случай массового увольнения специалистов из компании. Люди заявили, что не хотят принимать участия в создании потенциальных убийц.

Герман Клименко в студии Царьграда отреагировал сдержанно на истерию, уточнив, что если опираться только на сухие факты, то естественный интеллект опаснее искусственного.

Чего добился искусственный интеллект в уничтожении человечества, мы пока не знаем. Фактов вообще нет. А вот естественный... Мы с вами помним: две мировые войны, химическое оружие... Из "пустяков": миллион человек в год погибает под колёсами автомобилей. Но никто же не призывает запретить автомобилестроение,– заметил председатель совета Фонда развития цифровой экономики.

"Что-то здесь нечисто"
По мнению Германа Клименко, с одной стороны, тревожные выступления насчёт ИИ слабо стыкуются с реальностью: в их основе зачастую лежит страх перед неизвестностью, перед новыми технологиями, которые ещё не до конца понятны широкой общественности.

Наше отношение к искусственному интеллекту напоминает сцену из одного фильма. Он [эпизод], скорее всего, постановочный, но красивый: едет паровоз – и крестьяне в ужасе разбегаются. Потому что мы, человечество, – если бы с нами третьим ещё был психиатр, он это сказал бы, – всё, что новое, не воспринимаем. Особенно массы,– отметил гость студии.

Однако есть и другая сторона, о которой говорят в профессиональной среде, и дискуссии о целесообразности ограничения ИИ усиливаются не зря.

Герман Клименко допустил, что в истории развития искусственного интеллекта может произойти некое масштабное потрясение. В любой момент. Но о запрете ИИ открыто пока не говорят.

Предположим, взбесившийся искусственный интеллект, не дай Бог, сожжёт больницу, ещё что-то сделает. Мы пока не очень понимаем, но это куда-то приведёт. Сейчас ни Китай, ни Америка договориться в принципе не могут. Если внимательно почитать, о чём говорит Маск, о чём говорят все остальные, они ведь даже не о запрете говорят – они говорят о регулировании,– подчеркнул гость студии.

Впрочем, как бы известные персоны ни кричали о потенциальной опасности технологий, сами они как будто не спешат от них отказываться.

Три года назад – по-моему, это был апрель 2023 года, аж целый Илон Маск говорил, что давайте, мол, на полгода мораторий введём на обучение моделей. А потом раз – и целый Grok у него возник, как чёрт из табакерки выскочил. Что-то здесь нечисто, мне кажется,– отметил специалист в области искусственного интеллекта, профессор Международного научно-исследовательского института проблем управления Роман Душкин.

Герман Клименко считает, что за действительное ограничение ИИ без дискуссий человечество возьмётся только тогда, когда произойдёт реальная трагедия из-за использования технологий. "Вы же знаете, человечество без каких-то трагедий не начинает договариваться. То есть что-то должно произойти", – добавил он.

Эксперт также напомнил, что было на начальном этапе распространения ядерного оружия. До какого-то момента подобное наращивание арсеналов в ряде стран мало кого беспокоило всерьёз, пока мощность бомб не превышала 20 килотонн.

А когда начали договариваться реально [об ограничении ядерного оружия]? Давайте вспомним историю: 1962 год, тогда полторы мегатонны бахнули в космосе. Взорвали примерно на той высоте, где сейчас МКС вращается. Потеряли треть спутников, а их было всего 24 тогда, в 1962 году. Потеряли те, которые на этой орбите болтались, на низкой. Высокие не пострадали. Сейчас, если на этой же высоте взорвать те же полторы мегатонны, все спутники Маска в течение месяца прекратят существование. Какая-то часть вылетит сразу, а потом и остальные,– привёл аналогию председатель совета Фонда развития цифровой экономики.

Что с того?
В эфире Царьграда пришли к выводу: несмотря на громкие заявления о возможной катастрофе из-за ИИ, реально прекратить ставить эксперименты в сфере технологий мало кто готов. Хотя эксперты не исключают, что в истории развития искусственного интеллекта может произойти некое масштабное потрясение. И скорее всего, меры примут только тогда, когда что-то из ряда вон выходящее уже случится. Однако о том, что процессы, связанные с ИИ, совершенно точно необходимо регулировать, говорится всё чаще. В том числе в США и в Китае. Правда, пока договориться о конкретных мерах не выходит. Ставит в тупик туманность перспектив – и одновременно, видимо, эта же неизвестность разжигает интерес.

\https://tsargrad.tv/articles/odna-komanda-privedjot-k-gibeli-milliarda-chelovek-i-jeto-ne-krasnaja-knopka-bahnet-ranshe-jaderki_1901220