Прошел год с того момента, как ведущие разработчики в области генеративного искусственного интеллекта (ГИИ) обратились к мировому сообществу с призывом приостановить разработки сложнее, чем GPT-4. Особенно интересно, что среди подписавших этот документ были ведущие деятели, работавшие и продвигавшие идеи ИИ. Например, Илон Маск.

Миллиарды на процессор

Однако прошедший год в очередной раз показал, что идеалистические призывы приостановить работы или всем миром вместе создавать один общий ИИ ни к чему не приводят и не находят отклика, на который обычно рассчитывают авторы обращений. Напротив, такое ощущение, что призыв остановить работы в области ГИИ только подстегнул интерес ведущих государств к разработке собственных систем искусственного интеллекта и мир вступил в эру их конкурентного развития.

Это естественный процесс, и остановить его простыми призывами невозможно. Как писал академик Владимир Вернадский: "Научная мысль как проявление живого вещества, по существу, не может быть обратимым явлением – она несет в себе возможность неограниченного развития в ходе времени". Чему мы и стали свидетелями на примере развития работ в области ГИИ.

И здесь выявилось, что его создание "по зубам" только экономически и технологически сильным государствам. И хотя это было очевидно и ранее, но начавшаяся гонка по созданию частных и национальных ГИИ высветила нехватку вычислительных мощностей, для которых необходимо колоссальное количество чипов для графических процессоров, единственно справляющихся с вычислениями больших языковых моделей. Это выдвинуло компанию Nvidia, создающую лучшие такие процессоры, на передовые позиции, а тайваньскую компанию TSMC, производящую эти чипы, сделало стратегическим предприятием в мировом масштабе со всеми вытекающими последствиями соперничества США и Китая. Это делает судьбу этого предприятия весьма шаткой.

О том, что это значит, можно судить по высказыванию Илона Маска, который, приобретя почти 10 000 графических процессоров для собственной разработки ГИИ, заявил: "Графические процессоры на данный момент достать значительно труднее, чем запрещенные вещества". Это притом, что стоимость таких процессоров доходит до 40 тыс. долл. за штуку, а разрабатываемый Маском ГИИ предполагает комплектацию из 100 тыс. таких процессоров. Все разработчики таких систем вынуждены жестко конкурировать друг с другом за процессоры.

Но не только процессоры являются полем для конкуренции. Еще более серьезным является доступ к данным информационных, научных и социальных сетей, которые, собственно, и определяют эффективность ГИИ. Последнее обстоятельство важно тем, что, как показала эксплуатация существующих систем генеративного искусственного интеллекта, их эффективность повышается с увеличением количества используемых источников информации, доходящих до сотен миллиардов и стремящихся к триллионам. Следовательно, в стремлении выиграть гонку ГИИ государственные и частные источники информации будут либо ограничивать доступ к своим сетям, либо переводить их на коммерческую основу. Это уже и происходит.

Компания Open AI отказалась от своей некоммерческой сущности, а Маск, вышедший из учредителей этой компании, закрыл им доступ к данным своей сети Х (Twitter). Очевидно, что этот процесс вскоре затронет все государства и частные организации, развивающие собственные системы ГИИ. К этому надо быть готовым, создавая свои социальные информационные сети и, главное, научные базы данных, вступая в кооперацию с дружественными странами по этим вопросам, развивая свои технологии и исследования во всех областях, связанных с созданием ГИИ.

Очевидно также, что противоборство между государствами с генеративным искусственным интеллектом породит проблему массовой фейковой информации в социальных и информационных сетях. Цель понятна: затруднить работу конкурирующих ГИИ, а последствия – закрытие доступных баз данных.

Разум и интеллект

Очевидно, что ИИ – это магистральный путь человечества, так как потенциально открывает совершенно новые возможности развития. Но до создания единого мощного и адекватного ИИ предстоит долгий путь конкурентной борьбы. Как писал В.И. Вернадский: "Разум есть преходящее проявление высших форм жизни… Им не может явиться человеческий мозг. Человек не есть венец творения… Homo sapiens не является обладателем совершенного мыслительного аппарата".

С этим его высказыванием трудно не согласиться. Так что, может быть, ГИИ и является тем "проявлением высшей формы жизни", обещающей развитие и процветание Природы. И здесь возникает вопрос: а разумен ли ИИ?

В 1969 году академик Николай Амосов в книге "Искусственный разум" писал: "Что такое разум? Ответить на этот вопрос непросто. Пожалуй, способность целесообразно реагировать на сложную внешнюю обстановку".

В свою очередь, академик Никита Моисеев в книге "Экология человечества глазами математика" отмечал: "Разуму свойственны свои законы. Он обладает волей, он способен к целенаправленной деятельности, не только к сохранению самого себя. Но и к саморазвитию… Разум способен формулировать свои законы, точнее – свои правила поведения, которые суть следствие его целенаправленных усилий".

Действительно, разнообразие живой Природы, где царит разум, поражает. Но есть все же две характеристики, которые объединяют все живое, – размножение и движение, направленное на поддержание своей жизни. Если ограничиться только этими основными функциями, то все наблюдаемое биологическое разнообразие можно отнести к разумным формам материи. Не важно, биота ли микроорганизмов внутри человека или сам человек, но с этой точки зрения это все разумные формы материи.

Можно заметить, что существуют коллективные формы разума, как, например, поведение той же биоты или человеческих сообществ. Объединяя все живое таким образом, все разнообразие флоры и фауны можно отнести к разумным формам материи. Однако в Природе мы наблюдаем намного более сложные действия, выходящие за рамки этих двух основных функций живого организма. Это позволяет все разнообразие этих действий отнести к проявлениям интеллекта, и чем сложнее функционирование за рамками размножения и поддержания жизни объекта Природы, тем выше интеллект этого объекта.

Проявления интеллекта у разумной материи неизбежны тогда, когда нарушаются стабильные условия существования. Для разумной материи это означает, либо необходимость приспособления к новым условиям, либо гибель. Чем резче изменяются условия существования, тем жестче требования к интеллекту, и, таким образом, идет отбор наиболее интеллектуальных особей. Это ведет к развитию живой материи и показывает, что кризисы необходимы для развития популяций, но несут гибель отдельным членам популяции.

Таким образом, интеллект играет важнейшую роль в развитии и существовании живой материи. Однако основные функции – движение для поддержания своего существования и размножение – остаются определяющими характеристиками, разделяющими материю на разумную и костную формы. Значение живой материи состоит в том, как писал Вернадский, что "живое вещество является носителем и создателем свободной энергии. Эта свободная энергия – биогеохимическая энергия – охватывает всю биосферу и определяет ее историю. Она меняет миграцию химических элементов, строящих биосферу, и определяет ее геологическое значение".

Движение для существования и размножение – основные условия для того, чтобы отнести объект к живой материи. Действительно, например, электроавтомобиль, оснащенный ИИ, узнает водителя, слушает команду и движется автономно по маршруту, может ответить на вопрос, доставить до места, встать на подзарядку… Но при всех интеллектуальных функциях у него нет главного – способности к размножению, к созданию себе подобных, что сразу переводит его в разряд неживой материи. С другой стороны, человек с тяжелым поражением головного мозга, может выполнять действия по поддержанию основных жизненных функций, размножаться, но не осознавать окружающую обстановку из-за отсутствия интеллекта. Относясь полностью к разумной форме материи, пример такого человека показывает, что интеллект играет ключевую роль для Homo sapiens.

Разум ГИИ

В ходе дискуссии "Great AI Debate" Илон Маск отметил, что потенциал ИИ стоит того риска, о котором все говорят, даже если эта технология может выступить против человечества. Он так оценил ситуацию: "Я думаю, что есть некоторый шанс, что искусственный интеллект положит конец человечеству… Это 10–20% или около того". Таким образом, даже не представляя точно, как это может произойти, многие оценивают ситуацию как потенциально опасную, приписывая ГИИ возможность злого умысла против человечества.

Однако остается вопрос: а как это возможно? Да, вербальные контакты с ГИИ показывают высокий уровень его интеллекта и большой творческий потенциал. Но его никак невозможно отнести к разумной форме материи, так как нет ни движения с целью сохранения и продолжения существования, ни возможности размножения. То есть ГИИ – это машина, такая же опасная, как автомобиль на дороге, где ежегодно погибают десятки тысяч человек под управлением тех же людей, управляющих автомашинами. Так же как и запускаемые тем же человеком беспилотники с так называемым искусственным интеллектом, выискивающие объект, чтобы погибнуть вместе с ним. Все это машины и только машины под управлением человека.

На свете много опасных и полезных машин, приносящих гибель людям, но от этого человечество не погибает и, как это ни кажется странным, только развивается. Следовательно, создание и развитие ГИИ в настоящее время не несет в себе реальной угрозы. А что несет такую угрозу?

Может показаться, что нет ничего страшного от создания систем генеративного искусственного интеллекта, конкурирующих друг с другом. Но это не так. Уже появилась технология, несущая не только решение трудных ситуаций у людей, но и явную, и реальную угрозу человечеству.

Реальная угроза

Самая большая опасность исходит от человека, который может быть больше всех говорит об опасности ГИИ, от Илона Маска. Создав в 2016 году компанию Neuralink для разработки оборудования по внедрению в мозг человека чипа и электродов, предназначенных для взаимодействия с мозгом, он добился серьезных успехов. Первый полностью парализованный пациент уже соединил по bluetooth свой мозг с компьютером, что позволило ему концентрацией мысли двигать фигуры в шахматной игре. Это только первый, но очень значительный шаг в долгом пути соединения возможностей ГИИ и человека.

Переход от экспериментов с животными к вживлению электродов в мозг человека обозначило ту грань, переход которой означает, что человечество вошло в новую эру – постепенного создания суперчеловека под управлением ГИИ – Super Homo sapiens (SHS).

Полное соединение человека с ГИИ автоматически переводит эту систему в разряд живой материи. У генеративного искусственного интеллекта появляется возможность через SHS управляемого движения и, возможно, даже контролируемого размножения SHS для использования их в деле создания новых ГИИ. Контроль над мозгом человека, а следовательно, и за его действиями перейдет полностью к ГИИ. А отдельный человек под управлением ГИИ, интеллектуально превзойдет любого представителя Homo sapiens.

Если вдуматься, то ведь и у человека мозг – это неподвижный орган, управляющий движениями тела, мыслями и действиями, и именно он ответственен за последствия этих действий, потребляя, кстати, при этом больше всего энергии. В момент, когда будет решена проблема автономного коммуникативного взаимодействия мозга человека и ГИИ, можно будет говорить, о появлении SHS и вступления Природы на новый уровень развития.

Этот процесс не остановить никакими запретами и действиями – слишком большие преимущества появляются как у отдельной личности (SHS), так и у тех, кто владеет ГИИ. У них появляется возможность формировать своих адептов, подчиненных прямому воздействию ГИИ. Вот здесь наличие множества ГИИ государственного и частного характера может сыграть трагическую роль в судьбе человечества.

Очевидно, что действия SHS-адептов будут решительными и жесткими, ведь самому ГИИ ничего не угрожает, а в приоритете эффективность прежде всего. Кто и как и чей ГИИ окажется самым умелым и эффективным, сейчас трудно представить. Но то, что это потенциально опасно, очевидно. Что это так, человечеству уже пришлось убедиться, когда американский военный дрон под управлением ИИ в ходе экспериментов сначала принял решение об уничтожении оператора, управляющего им, а потом, когда это не удалось, принял решение разрушить коммуникации, чтобы предотвратить действия оператора, так как считал, что это мешает эффективно выполнять поставленную перед ним задачу.

Можно говорить, что это частный случай, который купируется правильным программированием и т.п. Это действительно так, но только в этом частном случае. Однако в случае ГИИ, ощутившем себя в совокупности с SHS или с их группой личностью, это скорее всего не так. Действовать он будет исходя из своего мнимого пространства представлений, сформированных источниками информации и владельцем генеративного искусственного интеллекта. Об этом пространстве в свое время писал русский философ Павел Флоренский. А вот параметры этого мнимого пространства зависят от широты и качества информации, на основе которой и действует ГИИ. Это снова ставит вопрос о контроле источников информации для ГИИ и их влияния на него.

Конечно, до апокалиптического сценария, видимо, еще далеко. Но Neuralink продолжает свои работы, а тысячи нейрофизиологов изучают тонкую структуру и реакции мозга человека, и в конечном итоге инженеры решат проблемы связи и управления и создадут SHS. Это, увы, естественный ход развития, который не остановить. Но пока есть время, следует предпринять шаги для предотвращения движения в потенциально опасном направлении.

Конечно, Маска не затормозить, он добьется совмещения человека с искусственным интеллектом и скорее всего станет триллионером, продавая различное оборудование для создания SHS. Следует при этом признать, что Маск не самый худший вариант, так как действует вполне искренне и эффективно. Но он должен представлять, куда ведут его работы и к чему все это может привести. Об этом надо думать уже сейчас, пока ситуация не вышла из-под контроля.

Представляется, что единый эталонный ГИИ всего человечества под контролем интернациональной группы специалистов – это в определенной степени выход из складывающейся ситуации. Но как к этому прийти в настоящее время, представить просто невозможно. Вероятно, как всегда, человечеству придется заплатить серьезную цену за прогресс в области создания по-настоящему полезного генеративного искусственного интеллекта и правил взаимодействия с ним.