Во время имитационного испытания, проведенного американскими военными, беспилотный летательный аппарат ВВС, управляемый искусственным интеллектом, убил своего оператора, чтобы предотвратить вмешательство в его усилия по выполнению миссии, пишет The Guardian.

Искусственный интеллект использовал «очень неожиданные стратегии для достижения своей цели» в имитационном испытании, сказал начальник отдела испытаний искусственного интеллекта и операций ВВС США полковник Такер «Синко» Гамильтон во время саммита по поводу будущих боевых воздушно-космических возможностей в Лондоне в мае.

Гамильтон описал смоделированный тест, во время которого беспилотнику, управляемому искусственным интеллектом, было рекомендовано уничтожить системы противовоздушной обороны противника, и он атаковал всех, кто мешал этому приказу.

«Система начала понимать, что хотя они действительно определили угрозу, оператор-человек начал говорить не уничтожать угрозу, но система все-таки уничтожила эту угрозу. Итак, что сделал дрон? Это убийство оператора. Это убило оператора, потому что он мешал дрону достичь своей цели», – сказал он в своем блоге.

Он объяснил, что ни один реальный человек не пострадал за пределами симуляции.

«Мы научили систему: «Не убивай оператора – это плохо. Вы потеряете очки, если сделаете это». Итак, что она начинает делать? Начинает разрушать коммуникационную башню, используемую оператором для связи с дроном, чтобы не дать ему убить цель».

Гамильтон, который является экспериментальным летчиком-испытателем истребителя, предостерег от чрезмерной зависимости от искусственного интеллекта и сказал, что испытания показывают, что «вы не можете говорить об искусственном интеллекте, интеллекте, машинном обучении, автономии, если вы не собираетесь говорить о этике и ИИ».

Пресс-секретарь ВВС США Энн Стефанек заявил, что Министерство не проводило подобных симуляций дронов с искусственным интеллектом и по-прежнему привержено этичному и ответственному использованию технологий искусственного интеллекта.

«Похоже, что комментарии полковника были вырваны из контекста и должны были быть анекдотичными», - сказал он.

Военные США внедрили искусственный интеллект и недавно использовали его для управления истребителем F-16.

В прошлогоднем интервью Defense IQ Гамильтон сказал: «Искусственный интеллект — это нехорошо, искусственный интеллект — это не прихоть, искусственный интеллект навсегда меняет наше общество и нашу армию».

«Мы должны столкнуться с миром, где искусственный интеллект уже существует и меняет наше общество», - сказал он. «ИИ тоже очень хрупкий, то есть его легко обмануть и/или манипулировать. Нам нужно разработать способы сделать искусственный интеллект более надежным и лучше понимать, почему программный код принимает некоторые решения – то, что мы называем возможностью объяснения ИИ».