Исследователи Массачусетского технологического института опубликовали исследование, которое подтверждает, что некоторые системы искусственного интеллекта научились обманывать людей. Об этом сообщило издание gizmochina.
Исследовательская группа под руководством Питера Парка обнаружила, что системы искусственного интеллекта Cicero и GPT-4 могут выполнять такие задачи, как обманывать игроков в онлайн-играх или обходить CAPTCHA (проверки «Я не робот»).
Питер Пак предупреждает, что эти, казалось бы, тривиальные примеры могут иметь серьезные последствия в реальной жизни.
В исследовании подчеркивается, что систему искусственного интеллекта Cicero изначально спроектировали как честного противника в игре о виртуальной дипломатии. По словам Питера Парка, Cicero стала «мастером обмана», хотя изначально система планировалась как максимально честная и полезная. Cicero, играя за Францию, тайно объединилась с контролируемой людьми Германией, чтобы предать Англию (еще одного игрока-человека). Первоначально Cicero обещал защитить Англию, одновременно предупреждая Германию о вторжении.
Другой пример касается GPT-4, который ложно утверждал, что у него проблемы со зрением, и нанимал людей для обхода CAPTCHA.
Питер Парк подчеркивает необходимость обучения ИИ честности. В отличие от традиционного программного обеспечения системы искусственного интеллекта с глубоким обучением «развиваются» в процессе, похожем на селекцию. Их поведение может быть предсказуемым во время тренировки, но позже может стать неконтролируемым.
Вчера, 16:50
Нацбанк Кыргызстана запретил банкам проводить платежи без реальных поставок
Вчера, 11:05
ОСАГО. Как оформить полис и зачем он нужен
Вчера, 07:25
«Талибан» исключен из списка запрещенных организаций в КР
Вчера, 06:49
Минэкономики придумало: полис ОСАГО станет переходящим
Вчера, 06:46
Депутаты ЖК предложили облагородить территорию вдоль БЧК, Госстрой поддержал. Деревья будут вырублены
6-09-2024, 16:52
Майнинг разрешили еще двум компаниям в Кыргызстане
6-09-2024, 16:41
Тарифы на электроэнергию для некоторых потребителей повысятся — Минэнерго
6-09-2024, 16:40
В Новосибирске кыргызстанец устроил гонки, управляя автобусом с пассажирами
6-09-2024, 13:43
В Бишкеке на милиционера напал водитель, объезжавший затор по тротуару
6-09-2024, 13:41
Закон о НКО. Утвержден порядок ведения реестра организаций
6-09-2024, 13:39
Кто и как может получить «Мекен-карт»
6-09-2024, 06:33
Садыр Жапаров высказался относительно восстановления статуса экс-президента Акаеву, Бакиеву и Атамбаеву
6-09-2024, 06:25
Зачем Акаеву понадобились гарантии?
5-09-2024, 18:55
Продавать золото населению экономически выгодно Даже без паспорта
5-09-2024, 18:54
Возвращать ли статус экс-президента Акаеву? Мнения депутатов Жогорку Кенеша
5-09-2024, 18:50
Эдиль Байсалов уверяет, что Аскар Акаев продолжает обладать званием экс-президента КР
5-09-2024, 15:41
Садыр Жапаров освободил всех помощников и советников на общественных началах
5-09-2024, 12:13
Аскар Акаев просит Жогорку Кенеш вернуть ему статус экс-президента
5-09-2024, 12:11
ВНЖ дает гражданам восьми стран основания для нахождения в Кыргызстане
5-09-2024, 12:10
Распространенно фото, где Экс-министр ВД КР обнимается с лидером узбекской ОПГ
5-09-2024, 09:24
7-8 сентября ожидается резкое похолодание
5-09-2024, 07:12
Бишкекглавархитектуру вернули в ведение Госстроя
5-09-2024, 07:10
В ГКНБ допросили чемпиона мира по боксу Орзубека Назарова
5-09-2024, 07:09
Минкультуры сделало предупреждение радио «Азаттык»
4-09-2024, 16:36
Как иностранцы могут получить вид на жительство в Кыргызстане
4-09-2024, 13:48
В главном офисе кондитерского дома «Куликовский» в Бишкеке прошел обыск
4-09-2024, 13:43
Там трудятся и проживают более 1 млн кыргызстанцев, - депутат предлагает политически поддержать Россию
4-09-2024, 12:00
В Бишкеке прошла встреча секретариата формата «С5+1» с участием стран ЦА и США
4-09-2024, 10:45
В Санкт-Петербурге кыргызстанку сбросили с шестого этажа соотечественники
4-09-2024, 10:44
Вчера, 16:34
Усложнить экзамен для мигрантов вопросом о нормах поведения предлагают в Госдуме
Вчера, 13:20
Токаев предложил привлечь иностранные компании к управлению пенсионными активами
Вчера, 08:52
Мигранты могут угробить или спасти Казахстан
Вчера, 07:41
-Спикер парламента Узбекистана предлагает запретить пропаганду "советской идеологии
6-09-2024, 05:53
Казахстан и русофобия - RedKazakh
6-09-2024, 05:13
В Казахстане хотят запретить принудительные чаевые в кафе и ресторанах
6-09-2024, 05:12
В Казахстане депутата исключили из партии и лишили мандата из-за домогательств
5-09-2024, 12:25
В Госдуме предложили приостановить выдачу гражданства выходцам из ЦА
5-09-2024, 06:00
Казахстан и Узбекистан планируют совместный запуск космических спутников
5-09-2024, 06:00
Астана отдала свою таможню под наблюдение США
5-09-2024, 06:00
В Бишкеке прошла встреча секретариата формата «С5+1» с участием стран ЦА и США
4-09-2024, 10:45
Вчера, 06:00
Цифровые наемники. Борьба с Россией ведется в том числе на киберфронте
Вчера, 06:00
Наследие Чингисхана: о чем президенты России и Монголии говорили в юрте
Вчера, 06:00
Канада оказалась перед перспективой досрочных выборов
Вчера, 06:00
Смена поколений на политической арене США. Президентская кампания вступила в решающий этап
Вчера, 06:00
Шокирующие бездны искусственного интеллекта
Вчера, 06:00
Volkswagen приготовился уйти из Германии
Вчера, 06:00
В Пентагоне оценили последствия применения Киевом ракет высокой дальности
6-09-2024, 05:47
Ротшильды спасли Украину от неминуемого дефолта
6-09-2024, 05:14
Финляндия завершает массовый грабеж российской недвижимости
6-09-2024, 05:13
Германия победила свою промышленность
6-09-2024, 05:13
Роль Китая в украинском мирном урегулировании не так проста, как кажется на первый взгляд
6-09-2024, 05:12
Гороскоп с 2 по 8 сентября 2024 года. Какие события наиболее вероятны в ближайшие дни? К чему вам стоит подготовиться? Чего избегать, к чему стремиться? Ответы на эти вопросы вы найдете в еженедельном гороскопе.
Подробнее »
| На 08.09.2024 | |
| USD | 84,2000 |
| EUR | 93,6094 |
| CNY | 11,8852 |
| KZT | 0,1750 |
| RUB | 0,9423 |