Исследователи Массачусетского технологического института опубликовали исследование, которое подтверждает, что некоторые системы искусственного интеллекта научились обманывать людей. Об этом сообщило издание gizmochina.
Исследовательская группа под руководством Питера Парка обнаружила, что системы искусственного интеллекта Cicero и GPT-4 могут выполнять такие задачи, как обманывать игроков в онлайн-играх или обходить CAPTCHA (проверки «Я не робот»).
Питер Пак предупреждает, что эти, казалось бы, тривиальные примеры могут иметь серьезные последствия в реальной жизни.
В исследовании подчеркивается, что систему искусственного интеллекта Cicero изначально спроектировали как честного противника в игре о виртуальной дипломатии. По словам Питера Парка, Cicero стала «мастером обмана», хотя изначально система планировалась как максимально честная и полезная. Cicero, играя за Францию, тайно объединилась с контролируемой людьми Германией, чтобы предать Англию (еще одного игрока-человека). Первоначально Cicero обещал защитить Англию, одновременно предупреждая Германию о вторжении.
Другой пример касается GPT-4, который ложно утверждал, что у него проблемы со зрением, и нанимал людей для обхода CAPTCHA.
Питер Парк подчеркивает необходимость обучения ИИ честности. В отличие от традиционного программного обеспечения системы искусственного интеллекта с глубоким обучением «развиваются» в процессе, похожем на селекцию. Их поведение может быть предсказуемым во время тренировки, но позже может стать неконтролируемым.
Сегодня, 13:21
На заводе в Канте произошел пожар. На помощь привлекли технику с авиабазы
Сегодня, 13:20
В КР запретили электронные сигареты: закон вступит в силу с июля 2025 года
Вчера, 13:03
Для выявления террористов ГКНБ будет проверять данные о бронировании билетов
Вчера, 13:01
Кыргызстан готовится стать лидером в области искусственного интеллекта, - Акылбек Жапаров
Вчера, 12:59
Свободы слова нет. Есть информационные войны
Вчера, 06:00
Азимбек Бекназаров и Равшан Жээнбеков встретились с президентом
Вчера, 06:00
«Балага сүйүнчү» планируют выплачивать в цифровых сомах
22-11-2024, 17:20
ГКНБ сообщил подробности вокруг дела экс-посла в США Бакыта Аманбаева
22-11-2024, 17:15
В Нижнем Джале со скандалами сносят гаражный кооператив
22-11-2024, 17:11
Спецслужбы задержали бывшего депутата парламента Каната Исаева
22-11-2024, 17:07
В Екатеринбурге гражданин Кыргызстана осужден за оправдание терроризма
22-11-2024, 13:16
Суд оставил в силе решение ЦИК по партии «Социал-демократы»
22-11-2024, 13:14
В Бишкеке задержали одного из руководителей церкви адвентистов седьмого дня
22-11-2024, 11:40
Студенты из Оша и Таласа смогут поехать в Великобританию на стажировку
22-11-2024, 11:39
Кабмин предлагает уровнять тарифы на проезд через тоннели Кыргызстана
22-11-2024, 11:38
Депутат нашел простой способ отменить смог
21-11-2024, 18:26
Около 72 тысяч кыргызстанцев находятся в России, нарушая законодательство
21-11-2024, 18:25
Количество повреждений теплосетей увеличивается
21-11-2024, 18:23
Снова авария! Приостановлена подача отопления и горячей воды в микрорайоне «Учкун»
21-11-2024, 18:19
Детская литература — ключ к воспитанию поколений и кыргызскому ренессансу, - глава кабмина
21-11-2024, 15:38
Представители двух партий не согласны с предварительными итогами выборов в БГК
21-11-2024, 15:36
Северную объездную дорогу отремонтируют и расширят
21-11-2024, 15:33
Банки и обменные бюро обязаны принимать доллары старого образца — Нацбанк
21-11-2024, 15:26
Мошенники в соцсетях предлагают купить права в обход госорганов: комментарий МВД
21-11-2024, 12:00
«Сафит Строй» отдает банку квартиры, уже купленные дольщиками
21-11-2024, 11:57
Ликвидация троллейбусов. Суд принял решение приостановить демонтаж линий
21-11-2024, 11:55
В Узгене взорвался школьный котел. Пострадал кочегар
21-11-2024, 11:52
Для отеля «Хан-Тенири» управделами президента передали еще 6 гектаров земли
21-11-2024, 09:20
Эксперт вновь предупреждает власти по поводу Кызыл-Омпола
21-11-2024, 06:00
Сегодня, 13:21
История одной семьи - история всего Казахстана - RedKazakh
Сегодня, 06:00
Новый уровень угрозы: что эскалация войны в Украине значит для Казахстана
Вчера, 13:11
В Алматы украли 150 млн тенге, предназначенных для поддержки олимпийского резерва
Вчера, 07:33
В каждом районе и городе Узбекистана откроют "школы мужества"
Вчера, 06:00
В правительстве Узбекистана все вице-премьеры и министры сохранили свои посты
22-11-2024, 17:42
Свыше 200 тысяч граждан Узбекистана планируется трудоустроить в экономически развитых странах - премьер Арипов
22-11-2024, 08:25
Казахстан усиливает безопасность военных и гражданских объектов в стране
22-11-2024, 06:53
Как в школах учат детей мигрантов, которые не говорят по-русски
22-11-2024, 06:00
В Казахстане отменили махр, если жених оплатил калым
22-11-2024, 06:00
Узбекистан планирует упростить пересечение границ с Казахстаном и Таджикистаном
21-11-2024, 06:30
Орбан встретил Токаева в аэропорту Будапешта
21-11-2024, 06:27
Сегодня, 06:00
Михаил Делягин: Минфин просто издевается над бюджетом России
Сегодня, 06:00
Как Трамп будет разорять Китай
Сегодня, 06:00
Мигранты штурмуют границы Европы. Минск заявляет, что сам стал заложником ситуации
Сегодня, 06:00
Как рушатся четыре столпа глобального западного господства
Сегодня, 06:00
Пекин вытесняет Вашингтон из Южной Америки
Сегодня, 06:00
Путин поставил Запад перед роковым выбором
Вчера, 07:38
"Развалим Россию изнутри!" – Украина будет поддерживать сепаратизм в регионах РФ
Вчера, 07:35
В арсенале России достаточно конвенциональных средств для принуждения Украины и Запада к миру
Вчера, 06:00
Приговор Трампу отложен, возможно, навсегда
Вчера, 06:00
Дворцовый переворот в Абхазии под "антиолигархическими" лозунгами. Удар по стратегическим интересам Москвы
Вчера, 06:00
В мире растет потребление природного газа. Каковы прогнозы на следующий год и как будут меняться цены
Вчера, 06:00
Гороскоп с 11 по 17 ноября 2024 года. Какие события наиболее вероятны в ближайшие дни? К чему вам стоит подготовиться? Чего избегать, к чему стремиться? Ответы на эти вопросы вы найдете в еженедельном гороскопе.
Подробнее »
| На 24.11.2024 | |
| USD | 86,5000 |
| EUR | 90,3449 |
| CNY | 11,9347 |
| KZT | 0,1737 |
| RUB | 0,8477 |