Интергласс
Белый Парус
Опасна ли для людей новая степень свободы нейросетей
Автор - Админ    14-04-2024, 06:00

Российские специалисты создали технологию, благодаря которой ИИ сможет самостоятельно готовить текстовые данные для обучения нейронных сетей. Ученые использовали для этого ChatGPT. До последнего времени делать эту работу мог только человек - монотонный и трудоемкий процесс занимал до нескольких месяцев. Теперь компьютер сможет выполнять эти операции в три раза быстрее. По мнению экспертов, в автоматизации разметки нет ничего удивительного, так как нейросети уже давно выполняют и более сложные логические задачи. При этом вероятность того, что новая степень свободы искусственного интеллекта может привести к выходу его из-под контроля, невелика.

Разговор с самим собой

Специалисты лаборатории нейронных систем и глубокого обучения, входящей в состав исследовательского центра прикладных систем искусственного интеллекта МФТИ, разработали методику, которая позволяет нейросетям самостоятельно готовить текстовые данные для обучения искусственного интеллекта. Теперь это автоматически смогут делать большие языковые модели, самая знаменитая из которых - ChatGPT. Обязательную предварительную работу называют разметкой, до последнего времени ее могли делать только люди - аннотаторы либо специально подобранные краудсорсеры (сотрудники из внешней команды, которые улучшает работу ИИ).

Они тщательно разбирают большое количество примеров, из которых машина выделяет закономерности. Информация должна быть правильно подготовлена, чтобы ИИ мог сделать верные выводы. Однако это трудоемкая задача, требующая выполнения множества монотонных операций. В итоге на нее может уходить до нескольких месяцев. Благодаря использованию ИИ этот процесс будет проходить в три раза быстрее и в два раза дешевле, чем раньше. Правда, полностью стать независимыми от людей машинам пока не удастся - им понадобится помощь с построением иерархии.

- С помощью большой языковой модели можно добиться высокого качества обработки информации. Однако для этого потребовалось создать многоступенчатую иерархическую схему для разметки. В таком случае в процессе обучения эксперты требуются только для этой работы, - сказала исследователь и аналитик лаборатории Мария Молчанова.

При разработке автоматизированной системы специалисты с помощью ChatGPT попробовали сымитировать человеческую разметку лингвистических данных для обучения моделей. Для составления системы привлекли опытных экспертов - лингвистов, которые разработали схемы аннотаций. В результате эти инструкции улучшили качество обработки сообщений.

Пример схемы разметки

- Мы изучили разметку дискурса в диалогах экспертов и больших языковых моделей. Пришли к выводу, что c помощью последней можно добиться качества обработки информации, сравнимого с краудсорсерами. Преимущества автоматизированного подхода в том, что это намного быстрее и дешевле. К тому же модель размечает данные более системно, - сказала Мария Молчанова.

Разработанная методология разметки может широко применяться для аннотации лингвистических данных. Ее успешно апробировали для обработки диалогов для обучения чат-ботов в рамках научных исследований лаборатории.

Интерфейс разметки в процессе краудсорсинга

- Эксперты тратят в среднем 14,5 минуты на разметку одного диалога, краудсорсеры - 29 минут. Время, необходимое для выполнения задачи с помощью ChatGPT, всегда разное - в целом небольшой диалог может быть аннотирован за 10 минут. Стоимость работы с использованием ChatGPT варьируется в зависимости от длины диалога примерно от $0,03 до $0,07, в то время как работникам краудсорсинга необходимо платить от $0,12 до $0,22, - сказала исследователь лаборатории нейронных систем и глубокого обучения Лидия Остякова.

Есть ли опасность

Если большие языковые модели успешно справляются с довольно сложными логическими конструкциями, их применение для разметки и аннотирования текстовой информации кажется совершенно естественным, считает ведущий эксперт Центра компетенций Национальной технологической инициативы (НТИ) "Искусственный интеллект" на базе МФТИ Александр Родин.

- Широкое внедрение самообучения языковых моделей может упростить манипуляции с результатами их работы и создание фейков, как это происходит, например, на YouTube или в соцсетях. Если массовый пользователь не обладает достаточным культурным и образовательным базисом, его нетрудно будет убедить в том, что черное - это белое, апеллируя к "железобетонному" аргументу - "так искусственный интеллект решил", - сказал Александр Родин.

По его словам, необходима жестокая экспертная цензура всего контента, сгенерированного ИИ, вне зависимости от технологии обучения конкретного алгоритма.

Подход, предложенный в МФТИ, применяется в самых разных областях. Большие языковые модели мало какие задачи могут выполнять полностью, но создавать на их основе решения, которые ускоряют или упрощают работу живых специалистов, - очень частый сценарий, отметил управляющий директор Технологических конкурсов НТИ Up Great Юрий Молодых.

- Благодаря такой автоматизации искусственный интеллект из-под контроля выйти не сможет. Вообще это непродуктивный метод анализа безопасности нейросети. Гораздо лучше рассматривать безопасность не выхода из под контроля технических решений, а ошибки в дизайне системы, которые могут привести к деструктивным последствиям, - пояснил Юрий Молодых.

В данном случае серьезные риски маловероятны, но не исключены. Если, например, нейросеть после такого обучения будет обеспечивать работу критической инфраструктуры, то ее нужно будет серьезно тестировать, добавил специалист.


Источник - Известия


: 0

Оставить комментарий

ПРАВИЛА КОММЕНТИРОВАНИЯ:

1) Не употребляйте ненормативную лексику.
2) Не оскорбляйте автора статьи или авторов комментариев.
3) Не размещайте в поле комментария статьи других авторов или ссылки на них.
4) Комментируя статью, не отклоняйтесь от ее тематики, не вступайте в перепалку с собеседниками.
5) Не размещайте в комментариях политический или личностный пиар, а так же рекламную информацию.
6) Не допускайте в комментариях разжигания межнациональной и межрегиональной розни.
7) Не оскорбляйте высших должностных лиц государства.
8) Не размещайте призывов к свержению строя или к иным противоправным действиям.

ПРИМЕЧАНИЯ:
- Авторы публикаций не вступают в переписку с комментаторами и не обсуждают собственные с материалы.
- Редакция не несет ответственности за содержание комментариев.

АДМИНИСТРАЦИЯ САЙТА ПРЕДУПРЕЖДАЕТ – категорически запрещено обсуждать в комментариях политику редакции или действия модератора, а так же распространять личные сведения о сотрудниках редакции и владельцах сайта.

В случае нарушения какого-либо правила комментарий удаляется.
При злостных и повторяющихся, намеренных нарушениях доступ к размещению комментариев блокируется.

Последние новости
Кабинет министров Кыргызстана осуждает попытки провокации на межэтнической почве
Сегодня, 12:13
«РСК Банк» будет переименован в «Элдик банк»
Сегодня, 12:12
Протест против иностранцев в Бишкеке. Глава ГКНБ сделал заявление по ситуации
Сегодня, 12:10
МИД прокомментировал протесты против иностранцев в Бишкеке
Сегодня, 12:05
Протест против иностранцев. Что происходило в Бишкеке ночью
Сегодня, 09:29
Массовая драка с иностранцами в Бишкеке. Более 1000 человек устроили митинг
Сегодня, 06:16
На заметку мэрии. Депутат перечислил объекты, построенные в Бишкеке незаконно
Сегодня, 06:00
Валютная выручка от продажи золота будет контролироваться строже
Сегодня, 06:00
Голосовые дипфейки речей Садыра Жапарова распространяют в соцсетях
Вчера, 17:53
Новые пошлины в России оказали влияние на автомобильный рынок Кыргызстана
Вчера, 17:35
Депутат усомнился, что у властей города "хватит духу" на снос незаконных элитных построек
Вчера, 17:29
Садыр Жапаров: Мои братья не являются ворами или казиношниками, как Исхак Масалиев
Вчера, 17:20
Ташиев заявил, что Матраимов должен вернуть государству $200 миллионов
Вчера, 17:18
Управделами президента сообщил, что будет в здании Западного автовокзала Бишкека
Вчера, 17:16
Садыр Жапаров: Каждый грамм золота и серебра под контролем
Вчера, 17:10
В Бишкеке закрыты для проезда центральные улицы
Вчера, 17:09
Более 700 кыргызстанцев ждут решения суда в следственных изоляторах за границей
Вчера, 07:43
Запрет на личное авто. Как в мэрии Бишкека исполняют приказ градоначальника
Вчера, 07:41
В целях безопасности.Депутат предлагает новые правила для самокатов
Вчера, 07:04
Как цифровизация отразится на жизни граждан КР? Интервью с главой Минцифры
Вчера, 06:59
В Бишкеке пакистанцы шили одежду, работая нелегально, - ГКНБ
16-05-2024, 17:58
Из-за ОРТ некоторые школы Бишкека перейдут на онлайн-обучение
16-05-2024, 17:56
Абитуриенты в Кыргызстане должны оплачивать медицинский осмотр при поступлении
16-05-2024, 17:55
Депутат предлагает все заправки убрать из Бишкека за черту города
16-05-2024, 13:40
Из-за иностранцев на улицах Бишкека увеличилось количество ДТП — депутат
16-05-2024, 13:38
В Кыргызстане станет обязательным страхования жилья
16-05-2024, 10:45
Аэропорт «Манас» эвакуировали из-за угрозы взрыва
16-05-2024, 10:42
Изначально была проектная ошибка в дороге Север—Юг, - глава МЧС
16-05-2024, 06:28
Закупочные цены на молоко снизились, а в магазинах его стоимость та же — депутат
15-05-2024, 18:31
В Бишкеке вновь ожидаются дожди. Прогноз на 16-19 мая
15-05-2024, 15:56
У соседей
Какие ценности разобщают казахстанцев, а какие объединяют?
Сегодня, 06:00
Дубайская "элита" Казахстана
Сегодня, 06:00
Нас разделяют и властвуют. Политическое затишье перед бурей?
Вчера, 06:00
Данияр Ашимбаев: Перманентно бурлящий Жанаозен - управляемая "протестность"
Вчера, 06:00
Конституционный суд Казахстана отказался рассматривать заявление о признании неконституционным запрета хиджаба у школьниц
Вчера, 06:00
Неспокойная ночь в западно-казахстанском Кульсары: митинг протеста жертв потопа продолжается
16-05-2024, 12:23
Правительство и парламент в нынешнем составе не способны защищать интересы Казахстана - эксперт
16-05-2024, 05:53
Главной угрозой для Центральной Азии становится киберэкстремизм
16-05-2024, 05:51
Запад хочет посеять рознь между Россией и Центральной Азией, - МИД РФ
15-05-2024, 10:12
Евросоюз намерен усилить работу в странах Центральной Азии
15-05-2024, 10:11
Казахстанский новояз - RedKazakh
15-05-2024, 07:13
США берут под контроль гидроресурсы ЦентрАзии
15-05-2024, 06:00
Мировые новости
Что осталось за кулисами чаепития Путина и Си: плетеное кресло сказало больше слов
Сегодня, 06:53
Пентагон не подтверждает сообщения СМИ об отправке американских войск в Украину
Сегодня, 06:00
$37 миллионов: Эстония решилась своровать у России деньги первой
Сегодня, 06:00
"Провальное решение": чем обернется запрет Байдена на импорт урана из России
Сегодня, 06:00
Покушение на Фицо - еще один удар Запада по тем, кто смеет ему что-то возражать
Сегодня, 06:00
БРИКС-2024: от амбиций к реальности
Сегодня, 06:00
Системная модернизация инфраструктуры - задача №1 для России - М. Делягин
Сегодня, 06:00
Турецких силовиков подозревают в попытке свергнуть Эрдогана
Сегодня, 06:00
Путин и Си Цзиньпин о самом главном договорились устно
Вчера, 07:11
Николай Платошкин про заявление Силуанова на заседании МВФ
Вчера, 06:00
Кто строит школьный "халифат" в Германии
Вчера, 06:00
Швейцарская "мирная конференция" по Украине - дело безнадежное
Вчера, 06:00
Соцсети
Белый Парус в Telegram
Белый Парус на Facebook
Интергласс-Строй
Гороскоп

Гороскоп с 13 по 19 мая 2024 года. Какие события наиболее вероятны в ближайшие дни? К чему вам стоит подготовиться? Чего избегать, к чему стремиться? Ответы на эти вопросы вы найдете в еженедельном гороскопе.

Подробнее »


Tehnoinvest Махаля
Курс валют НБКР
На 18.05.2024
USD 88,2093
EUR 95,6586
KZT 0,1990
RUB 0,9700