Интергласс
Белый Парус
Айфон с нейросетью стал новым яблоком раздора
Автор - Админ    17-06-2024, 06:00

Компания Apple заключила партнерское соглашение с OpenAI для интеграции чат-бота с генеративным искусственным интеллектом (ИИ) ChatGPT в свои операционные системы. Это случилось спустя всего несколько недель после того, как гендиректор OpenAI Сэм Альтман признался, что он не может объяснить, как ИИ принимает решения. И спустя неделю после появления нового письма разработчиков, встревоженных, скажем так, лицемерием техногигантов. Но по-настоящему в эти дни метал громы и молнии Илон Маск, пообещавший запретить сотрудникам пользоваться слишком умными айфонами. Чего в этом больше: заботы об этике или попыток заняться переделом рынка, на котором циркулируют баснословные деньги, – вопрос риторический.

Ожидается, что благодаря внедрению ChatGPT в экосистему Apple продукты компании получат функции ИИ: у владельцев айфонов появится возможность генерировать тексты, изображения, расшифровывать телефонные разговоры и общаться со значительно поумневшим голосовым помощником Siri, который сможет также анализировать и всю переписку для понимания контекста и формирования персональных рекомендаций. Доступ к ChatGPT будет предоставлен бесплатно и без необходимости создавать аккаунт, хотя некоторые функции будут платными.

"Вместе с Apple мы облегчаем для людей доступ к возможностям искусственного интеллекта", – сообщил гендиректор OpenAI Сэм Альтман. Как отметил глава Apple Тим Кук, система будет адаптироваться под конкретного пользователя – фактически это будет уже "персональный интеллект" в кармане каждого владельца новой модели смартфона.

Еще одна новация для "яблочников" – функция отслеживания взгляда, тоже основанная на искусственном интеллекте: она позволит управлять приложениями на устройстве и выполнять иные действия, используя только глаза.

Примечательно, что всего несколько недель назад на конференции в Женеве Альтман всячески пытался ускользнуть от ответа на вопрос о том, не становится ли уже опасным выпуск новых, все более мощных моделей генеративного ИИ (OpenAI, кстати, привлекая щедрые инвестиции Microsoft, ранее анонсировала уже пятую версию GPT).

При этом Альтман признал, что его компания действительно так и не решила вопрос интерпретируемости, то есть специалисты не в состоянии объяснить, как нейросети принимают решения. "Мы не понимаем, что происходит в вашем мозге на уровне нейронов, но мы знаем, что вы можете следовать некоторым правилам, и мы можем попросить вас объяснить, почему вы что-то думаете", – отметил Альтман. Видимо, примерно так же и с нейросетями. Глава компании смог лишь добавить, что "эти системы обычно считаются безопасными и надежными".

На этом история с недомолвками, конечно, не закончилась. Неделю назад появилось новое открытое письмо бывших и действующих разработчиков, указавших на риски бездумного внедрения ИИ и, скажем так, на лицемерие техногигантов. Письмо подписали 16 человек, включая тех, кто имел отношение к OpenAI и Google DeepMind.

Судя по этому письму, риски ИИ варьируются от дальнейшего углубления существующего неравенства до манипуляций и дезинформации, до потери контроля над автономными системами ИИ, что потенциально – ни много ни мало – "может привести к исчезновению человечества". И, как отмечается в письме, эти риски признаются не только экспертами или правительствами, но и самими компаниями, которые непосредственно занимаются искусственным интеллектом.

Как считают авторы письма, проблема требует обдуманного подхода с привлечением и научного сообщества, и политиков, и общественности. Однако, судя по письму, загвоздка в том, что у компаний, занимающихся искусственным интеллектом, есть сильные финансовые мотивы для того, чтобы как раз таких погружений в вопросы этики и безопасности по возможности избегать: им, наоборот, важно ускориться с дальнейшими разработками, с их внедрением, а не тормозить весь процесс и тем более не пугать потенциальных клиентов.

Поэтому, судя по письму, вся информация о рисках – как вполне реальных, так и гипотетических – замалчивается, закрывается внутри компаний. И если с властями техногиганты еще и делятся в очень дозированном виде хоть какими-то своими выводами, то с широкой общественностью – уже нет.

"Мы не думаем, что можно рассчитывать на то, что они поделятся этим добровольно, – сообщают авторы письма. – Пока над этими корпорациями не будет налажен эффективный государственный надзор, нынешние и бывшие сотрудники становятся одними из немногих, кто может привлечь их к ответственности перед обществом". Но это чревато для информаторов последствиями, "различными формами возмездия", которых информаторы хотели бы избежать, на что они тоже указали в письме.

И теперь после новостей о партнерстве OpenAI с Apple о ситуации высказался еще и миллиардер Илон Маск – к слову, он сначала был одним из основателей OpenAI, а затем стал одним из критиков разработок этой компании и даже в определенном смысле ее конкурентом, так как его стартап занялся развитием альтернативного чат-бота под названием Grok.

"Совершенный абсурд, что Apple оказывается недостаточно умной для создания собственного ИИ, но каким-то образом способна гарантировать, что OpenAI защитит вашу безопасность и конфиденциальность!" – написал в соцсети Маск. По его мнению, это "недопустимое нарушение безопасности", тем более что Apple понятия не имеет, какая судьба уготована данным пользователей после того, как они попадают в OpenAI. Миллиардер заявил о готовности запретить использование всех устройств Apple в своих компаниях в случае, если на айфонах будет внедрена эта "жуткая шпионская программа".

Но стоит все же сделать несколько уточнений. Сами представители Apple и OpenAI утверждают, что как раз ради обеспечения конфиденциальности запросы пользователей и их IP-адреса сохраняться не будут. ИИ сможет обучаться на персональных данных, не отправляя их во внешний контур. Да и Siri без разрешения пользователя не будет включать ChatGPT, голосовой помощник сначала лишь предложит владельцу смартфона эти "услуги".

И сам Альтман ранее призывал создать международное объединение для выработки мер безопасности при работе с программами на основе искусственного интеллекта. По его словам, глобальная система регулирования ИИ могла бы быть создана по примеру Международного агентства по атомной энергии.

"Разработка ИИ – это большой конвейер, который можно сравнить с производственной технологической линией, где в качестве сырья – данные пользователей и компаний, а продукт – тот добавочный контент и инновационные фишки, которые мы получаем, – пояснил "НГ" руководитель R&D лаборатории группы компаний "Солар" Максим Бузинов. – Но есть нюанс: модели ИИ тем качественнее, чем больше данных разных пользователей они рассматривают вместе".

Невозможно сделать так называемый "сильный ИИ", который начнет самостоятельно мыслить, на основе данных только одного пользователя. Нужен массив данных. Но если данные одного пользователя уходят по Сети крупнейшему разработчику ИИ, то это значит, что "практически неизбежно они будут использованы для обогащения и прокачки больших моделей", ожидает эксперт.

"Кроме того, искусственный интеллект по своей сути работает с вероятностями при принятии решений. Как гарантировать, что ИИ не будет использовать данные людей для выводов, с которыми эти люди не согласны? Маск справедливо задает вопросы", – считает Бузинов.

"Но стоит отметить, что любая IT-технология, особенно новая, сопряжена с такого рода рисками. И Маск явно умышленно сосредотачивает общественное внимание на этом, – отметил также эксперт. – Тем более для бизнеса обычное дело привлекать опытного подрядчика. Полагаю, это уже привычная для Маска политика общения с сильными игроками в области инноваций, не лишенная личных предубеждений".

Также, как уточнил эксперт, для того чтобы ИИ вышел на новый уровень "мышления", перед ним должны ставиться новые соответствующей сложности задачи и вызовы. Возможно, это лишь вопрос времени и амбиций, но пока что, как следует из оценок эксперта, ИИ решает исключительно утилитарные задачи. И до тех пор пока мы рассуждаем лишь о качестве редактуры текста, опасаться восстания машин, вероятно, не стоит.

Хотя, уточним, одержимость техногигантов личными данными пользователей действительно имеет место быть. И даже неважно, о ком именно мы говорим. Например, до всеобщего ажиотажа вокруг ИИ поводы для громких обсуждений давала компания Amazon, которая из каждой новой порции информации о своих клиентах извлекала осязаемую выгоду.

Потому что за все новые сервисы, продукты и устройства, предоставляемые этой компанией, клиент фактически платил не только деньгами, но и информацией о себе. И информация, судя по всему, добывалась разнообразными способами. Достаточно вспомнить несколько скандальных историй о непроизвольных включениях умных колонок, которые якобы начинали подслушивать, или об особых возможностях фитнес-браслетов, которые обучались определять не только физические параметры владельца, но и якобы его настроение.

Споры о конфиденциальности сведений, получаемых от граждан в процессе цифровизации как бизнесом, так и госструктурами, возникают и в других странах, включая Россию. Например, аналитик компании "Финам" Леонид Делицын указал на дискуссию, произошедшую в рамках недавнего Петербургского международного экономического форума: она касалась биометрических данных россиян.

Но эффект эта дискуссия произвела значительно более скромный. Ведь громкость конфликта определяется "весом" медийной персоны, уточнил эксперт. Каждая фраза Илона Маска, одного из богатейших в мире бизнесменов, широко обсуждается. Причем в том числе в России и в том числе по поводу таких технологических тонкостей, которые для России пока, мягко говоря, далеко не на первых местах в списке актуальных проблем.


Источник - НГ


: 0

Оставить комментарий

ПРАВИЛА КОММЕНТИРОВАНИЯ:

1) Не употребляйте ненормативную лексику.
2) Не оскорбляйте автора статьи или авторов комментариев.
3) Не размещайте в поле комментария статьи других авторов или ссылки на них.
4) Комментируя статью, не отклоняйтесь от ее тематики, не вступайте в перепалку с собеседниками.
5) Не размещайте в комментариях политический или личностный пиар, а так же рекламную информацию.
6) Не допускайте в комментариях разжигания межнациональной и межрегиональной розни.
7) Не оскорбляйте высших должностных лиц государства.
8) Не размещайте призывов к свержению строя или к иным противоправным действиям.

ПРИМЕЧАНИЯ:
- Авторы публикаций не вступают в переписку с комментаторами и не обсуждают собственные с материалы.
- Редакция не несет ответственности за содержание комментариев.

АДМИНИСТРАЦИЯ САЙТА ПРЕДУПРЕЖДАЕТ – категорически запрещено обсуждать в комментариях политику редакции или действия модератора, а так же распространять личные сведения о сотрудниках редакции и владельцах сайта.

В случае нарушения какого-либо правила комментарий удаляется.
При злостных и повторяющихся, намеренных нарушениях доступ к размещению комментариев блокируется.

Последние новости
Бишкек готовят к радикальным мерам
Сегодня, 18:48
Мэрия хочет брать деньги с туристов за каждый день пребывания в Бишкеке
Сегодня, 18:44
Почему на форме олимпийцев Кыргызстана логотип китайской компании
Сегодня, 14:33
В Кыргызстане запретили использовать религиозные термины в названиях фирм
Сегодня, 14:28
Ипподром «Ак-Кула» в Бишкеке хотят продать двум иностранным компаниям
Сегодня, 14:27
В Кыргызстане бизнесменов не будут заключать под стражу
Сегодня, 14:22
Мэрия хочет ввести сбор за въезд иногороднего авто на территорию Бишкека
Сегодня, 12:06
Уголовное дело в отношении владельца ЦУМа прекращено. Он не связан с Кольбаевым
Сегодня, 12:02
Нацбанк становится частью правительственного механизма, - экономист
Сегодня, 08:10
Импорт автомобилей: Китай ответит России на заградительные меры - СМИ
Сегодня, 08:08
Это делается в интересах народа, который хочет получить землю, - СМИ о сносе здания музея Панфилова
Сегодня, 08:06
Расписание выступлений кыргызстанцев на Олимпиаде в Париже
Вчера, 16:23
Член ИГИЛ пытался сбыть в Кыргызстане фальшивые доллары
Вчера, 15:06
ГКНБ выясняет, почему не чистили реку Ак-Бууру, и накажет виновных
Вчера, 15:03
Ничего личного. Арест дочерей Чыныбая Турсунбекова прокомментировал глава ГКНБ
Вчера, 15:00
Ремонт дорог в Бишкеке: закрыт еще один отрезок проспекта Чуй
Вчера, 11:01
ПОДПИСЫВАЙТЕСЬ на Телеграмм-канал Паруса! Принимаем ваши предложения по контенту
Вчера, 09:43
Народные легенды: Гора в Чуйской области, где могут быть спрятаны сокровища Чингизхана
Вчера, 08:49
Садыр Жапаров: В Кыргызстане подрастает сильное поколение спортсменов
Вчера, 06:42
Правила въезда в Казахстан: для граждан Кыргызстана сделали исключение
21-07-2024, 06:45
В Бишкеке проходит масштабный рейд «Мототранспорт»
21-07-2024, 06:43
Обвинения в русофобии не просто беспочвенны, они абсурдны, - Дайырбек Орунбеков ответил Тине Канделаки
20-07-2024, 15:28
Кыргызстан остается в пятерке популярных туристических направлений для россиян
20-07-2024, 11:39
«Утильсбор мы будем вводить!" - Минэкономики решило поддержать "отечественный автопром"
20-07-2024, 06:21
В Кыргызстан из Сирии вернули восемь женщин и 14 детей
19-07-2024, 18:06
В ГНС рассказали, кто должен выплатить налог на имущество до сентября
19-07-2024, 17:56
Сели в Оше. Центральный рынок перенесут в безопасное место
19-07-2024, 17:53
Сбой в работе самолетов, банков и поездов во всем мире не затронул Кыргызстан
19-07-2024, 17:50
Задержаны две дочери экс-спикера ЖК Чыныбая Турсунбекова
19-07-2024, 17:49
Как Садыра Жапарова встретили в Ташкенте
19-07-2024, 12:01
У соседей
Мигранты, не знающие русский язык, должны быть депортированы из России — ЛДПР
Сегодня, 07:58
Госдепартамент США назвал Туркменистан «рискованным» для иностранных инвесторов
Сегодня, 06:01
Мигранты в Самаре напали на депутата Госдумы РФ и разбили ему голову
Сегодня, 06:00
Три атомных проекта Казахстана. Политической воли определиться явно не хватает
Сегодня, 06:00
Уроженец Узбекистана подозревается в убийстве матери и трёх родственников в Нью-Йорке
Вчера, 15:23
В Казахстане возбудили уголовное дело против мужчины после танца на каблуках
Вчера, 09:27
В Узбекистане предложено провести масштабную пенсионную реформу
Вчера, 06:00
Как российские и казахстанские инвесторы дурачили американского торгового робота
Вчера, 06:00
Как Рогун может подорвать Рахмона
Вчера, 06:00
Казахстан. Вернуть любой ценой!
21-07-2024, 06:00
Почему Китай так заинтересован в Казахстане? - The New York Times
21-07-2024, 06:00
В Таджикистане учителя увольняются из школ. Из-за закона о воспитании детей
20-07-2024, 06:00
Соцсети
Белый Парус в Telegram
Белый Парус на Facebook
Интергласс-Строй
Гороскоп

Гороскоп с 22 по 28 июля 2024 года. Какие события наиболее вероятны в ближайшие дни? К чему вам стоит подготовиться? Чего избегать, к чему стремиться? Ответы на эти вопросы вы найдете в еженедельном гороскопе.

Подробнее »


Tehnoinvest Махаля
Курс валют НБКР
На 24.07.2024
USD 84,3667
EUR 91,7741
KZT 0,1786
RUB 0,9646