С начала года миллиардер Илон Маск оказался втянут в скандал, связанный с его нейросетью Grok. С помощью ИИ-помощника пользователи генерировали порнографические материалы. Это стало причиной, по которой власти уже двух стран: Индонезии и Малайзии – ограничили доступ к нейросети. Пока меры временные, однако недовольство подходом Маска к продуктам принадлежащих ему компаний растет по всему миру, в том числе в ЕС, Великобритании и Австралии. В последних двух странах тоже обсуждают идею запрета Grok.
Комиссия мультимедиа и коммуникаций Малайзии (Malaysian Communications and Multimedia Commission, MCMC) – орган, регулирующий сферу цифровых технологий, – объявила о временном запрете доступа к нейросети Grok. Причиной такого решения стала генерация чат-ботом порнографических изображений. С помощью Grok пользователи обрабатывали изображения женщин, а порой и детей, прося нейросеть раздеть их и изобразить в сексуальных позах.
Grok был разработан компанией xAI, принадлежащей Маску. В настоящее время нейросеть интегрирована в социальную сеть X: пользователи могут обратиться к Grok, упомянув его в посте.
Изначально генеративный чат-бот подразумевался как альтернатива существующим нейросетям, которая может давать «остроумные» ответы. Они, правда, нередко подвергались критике за излишнюю грубость. Grok также известен тем, что дает более выдержанные в духе консервативных ценностей ответы на вопросы пользователей, чем его аналоги. Исследование газеты The New York Times показало, что в ходе создания новых версий разработчики стремились привести ответы нейросети к системе взглядов, характерной для западноевропейских и американских правых. Какое-то время Grok во многом дублировал взгляды своего создателя Маска, который до недавнего времени был ярым сторонником президента США Дональда Трампа. Теперь их пути разошлись, но свои убеждения предприниматель не сменил.
В заявлении MCMC отмечается, что компаниям xAI и X были направлены уведомления с требованием принять меры в отношении контента, нарушающего малайзийское законодательство. Однако ответ компаний не удовлетворил комиссию, а поэтому на время продолжения расследования доступ к Grok будет ограничен.
Малайзия стала второй страной после Индонезии, которая ввела ограничения против нейросети. «Правительство рассматривает практику создания сексуальных дипфейков без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве», – заявила министр связи и цифровых технологий Индонезии Меутья Хафид. В этой стране с самым большим в мире мусульманским населением действуют строгие правила, запрещающие распространение в интернете контента, считающегося непристойным.
Угрозы запрета детища xAI поступали и от правительств других стран. О необходимости проверки в отношении Grok говорила министр науки, инноваций и технологий Великобритании Лиз Кендалл. Парижская прокуратура заявила, что включит нынешний скандал с сексуализированными изображениями в продолжающееся расследование против X.
«Использование генеративного искусственного интеллекта для эксплуатации или сексуализации людей без их согласия отвратительно. Это еще один пример того, как социальные сети не проявляют социальной ответственности, и австралийцы, да и все люди в мире заслуживают лучшего», – заявил австралийский премьер-министр Энтони Альбанезе. В стране уже был ограничен доступ к социальным сетям несовершеннолетним. Учитывая тенденцию ужесточения цифрового законодательства в Австралии, вполне возможно и принятие новых мер для регуляции деятельности нейросетей.
В ответ на эти угрозы Маск объявил о введении ограничений в создание контента с помощью его нейросети. Теперь возможность создавать и редактировать изображения будет доступна только подписчикам (то есть платно), которые должны предоставлять личные данные. Это означает, что их можно будет идентифицировать в случае неправомерного использования функции. Однако данная мера также подверглась критике, поскольку на деле не решает проблемы с созданием и распространением запрещенного контента. «Любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и за загрузку нелегальных материалов», – заявил Маск, но и эти слова вряд ли остановят поднявшуюся волну возмущения.
Тем временем, пока Grok привлекает внимание благодаря широкой известности Маска и его взглядов на свободу слова в цифровом пространстве, проблемы, связанные с другими чат-ботами на базе ИИ, продолжают игнорироваться. Защитники Маска отмечают, что незамеченными остаются случаи самоубийств, связанные с использованием нейросетей. А это является проблемой уже для всех подобных сервисов.
Гороскоп на неделю 25–31 мая . Какие события наиболее вероятны в ближайшие дни? К чему вам стоит подготовиться? Чего избегать, к чему стремиться? Ответы на эти вопросы вы найдете в еженедельном гороскопе.