Grok, Илона Маска, столкнулся с растущей критикой и угрозами вмешательства со стороны правительств по всему миру после того, как чат-бот с искусственным интеллектом создал изображения сексуального характера, в том числе с участием несовершеннолетних, на платформе социальных сетей X в ответ на запросы пользователей.

3 января власти Малайзии заявили, что расследуют изображения, созданные Grok, после жалоб на неправомерное использование ИИ для манипулирования изображениями женщин и несовершеннолетних с целью создания непристойного, крайне оскорбительного или иного вредоносного контента.

Создание или передача такого вредоносного контента является преступлением в соответствии с малазийским законодательством, говорится в заявлении Комиссии по коммуникациям и мультимедиа, опубликованном 3 января. Орган по надзору за СМИ проведет расследование в отношении пользователей X, предположительно нарушивших закон, и вызовет представителей компании, говорится в заявлении.

«Хотя в настоящее время X не является лицензированным поставщиком услуг, он обязан предотвращать распространение вредоносного контента на своей платформе», — говорится в заявлении комиссии.

4 января Маск в своем сообщении на платформе X заявил, что платформа принимает меры против незаконного контента, в том числе связанного с детьми, удаляя его, навсегда блокируя учетные записи и сотрудничая с должностными лицами по мере необходимости.

«Любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при загрузке незаконного контента», — говорится в сообщении.

Малайзия стала последней страной, выразившей растущую озабоченность по поводу Grok. 2 января Индия направила письмо компании X с требованием провести комплексную проверку чат-бота с искусственным интеллектом, чтобы убедиться, что он не генерирует контент, содержащий «наготу, сексуализацию, откровенно сексуальный или иной незаконный контент». Bloomberg ознакомился с копией письма от 2 января.

Платформа должна представить отчет о принятых мерах в Министерство электроники и информационных технологий Индии в течение 72 часов и была предупреждена о возможном судебном преследовании в соответствии с уголовным и ИТ-законодательством. Правительство заявило, что может рассмотреть вопрос о регулировании платформ социальных сетей в отношении неприемлемого контента, созданного с помощью ИИ.

«Парламентский комитет рекомендовал принять жесткий закон о регулировании социальных сетей», — заявил министр информационных технологий Индии, Ашвини Вайшнау, в интервью CNBC-TV 18. «Мы рассматриваем его».

2 января Франция обвинила Grok в создании «явно незаконного» контента сексуального характера на платформе X без согласия пользователей. Французское правительство заявило в своем заявлении, что изображения, созданные Grok, потенциально нарушают Закон Европейского союза о цифровых услугах. Согласно заявлению, этот закон требует от крупных платформ снижения риска распространения незаконного контента.

Оскорбительные изображения чат-бота явно нарушают его собственную политику допустимого использования, которая запрещает сексуализацию детей. Некоторые из этих изображений были удалены.

На запрос о комментарии, отправленный по электронной почте компании xAI, которая разрабатывает Grok и управляет платформой X, был получен ответ «Ложь традиционных СМИ».

За последние две недели все больше пользователей платформы обращались к Grok с просьбой создать изображения и обработать фотографии женщин и детей в сексуальном контексте. Эта тенденция получила распространение по всему миру после того, как платформа представила функцию редактирования изображений перед Рождеством.

2 января Grok опубликовал пост на платформе X, в ответ на вопросы пользователей, в котором сообщил, что обнаружил «пробелы в системе безопасности», которые срочно устраняются.