Компания xAI, принадлежащая Илону Маску, занимающаяся искусственным интеллектом, заявила поздно вечером в среду, что ввела ограничения для всех пользователей своего чат-бота Grok AI после того, как служба создала сексуальные изображения, вызвавшие обеспокоенность международных регулирующих органов, сообщает Reuters.
«Мы внедрили технологические меры, чтобы аккаунт Grok не позволял редактировать изображения реальных людей в откровенной одежде, например купальниках. Это ограничение распространяется на всех пользователей, включая платных подписчиков», — говорится в сообщении компании в социальной сети X.
Гиперреалистичные изображения женщин, которых манипулируют так, чтобы они выглядели так, будто они носят микроскопические купальники, в унизительных позах или покрыты синяками, начали наводнять социальные сети X в этом месяце. В некоторых случаях несовершеннолетних раздевали с помощью цифровых технологий до купальных костюмов, что вызвало широкую критику.
На прошлой неделе Grok начал разрешать только платным подписчикам использовать функции создания и редактирования изображений. Также на прошлой неделе X ограничил возможность Грока публично создавать или редактировать изображения для многих своих пользователей, но чат-бот все еще производил сексуальные изображения по запросу в среду, до объявления xAI, как обнаружило Reuters.
Миллиардер Маск владеет компанией xAI, которая, в свою очередь, владеет компанией X, ранее известной как Twitter.
В среду xAI добавила, что в зависимости от их местоположения она не позволяет пользователям создавать изображения людей в откровенной одежде в «юрисдикциях, где это незаконно». Она не назвала эти юрисдикции.
Чиновники Калифорнии требуют ответов
Губернатор и генеральный прокурор Калифорнии заявили ранее в среду, что требуют ответов от xAI после того, как Маск заявил, что ему не известно ни о каких «изображениях обнаженных несовершеннолетних», созданных Гроком.
«Мы требуем от xAI немедленных ответов относительно их плана по прекращению создания и распространения этого контента», — написал в журнале X генеральный прокурор Калифорнии Роб Бонта. Губернатор Гэвин Ньюсом призвал Бонту «немедленно провести расследование в отношении компании и привлечь xAI к ответственности».
Комментарии Ньюсома и Бонты были самыми серьезными со стороны властей США по поводу резкого увеличения количества сексуализированных изображений, созданных ИИ, без согласия X.
Действия Калифорнии усилили давление, которое испытывает Маск в США и во всем мире. Законодатели и правозащитные группы призвали Apple и Google удалить Grok из магазинов приложений.
Власти пригрозили принять меры в Европе и Великобритании. Индонезия временно блокирует доступ к Гроку.
Первоначально Маск публично посмеялся над этой полемикой, опубликовав юмористические смайлы в ответ на комментарии других пользователей о наплыве сексуализированных фотографий. Позже X заявил, что серьезно относится к сообщениям о материалах о сексуальном насилии над детьми и строго их контролирует.
Ранее в среду Маск заявил, что ему «не известны какие-либо изображения обнаженных несовершеннолетних, созданные Гроком. Буквально ни одного».
X не сразу ответил на вопросы об объявлении в Калифорнии и комментариях Маска.
xAI также не ответил напрямую на отправленный по электронной почте запрос прокомментировать заявления чиновников Калифорнии или сообщение Маска о том, что он не знал о сексуализированных изображениях несовершеннолетних. Агентство Reuters получило стандартное автоматическое сообщение для запросов: «Ложь старых СМИ».
Каждая новость – это актив, следите за Investor.bg и в .
