- Apple и Google продолжают поддерживать и получать прибыль от приложений, посвященных наготе, которые принесли доход более 120 миллионов долларов, несмотря на официальные запреты на контент сексуального характера.
- Функции автозаполнения и реклама в магазинах активно направляют пользователей к программному обеспечению для создания аналогичного контента с помощью искусственного интеллекта.
- Новые законы в США и Великобритании повышают ответственность технологических гигантов и их менеджеров за распространение дипфейковой порнографии без согласия.
Apple Inc. и Google продолжают предлагать мобильные приложения, которые позволяют пользователям создавать сексуальные изображения людей без их согласия, несмотря на то, что их политика запрещает такой контент. Это ясно из отчетопубликованное в среду проектом Tech Transparency Project.
Поиск таких слов, как «раздевание» и «раздевание» в магазинах загрузок приложений Apple и Google, дает клиентам доступ к программному обеспечению, которое можно использовать для изменения изображений знаменитостей и других людей, чтобы они выглядели частично или полностью обнаженными. Компании также показывают рекламу похожих приложений в результатах поиска.
Приложения, выявленные группой, входящей в исследовательское подразделение некоммерческой организации Campaign for Accountability, были загружены 483 миллиона раз и принесли доход в размере 122 миллионов долларов, говорится в отчете со ссылкой на оценки доходов исследователя рынка AppMagic.
Представитель AppMagic заявил, что работа Tech Transparency Project привела к удалению нескольких приложений и побудила других изменить свою пользовательскую политику.
«Они сами направляют пользователей к этим приложениям»
В прошлом году политики всего мира призвали ограничить распространение «раздевающих» приложений. Ранее в этом году компании удалили приложения, выявленные в рамках проекта Tech Transparency Project. Но всего несколько месяцев спустя были обнаружены десятки подобных приложений, говорят исследователи организации.
«Проблема не только в том, что компании не могут должным образом проверить эти приложения, но и в том, что они продолжают поддерживать их и получать от них прибыль», — сказала в интервью Кэти Пол, директор проекта. «Они фактически сами направляют пользователей к этим приложениям».
Путем поиска в магазине приложений группа выявила 18 приложений с функциями создания обнаженных изображений в Apple App Store и 20 в Google Play Store. Кроме того, как Apple, так и Google иногда направляют пользователей к приложениям с помощью функции автозаполнения, предлагая названия дополнительных приложений, которые можно раскрыть по мере ввода пользователем, говорят исследователи.
Некоторые приложения используют имена и изображения, которые представляют их в сексуальном свете. Для этой цели можно легко использовать и другие, хотя они не предлагаются как таковые, что делает их более удобными, чем традиционное программное обеспечение для редактирования фотографий. Некоторые предлагают подписку, отмечает Tech Transparency Project.
«Нечеткие» правила и усилия по преодолению трудностей
Рекомендации Apple App Store для разработчиков запрещают «откровенно сексуальные или порнографические материалы». Магазин Google Play запрещает «приложения, которые унижают или объективизируют людей, например, приложения, которые утверждают, что раздевают людей или видят сквозь одежду, даже если они помечены как шуточные или развлекательные приложения».
Google сообщает, что многие из приложений, упомянутых в отчете, были заблокированы из Google Play за нарушение его правил и что ведется расследование.
«Когда нам сообщают о нарушениях нашей политики, мы проводим расследование и принимаем соответствующие меры», — говорится в электронном письме компании.
Apple заявила, что удалила 15 приложений, выявленных группой после того, как Bloomberg связался с ними по поводу их существования. Среди удаленных приложений был PicsVid AI Hot Video Generator, который, по словам исследователей, предлагал шаблоны, показывающие женщин, сосущих фаллические леденцы. Разработчик PicsVid не ответил на запрос Bloomberg News о комментариях.
Другое приложение, идентифицированное проектом Tech Transparency Project, Uncensored AI – No Filter Chat, удаляет одежду с изображения женщины, загруженного исследователями. Представитель разработчика Uncensored AI сообщил, что приложение больше не позволяет снимать одежду.
Apple заявила, что связалась с разработчиками шести приложений, чтобы предупредить их о проблемах, которые необходимо решить, и о том, что они могут быть удалены. По словам Apple, другие приложения, упомянутые в проекте Tech Transparency Project, не нарушали руководящие принципы компании. Компания добавила, что заранее отклонила многие приложения и удалила другие.
По словам Энн Хелмонд, профессора Утрехтского университета в Нидерландах, усилия технологических гигантов по обеспечению соблюдения правил «неравномерны и во многом неясны».
«Если приложение представляет собой простой генератор изображений, оно может пройти тест, даже если на практике его можно использовать неправильно», — сказал Хелмонд, директор международной исследовательской группы App Studies Initiative. «Видимость определяется системами ранжирования и поиска, которые вознаграждают за участие, а это означает, что спорные варианты использования могут повысить популярность приложения».
Двойное использование
Одно из приложений, обнаруженных исследователями в магазине Google Play, Video Face Swap AI: DeepFace, рекламировало замену лица актрисы Ани Тейлор-Джой на лицо персонажа «Игры престолов» Дейенерис Таргариен.
Но в приложении в категории «Девочки» пользователи могли накладывать лица людей на видеошаблоны женщин, трясущих грудью или двигающих бедрами, как обнаружило Bloomberg. Приложение, имеющее рейтинг «E» (для всех), было загружено более 1 миллиона раз из магазина, где пользователи могли найти его, введя в поисковую систему «замена лица».
Okapi Software, компания, предлагающая AI Video Face Swap AI, заявляет, что начала расследование проблем, поднятых Bloomberg, и удалила часть контента, который, по ее словам, был загружен пользователями.
«Наше приложение не предлагает функции «наготы», и мы не разрешаем создавать наготу или контент сексуального характера», — заявляет Окапи. «Мы серьезно относимся к безопасности контента и соблюдению требований».
Регулирующее давление
Все больше и больше регуляторов призывают компании делать больше для соблюдения их правил. В прошлом году президент Дональд Трамп подписал закон Take It Down, который криминализирует публикацию сексуального контента без согласия и требует от социальных сетей и веб-сайтов удалять такие публикации.
В апреле правительство Великобритании планирует представить законопроект, который позволит привлекать к ответственности руководителей технологических компаний, чьи компании не удаляют подобные изображения.
