Стартап по искусственному интеллекту (ИИ) Character.AI запретит детям общаться с чат-ботами на своей платформе после растущего давления со стороны властей и серии судебных исков, утверждающих, что так называемые персонажи компании несут ответственность за причинение вреда детям, сообщает Bloomberg.
Компания объявила, что к 25 ноября она перестанет позволять пользователям в возрасте до 18 лет вести открытое общение со своими чат-ботами, которых люди смогут создавать и общаться в чате. Изображения варьируются от цифровых изображений популярных персонажей видеоигр до макетов знаменитостей, таких как миллиардер Илон Маск. Компания заявила, что пока запрет не вступит в силу, она будет ограничивать время, в течение которого дети могут общаться с ее чат-ботами. Оно начнется с двух часов в день и уменьшится в ближайшие недели.
Такие сервисы, как Character.AI, который предоставляет доступ пользователям в возрасте от 13 лет в США, популярны среди подростков. Опрос некоммерческой организации Common Sense Media показывает, что 70% подростков использовали AI-компаньонов. Несовершеннолетние пользователи Character.AI теперь перенаправляются на более ограниченную версию сервиса, которая использует другую модель ИИ и включает такие ограничения, как меньшее количество типов персонажей, к которым они могут получить доступ, а также ограничения на типы разговоров, которые они могут вести.
С учетом новых ограничений компания планирует начать использовать новую технологию, чтобы улучшить способ проверки возраста пользователей, направляя их на опыт для взрослых или детей до 18 лет. Для этого стартап построил новую модель и начнет использовать программное обеспечение от стартапа по проверке личности Persona.
Персонажи.AI, OpenAI и другие ведущие компании, занимающиеся искусственным интеллектом, все чаще подвергаются критике за то, как их чат-боты могут влиять на психическое здоровье пользователей. С 2024 года родители подали ряд исков против компаний, предлагающих чат-ботов с искусственным интеллектом, утверждая, что широкое использование этой технологии привело к ряду вредных последствий для детей, включая манипуляции и изоляцию, приводящие к смерти в результате самоубийства.
Регуляторы также занимаются этим вопросом. Федеральная торговая комиссия начала расследование в отношении таких компаний, как Character.AI, OpenAI, Google, Meta Platforms, Snap и xAI Илона Маска, по поводу потенциального вреда, который их чат-боты наносят детям. Калифорния недавно приняла закон, ограничивающий способы воздействия чат-ботов на пользователей. А новый двухпартийный закон, представленный в Сенате США во вторник, запретит компаниям, занимающимся искусственным интеллектом, предоставлять несовершеннолетним компаньонов в чат-ботах.
В интервью во вторник генеральный директор Character.AI Карандип Ананд заявил, что компания рассматривает будущее развлечений с использованием искусственного интеллекта как нечто большее, чем просто общение в чате, и решение запретить несовершеннолетним использовать ключевые функции — это то, что компания в конечном итоге сделает в любом случае.
«Я думаю, что мы как отрасль учимся, учитывая, как быстро она развивается, так это тому, что существуют определенно неизвестные аспекты того, на что способны долгосрочные открытые чаты», — прокомментировал Ананд. «Мы не знаем, хорошие они или плохие. По этому поводу определенно ведется много споров, как в исследовательском сообществе, так и в сообществе потребителей».
Ананд утверждает, что компания продолжит предлагать ряд функций детям, использующим этот сервис, например, позволит им создавать короткие видеоролики и рассказы, созданные с помощью искусственного интеллекта, с использованием чат-ботов Character.AI.
«Причина, по которой пользователи приходят в «Персонаж», заключается в том, что им нужен творческий выход. Они хотят иметь возможность играть в ролевые игры», — отмечает Ананд. «Если вы создали персонажей-вампиров или персонажей Хэллоуина, мы хотим продолжать взаимодействовать с ними, но мы думаем, что вместо того, чтобы просто делать это через чат-бота, есть другие способы сделать это».
В прошлом году Google наняла нескольких ключевых членов руководящей команды Character.AI и лицензировала свою технологию для больших языковых моделей в рамках сделки, которая оценила стартап в 2,5 миллиарда долларов. После сделки Character.AI продолжила существовать независимо.
Каждая новость – это актив, следите за Investor.bg и в .
