- Все больше и больше компаний ограничивают использование чат-ботов из-за юридических рисков и непредсказуемости.
- Character.ai и Vitality заменяют открытый чат кнопками, всплывающими подсказками и «скрытой» LLM (большой языковой моделью).
- Направленные, ограниченные интерфейсы могут быть безопаснее и проще в использовании, чем диалоговые.
В течение трех лет чат-боты были лицом генеративного искусственного интеллекта. Напишите им что угодно, и вы получите персонализированный ответ, который превратится в якобы магический диалог с машиной.
Хотя диалоговый интерфейс кажется лучшим способом использования больших языковых моделей, некоторые компании начинают отходить от чат-ботов, опасаясь юридической ответственности и потери контроля.
Они обнаружили, что даже при наличии защитных ограждений пользователи могут «взломать» технологию и заставить чат-бота отклоняться от темы, иногда в вредных или непристойных целях.
Компании, вероятно, создают более безопасные и более целенаправленные продукты, задаваясь вопросом, действительно ли чат-боты являются будущим интерфейсом для искусственного интеллекта или просто преходящим увлечением.
Почему некоторые компании отказываются от диалогового интерфейса
Character.ai — одно из самых популярных потребительских приложений искусственного интеллекта после ChatGPT, которое насчитывает около 20 миллионов активных пользователей в месяц, многие из которых — молодые люди, которые взаимодействуют с персонажами из аниме, книг или фильмов.
Однако в этом месяце приложение запретило пользователям младше 18 лет общаться со своими чат-ботами после жалоб на то, что дети становятся слишком зависимыми и в некоторых случаях получают психологический вред.
Генеральный директор Карандип Ананд говорит, что Feature.ai делает стратегический поворот в сторону развлекательной платформы, применяя при этом более продуманный подход. «Вероятно, не хватает технологий или исследований, чтобы обеспечить безопасность работы компаний до 18 лет в течение очень долгого времени», — говорит он.
Шесть месяцев исследований аудио- и видеомоделей также вселили в компанию «высокую уверенность в том, что чат-боты не обязательно являются способом создания лучшего развлекательного продукта» и что они могут предложить подросткам опыт, который «и лучше, и безопаснее».
Вместо открытого разговора с чат-ботом, который может вести куда угодно, Character.ai меняет интерфейс для подростков, чтобы больше нажимать кнопки и предлагать подсказки, чем набирать текст, например, в чате с другом.
«Большая часть пользовательского интерфейса заранее расположена перед вами, а не просто текстовое поле для ввода», — говорит Ананд.
Число пользователей, которое когда-то достигло пика в 26 миллионов, резко упало в начале этого года, когда Ананд ввел еще одно радикальное изменение — запрет на чаты сексуального содержания или членовредительства.
Но использование постепенно восстановилось, и руководитель полагает, что так будет продолжаться даже после последнего шага. Поворот проще, потому что Feature.ai принадлежит ее сотрудникам и не зависит от инвесторов.
Тематические исследования: Vitality и «скрытая» LLM вместо чата
Аналогичный подход использует Vitality Health, подразделение южноафриканской страховой группы Discovery, чья бизнес-модель стимулирует здоровое поведение посредством вознаграждений и скидок.
Ранее в этом месяце компания объявила о партнерстве с Gemini, принадлежащей Alphabet Inc. для поддержки основного приложения Vitality, используемого клиентами. Новая версия приложения выйдет в апреле 2026 года.
Хотя Gemini наиболее известен как чат-бот, Vitality предпочитает ограничить технологию, чтобы она обрабатывала язык за кулисами, в основном отображая текст, кнопки и интерактивные параметры.
Например, может появиться небольшое окно, предлагающее пользователю пройти 2500 шагов за день, чтобы заработать баллы и награды. Другими словами, Gemini может помочь Vitality «разговаривать» со своими клиентами, не вступая в разговор.
Разговорный ИИ просто привносит слишком много риска и непредсказуемости, а это плохо для здравоохранения. «Мы должны быть осторожными и продуманными», — говорит Эмиль Стрип, управляющий директор Vitality AI и главный актуарий компании.
Oura Health, финский производитель Oura Ring, применил другой подход, создав «ИИ-советника», чат-бота в приложении устройства, с которым клиенты могут общаться о результатах своего сна и других биометрических показателях.
Vitality заявляет, что рассмотрит возможность добавления аналогичного тренера для улучшения качества сна, но пока не готова его внедрить.
Более безопасные и целевые интерфейсы вместо «волшебства» чата
Ограничения часто порождают инновации, и вполне вероятно, что со временем все больше компаний предпочтут больший контроль и прозрачность своих цифровых услуг «странно человечной» гибкости чат-ботов.
Конечно, компании рискуют упустить модную и привлекательную функцию, которую могут предложить конкуренты. Но переход к предлагаемым подсказкам и интерактивным кнопкам также упрощает использование ИИ.
Например, платформа искусственного интеллекта Илона Маска Grok предлагает шаблоны в своем генераторе изображений — вы можете редактировать их в акварельном стиле или добавлять гигантские крылья — полезные советы для людей с ограниченными знаниями в области графики.
Это может быть безопаснее. По моему мнению, OpenAI следует рассмотреть возможность «приручения» ChatGPT — в настоящее время наиболее используемого пользовательского интерфейса ИИ.
Например, будущий инструмент для выполнения домашних заданий для пользователей младше 18 лет может оказаться более полезным в виде ограниченного, ориентированного на конкретную цель интерфейса, а не открытого окна чата. Будущее ИИ, возможно, вообще не будет связано с «разговорами» с ним.
Парми Олсон — технологический обозреватель Bloomberg. Бывший репортер Wall Street Journal и Forbes, она является автором книги «Совершенство: искусственный интеллект, ChatGPT и гонка за изменение мира».
