Чат-боты уже три года являются лицом генеративного искусственного интеллекта (ИИ). Введите в них что угодно, чтобы получить персонализированный ответ, который превратится в волшебный диалог с машиной. Хотя этот диалоговый интерфейс может показаться лучшим способом использования больших языковых моделей, некоторые компании начинают отходить от чат-ботов, опасаясь ответственности и потери контроля, написал редактор Парми Олсон в комментарии Bloomberg.
Они обнаружили, что даже при наличии мер безопасности пользователи могут «сломать» технологию и заставить чат-бота отклониться от темы, иногда в вредном или неприятном направлении. Компании, возможно, помогают нам прикоснуться к этой магии, но они также потенциально создают более безопасные и целенаправленные продукты и поднимают вопросы о том, действительно ли чат-боты являются будущим интерфейсом искусственного интеллекта или просто преходящим увлечением.
Character.ai — одно из самых популярных потребительских приложений искусственного интеллекта после ChatGPT, которое ежемесячно насчитывает около 20 миллионов активных пользователей, многие из которых — молодые люди, которые общаются с персонажами на его платформе. Однако недавно компания запретила пользователям младше 18 лет общаться со своими чат-ботами после жалоб на то, что дети становятся слишком зависимыми и, в некоторых случаях, получают психологический вред.
Генеральный директор Карандип Ананд говорит, что Feature.ai делает стратегический поворот в сторону превращения в развлекательную платформу, а также придерживается более осторожного подхода. «Вероятно, не хватает технологий или исследований, чтобы гарантировать безопасность общения с детьми младше 18 лет в течение очень длительного периода времени», — говорит он. Шесть месяцев исследований с использованием аудио- и видеомоделей также дали его компании «твёрдое убеждение в том, что чат-боты не обязательно являются способом создания лучшего развлекательного продукта». Фирма может предложить способы обслуживания детей младше 18 лет, которые будут «и лучше, и безопаснее».
Вместо того, чтобы предлагать открытый разговор с чат-ботом, который может привести к чему угодно, Character.ai меняет свой подростковый интерфейс, чтобы в нем было больше нажатий кнопок и подсказок, чем текстовых сообщений, что похоже на обмен сообщениями с другом.
База пользователей Character.ai, которая когда-то достигла пика в 26 миллионов, сократилась в начале этого года, когда Ананд внес еще одно радикальное изменение в компанию, запретив разговоры с чат-ботами, которые касаются сексуального контента или членовредительства. Но потребление постепенно восстановилось, и генеральный директор считает, что так будет продолжаться даже после его последнего шага. Этого поворота ему добиться легче, потому что Feature.ai принадлежит ее сотрудникам и не связан с инвесторами.
Аналогичный подход использует Vitality Health, подразделение южноафриканской страховой группы Discovery, чья бизнес-модель пытается стимулировать здоровое поведение среди подписчиков посредством вознаграждений и скидок. Ранее в этом месяце компания объявила о партнерстве с Google, принадлежащей Alphabet, в рамках которого она будет использовать Gemini, большую языковую модель технологической фирмы, для поддержки основного приложения Vitality, используемого клиентами. Новая версия приложения выйдет в апреле 2026 года.
Хотя Gemini наиболее известен как чат-бот, Vitality предпочитает ограничивать технологию, чтобы она обрабатывала язык за кулисами, а не отображала в основном текст, кнопки и параметры, на которые люди могут нажимать. Например, он может отображать небольшую рамку, призывающую пользователей пройти 2500 шагов в этот день, чтобы заработать баллы и награды. Другими словами, Gemini может помочь Vitality «разговаривать» со своими клиентами, не вступая в разговор.
Разговорный ИИ просто приносит слишком много риска и непредсказуемости, что совсем не хорошо в здравоохранении. «Мы должны быть осторожны и все тщательно продумать», — говорит Эмиль Стипе, управляющий директор Vitality AI. Oura Health, финский производитель Oura Ring, использует другой подход со своим «AI Advisor», чат-ботом в приложении устройства, с которым клиенты могут обсуждать результаты своего сна и другие биометрические данные. Vitality заявляет, что рассмотрит возможность добавления аналогичного тренажера, который потенциально поможет улучшить качество сна, но компания пока не готова применять его на практике.
Ограничения часто могут способствовать инновациям, и вполне вероятно, что со временем все больше компаний поймут, что они предпочитают иметь больший контроль и понимание своих цифровых услуг, чем, казалось бы, громоздкую работу чат-ботов. Конечно, компании рискуют упустить современную и привлекательную функцию, которую могут предложить их конкуренты. Но переход к предлагаемым подсказкам и интерактивным кнопкам также упрощает использование ИИ. Платформа Grok AI Илона Маска предлагает шаблоны в своем инструменте создания изображений. Вы можете редактировать изображения в акварельном стиле или, например, добавлять большие крылья, что может быть удобно для людей с ограниченными знаниями в этой области.
Это может быть безопаснее. OpenAI, вероятно, следует рассмотреть возможность регулирования ChatGPT, в настоящее время самого популярного пользовательского интерфейса искусственного интеллекта. Например, в будущем инструменты для пользователей младше 18 лет могут быть более полезными, если они будут ограничены и будут использовать специальный интерфейс, а не открытое окно чата. Будущее искусственного интеллекта может вообще не заключаться в общении с ним.
Каждая новость – это актив, следите за Investor.bg и в .
