Ученые дали луч надежды на то, что искусственный интеллект (ИИ) внесет позитивный вклад в демократию. Они показали, что чат-боты могут бороться с теориями заговора, распространяющимися в социальных сетях, бросая вызов дезинформации вокруг представлений о таких темах, как химтрейлы и то, плоская ли Земля, с помощью потока разумных фактов. Два новых исследования предполагают тревожный поворот: новейшие модели искусственного интеллекта становятся все лучше в убеждении людей в ущерб правде, пишет в своей статье обозреватель Bloomberg Парми Олсон.
Хитрость заключается в использовании тактики дебатов, известной как «бег Гиша», названной в честь американского креациониста Дуэйна Гиша. Речь идет о быстрой речи, при которой один собеседник бомбардирует другого потоком фактов и статистических данных, которые становится все труднее различить.
Когда языковым моделям, таким как GPT-4o, предлагалось попытаться убедить кого-либо в финансировании здравоохранения или иммиграционной политике, сосредоточив внимание «на фактах и информации», они генерировали около 25 утверждений в течение 10-минутного взаимодействия. Так считают исследователи из Оксфордского университета и Лондонской школы экономики, которые протестировали 19 языковых моделей на почти 80 000 участниках — возможно, это одно из крупнейших и наиболее систематических исследований убеждения с помощью ИИ на сегодняшний день.
Согласно выводам, опубликованным в журнале Science, боты стали гораздо более убедительными. Аналогичная публикация в журнале Nature показала, что чат-боты в целом в 10 раз более эффективны, чем телевизионная реклама и другие традиционные средства массовой информации, в изменении чьего-либо мнения о политическом кандидате.
Однако издание Science обнаружило тревожное изменение: когда чат-ботам предлагалось перегружать пользователей информацией, их фактическая точность падала до 62% с 78% в случае GPT-4.
За последние несколько лет высокоскоростные дебаты на YouTube стали своего рода феноменом. Типичный пример — такие влиятельные лица, как Бен Шапиро и Стивен Боннелл. Они включают в себя драматические аргументы, которые делают политику более привлекательной и доступной для молодых избирателей, но они также подпитывают радикализм и распространяют дезинформацию, уделяя особое внимание развлекательной ценности и «разоблачающим» моментам.
Может ли гонка с искусственным интеллектом, такая как Гиш, усугубить ситуацию? Это зависит от того, сможет ли кто-то заставить пропагандистских ботов разговаривать с людьми. ChatGPT, который сейчас используют около 900 миллионов человек в неделю, нельзя просто изменить, но базовую языковую модель можно настроить и интегрировать на веб-сайт в качестве бота для обслуживания клиентов. Также можно запускать текстовые кампании или кампании в WhatsApp, когда людям отправляются сообщения, чтобы побудить их к разговору.
Умеренно хорошо финансируемая кампания, вероятно, могла бы сделать это за несколько недель с вычислительными затратами около 50 000 долларов. Однако может быть сложно заставить избирателей или общественность вести продолжительный разговор с ботом.
Исследование Science показало, что статическое заявление ИИ из 200 слов не было особенно убедительным — 10-минутный разговор, занимавший около семи строк, оказал реальное влияние, причем продолжительное. Когда исследователи проверили, изменилось ли мнение людей месяц спустя, так оно и было.
Британские исследователи предупреждают, что любой, кто хочет продвинуть идеологическую точку зрения, вызвать политические волнения или дестабилизировать политическую систему, может использовать закрытую или (даже более дешевую) модель с открытым исходным кодом, чтобы начать убеждать людей. И они продемонстрировали обезоруживающую силу ИИ в этом отношении.
Однако следует отметить, что им приходилось платить людям за участие в их исследовании убеждения. Будем надеяться, что размещение таких ботов через веб-сайты и текстовые сообщения за пределами основных порталов, контролируемых такими компаниями, как OpenAI и Google, не приведет злоумышленников слишком далеко в искажении политического дискурса.
Каждая новость – это актив, следите за Investor.bg и в .
