- Предстоящая модель искусственного интеллекта от Anthropic вызвала тревогу среди финансовых лидеров на встречах МВФ и Всемирного банка из-за ее способности самостоятельно взламывать защиту банков и платежных систем.
- Представители центральных банков предупреждают, что скорость развития ИИ опережает регулирование и может парализовать международную кибербезопасность.
- Конфликт на Ближнем Востоке усилил опасения, что такие технологии могут попасть в руки враждебных государств и использоваться для спонсируемых государством хакерских атак.
Война и энергетический шок исторических масштабов создают серьезные риски для финансовой стабильности, с которыми трудно конкурировать.
Однако еще не выпущенная модель искусственного интеллекта Anthropic под названием Mythos добавила дополнительный элемент тревога на переговоры между официальными лицами, собравшимися в Вашингтоне в двух учреждениях, созданных восемь десятилетий назад для содействия глобальной экономической гармонии.
На весенних заседаниях Международного валютного фонда и Всемирного банка военный конфликт на Ближнем Востоке был главной темой разговоров и вынудил правительства законсервировать свои планы реагирования на кризис, взять на себя обязательства по сотрудничеству, где это возможно, и поддержать потребление с помощью фискальных и монетарных инструментов. Что касается Mythos, вопросов было гораздо больше, чем ответов.
«Если он попадет не в те руки, результаты могут быть ужасающими», — заявила Bloomberg TV во вторник президент Европейского центрального банка Кристин Лагард.
Она помнила о разрушительном потенциале Mythos и присоединилась к другим руководителям центральных банков, министрам финансов, регулирующим органам и инвестиционным руководителям в поисках информации о потенциальных угрозах и мерах защиты.
Общую характеристику проблемы достоянием общественности стала информация Bloomberg News. По ее словам, министр финансов Скотт Бессент собрал лидеров Уолл-стрит, чтобы предупредить их о будущей модели искусственного интеллекта, которая может открыть новую эру кибератак, запускаемых ботами автономно.
«Я уверен, что теперь все присоединились к нам и работают в одном направлении над повышением устойчивости», — сказал Бессент CNBC в среду.
Однако за пределами США кажущаяся срочность этой встречи способствовала созданию атмосферы повышенной тревоги среди высокопоставленных правительственных чиновников и банкиров. Некоторые из них опасались технологии, которая может взломать традиционную киберзащиту, подвергая финансовую систему неизмеримым угрозам.
«Было бы разумно предположить, что события в Персидском заливе являются последним вызовом для нас в этом мире», — заявил управляющий Банка Англии Эндрю Бэйли на мероприятии в Колумбийском университете в Нью-Йорке в начале этой недели. Пока «вы не проснетесь и не обнаружите, что Anthropic, возможно, нашел способ прорваться через всю систему кибербезопасности, и не подумаете: «Что я сделал не так в своей прошлой жизни?»
Основные вопросы
Проблема, стоящая перед Бэйли и другими ведущими экспертами по финансовой стабильности, заключается в том, что они недостаточно знают об угрозах, чтобы понять, насколько прогресс Mythos соотносится с растущими рисками кибербезопасности, о которых они предупреждали годами.
Может ли «Миф» привести к массовому разграблению банковских счетов, парализовать международные платежные системы или спровоцировать кризис доверия, который подрывает основу финансовой системы – доверие?
Похоже ли это на риски квантовых вычислений, известную угрозу, которую регулирующие органы уже изучают, или потребуется разработать новый план?
Эти вопросы висели в коридорах и конференц-залах отеля «Уиллард» в Вашингтоне, где Авраам Линкольн жил до своей инаугурации и где Институт международных финансов на этой неделе принимал высокопоставленных чиновников и менеджеров.
Многие из них остаются без ответа.
«Мифы Клода» посвящены разработке программного обеспечения.
Пока не было ясно, в какой степени базирующаяся в Сан-Франциско компания Anthropic делилась подробностями и доступом к Mythos с чиновниками и банками за пределами США.
Глава американского европейского банка заявил, что им обещали брифинг. Ограниченный доступ может привести к тому, что часть глобальной финансовой системы не сможет последовать совету Международного валютного фонда оставаться «на острие» кибербезопасности.
Министр финансов Канады Франсуа-Филипп Шампань заявил, что Mythos «требует нашего полного внимания» и что он хотел бы поднять этот вопрос со своими коллегами.
«У нас есть общий интерес в обеспечении стабильности нашей финансовой системы», — сказал он в интервью в среду.
Технологическая команда Казначейства США пытается получить доступ к модели искусственного интеллекта Mythos от Anthropic PBC, чтобы начать поиск уязвимостей, сообщил Bloomberg на этой неделе источник, знакомый с ситуацией.
Джон Уильямс, президент Федеральной резервной системы Нью-Йорка, заявил в четверг, что недавние достижения «показали, что возможности этих инструментов искусственного интеллекта — как для обнаружения уязвимостей, так и для их использования — развиваются гораздо быстрее, чем многие ожидали».
Федеральная резервная система Нью-Йорка является ключевым центром управления глобальными финансовыми операциями и мониторинга рисков для стабильности.
Роль Совета по финансовой стабильности (СФС)
Угрозы финансовой стабильности традиционно координировались через Совет по финансовой стабильности (СФС), который в настоящее время возглавляет Эндрю Бэйли из Банка Англии.
Но ФСБ по большей части остается в тени в вопросах киберрисков, а некоторые из ее членов не решаются быть прозрачными в широкой группе, в которую входят такие страны, как Китай. В результате цифровое пространство остается в основном в руках ограниченных групп, таких как G7.
В среду обсуждалась необходимость создания международной институциональной структуры для надзора за министрами финансов стран «Большой семерки». регулирование искусственного интеллекта. Это потому, что ни одна страна не может справиться с рисками Mythos в одиночку, сказали два человека, участвовавшие в переговорах.
Существует поддержка исследований по этой теме, учитывая экспоненциальный рост рисков и их потенциально тяжелые последствия, добавил один из них, хотя путь вперед неясен.
К беспокойству добавляются повышенные геополитические риски, которые сопровождают апокалиптический сценарий, в котором технологии перейдут от преобразования эффективности финансового сектора к разрушению его технологической инфраструктуры. Конфликт на Ближнем Востоке вызывает опасения по поводу хакерских атак, спонсируемых государством.
«Острая необходимость» регулирования
И правительственные чиновники, и банкиры осознают, что если такая революционная технология искусственного интеллекта может быть создана американской компанией, она, вероятно, также может быть разработана компанией в более враждебной стране, которая не предупредит Уолл-стрит о надвигающейся угрозе.
«Возможности искусственного интеллекта развиваются быстрее, чем разрабатывается нормативная база для их контроля», — сказала Лейла Хаваджа, директор по исследованиям компании Gavekal Technologies, которая контролирует технологический сектор в США и Китае. «Существует острая необходимость создать меры защиты, прежде чем эти модели глубоко укоренятся в таких критически важных системах, как финансы».
Поиск ответов на этой неделе также подчеркивает разрыв между теми, у кого есть ИИ, и теми, у кого его нет, а также фрагментацию глобальной экосистемы финансовой стабильности. Европа все больше обеспокоена своей чрезмерной зависимостью от иностранных технологических компаний.
Чиновники выразили сожаление по поводу подхода «каждый сам за себя», который все чаще проникает в глобальные разговоры о финансах и может препятствовать эффективному обмену информацией о глобальных рисках. Несколько европейских чиновников заявили, что они будут использовать встречи на этой неделе, чтобы побудить своих американских коллег поделиться всем, чем они могут.
Элизабет Свантессон, министр финансов Швеции, сообщила Bloomberg News, что в четверг состоится «встреча раннего предупреждения» с руководителями центральных банков и министрами, на которой одной из тем станет искусственный интеллект.
«Мое послание будет заключаться в том, что искусственный интеллект — это фантастика, но непредсказуемое руководство в сочетании с ним опасно», — сказала она. Она добавила, что американо-израильская война и отсутствие безопасности были доминирующими темами, наряду с киберугрозами.
