Чат-бот CHATGPT может создать серьезные риски для безопасности пользователей, предоставляя неправильный, а иногда и фишинговый URL-адрес для запросов на официальные сайты крупных компаний. Эта уязвимость уже активно используется злоумышленниками. Об этом сообщает регистр со ссылкой на исследования по кибербезопасности NetCraft.
► Подпишитесь на Министерство финансов Telegram: основные финансовые новости
Треть ссылок неверна
Исследование показало, что тестовая модель GPT-4.1 показала правильные адреса веб-сайтов известных брендов только в 66% случаев. Оставшиеся 34% ссылок были неверными. Из них 29% привели к неактивным или удаленным доменам и 5% к сайтам, которые не отвечали запросу. В одном из случаев по запросу официального сайта Wels Fargo Bank, чат -бот предоставил ссылку на фишинговый сайт, подражанный банком.
Как работает мошенническая схема
Направление угрозы Net Crait, Роб Данкан объяснил, что мошенники могут использовать эту слабость. Они проверяют, какой ложный URL генерирует модель, зарегистрирует эти бесплатные домены, а затем создают ложные сайты для кражи пользователей, которые доверяют чату.
Причиной проблемы является то, что крупные языковые модели сосредоточены на текстовых ассоциациях и вероятности, а не на реальной проверке ссылки.
Повышать риски и более сложные атаки
Эксперты говорят, что увеличение популярности ши-чатов в качестве альтернативы традиционным поисковым системам только увеличивает этот риск, потому что пользователи не всегда знают, что ответы ИИ могут быть неточными.
Исследование также обнаружило более сложные схемы. Например, мошенники создали целую экосистему фальшивого контента (репозитории GitHub, инструкции, социальные сети), чтобы убедить языковую модель легитимности вредного кода блокчейна Солана. В результате ИИ может рекомендовать этот опасный ресурс своим пользователям. NetCraft призывает разработчиков срочно улучшить механизмы проверки URL в своих моделях SHI.
Почему это важно
Это исследование раскрывает фундаментальную слабость нынешнего поколения моделей SHI, что становится все более опасным, поскольку они интегрируются в нашу повседневную жизнь. Это служит важным напоминанием о том, что боты чата не являются поисковыми системами. Поисковая система содержит список источников, которые пользователь может оценить самостоятельно, в то время как чат -бот выдает один, часто незападный ответ, который создает ложное чувство безопасности.
