Согласно новому выпуску Индекса безопасности ИИ Института будущего жизни, опубликованному в среду и цитируемому Reuters, методы обеспечения безопасности крупных компаний, занимающихся искусственным интеллектом, таких как Anthropic, OpenAI, xAI и Meta, «далеки от новых мировых стандартов».
В институте заявили, что оценка безопасности, проведенная независимой группой экспертов, показала, что, хотя компании заняты разработкой сверхразума, ни одна из них не имеет надежной стратегии для управления такими продвинутыми системами.
Исследование было опубликовано на фоне возросшей обеспокоенности общественности по поводу социального воздействия систем, которые «умнее человека», способных рассуждать и логическое мышление, после нескольких случаев самоубийств и членовредительства, связанных с чат-ботами с искусственным интеллектом.
«Несмотря на недавнюю шумиху вокруг хакерских атак с использованием ИИ и того, что ИИ доводит людей до психоза и членовредительства, американские ИИ-компании остаются менее регулируемыми, чем рестораны, и продолжают лоббировать обязательные стандарты безопасности», — сказал Макс Тегмарк, профессор Массачусетского технологического института и президент Future of Life.
Гонка искусственного интеллекта также не демонстрирует никаких признаков замедления: крупные технологические компании инвестируют сотни миллиардов долларов в модернизацию и расширение своих усилий по машинному обучению.
Институт будущего жизни — это неправительственная организация, которая выражает обеспокоенность по поводу рисков, которые интеллектуальные машины представляют для человечества. Основанная в 2014 году, компания первоначально поддерживалась генеральным директором Tesla Илоном Маском.
В октябре группа, в которую входят ученые Джеффри Хинтон и Джошуа Бенджио, призвала запретить разработку сверхразумного искусственного интеллекта до тех пор, пока этого не потребует общество и наука не проложит безопасный путь вперед.
В XAI заявили, что «традиционные СМИ лгут» в ответе, который выглядел как автоматический, а Anthropic, OpenAI, Google DeepMind, Meta, Z.ai, DeepSeek и Alibaba Cloud не сразу ответили на запрос о комментариях по исследованию.
Каждая новость – это актив, следите за Investor.bg и в .
