Принц Гарри и его жена Меган присоединились к разнообразной группе общественных деятелей, призывающих запретить развитие искусственного сверхинтеллекта, считающегося потенциальной угрозой человечеству, сообщает Associated Press.
В группу входят видные ученые-компьютерщики, экономисты, художники, христианские лидеры и американские консервативные комментаторы Стив Бэннон и Гленн Бек.
Опубликованное сегодня письмо направлено против таких технологических гигантов, как Google, OpenAI и Meta Platforms, которые конкурируют друг с другом за создание формы искусственного интеллекта, призванной превосходить людей во многих задачах.
«Мы призываем не снимать запрет на развитие сверхинтеллекта до тех пор, пока не будет достигнут широкий научный консенсус о том, что это будет происходить безопасным и контролируемым образом, и пока не будет получена мощная общественная поддержка», — говорится в письме.
В его преамбуле говорится, что инструменты искусственного интеллекта (ИИ) могут принести здоровье и процветание, но наряду с ними многие ведущие компании в этой области ставят перед собой заявленную цель создать в течение следующего десятилетия сверхинтеллект, который сможет существенно превзойти всех людей во всех когнитивных задачах.
Это вызывает обеспокоенность, начиная от экономической нестабильности и бесправия человека, потери свободы, гражданских прав, достоинства и контроля до рисков национальной безопасности и даже потенциального исчезновения человечества.
«Будущее искусственного интеллекта должно служить человечеству, а не заменять его. Я считаю, что истинным критерием прогресса будет не то, насколько быстро мы движемся, а то, насколько мудро мы ведем себя. Второго шанса не бывает», — заявил принц Гарри в личной записке.
Письмо также подписала его жена Меган, герцогиня Сассекская.
«Это не запрет и даже не мораторий в обычном смысле этого слова», — заявил еще один подписавший письмо Стюарт Рассел, пионер искусственного интеллекта и профессор компьютерных наук в Калифорнийском университете в Беркли. «Это просто предложение потребовать адекватных мер безопасности для технологии, которая, по мнению ее разработчиков, имеет значительную вероятность вызвать вымирание человечества. Неужели мы просим слишком многого?» добавил Рассел.
Среди подписавших письмо пионеры искусственного интеллекта Джошуа Бенджо и Джеффри Хинтон, которые являются совместными лауреатами Премии Тьюринга, самой престижной награды в области компьютерных наук. В прошлом году Хинтон также был удостоен Нобелевской премии по физике вместе с Джоном Хопфилдом. Оба активно привлекают внимание к опасностям технологий, которые они помогли создать.
Среди подписавшихся также сооснователь Apple Стив Возняк, британский миллиардер Ричард Брэнсон, бывший президент Ирландии Мэри Робинсон, несколько британских и европейских парламентариев, актеры Стивен Фрай и Джозеф Гордон-Левитт, музыкант Уилл Ам, который уже использовал ИИ в создании музыки.
«Да, нам нужны конкретные инструменты искусственного интеллекта, которые могут помочь вылечить болезни, укрепить национальную безопасность и т. д.», — написал Гордон-Левитт, чья жена Таша МакКоли входила в совет директоров Open AI. «Однако должен ли искусственный интеллект подражать людям, ухаживать за нашими детьми, превращать нас в наркоманов и зарабатывать миллиарды долларов на показе рекламы? Большинство людей этого не хотят», — добавляет актер.
Письмо, вероятно, спровоцирует продолжение дебатов среди исследовательского сообщества в области ИИ о вероятности создания сверхчеловеческого искусственного интеллекта, технических путях его достижения и о том, насколько это может быть опасно.
(БТА)
за важными делами в течение дня следите за нами также в .
