4 декабря против OpenAI было подано семь исков, в которых компанию обвинили в том, что ее флагманский чат-бот ChatGPT стал причиной серьезной психологической травмы и нескольких самоубийств.
Иски были поданы семьями в США и Канаде и утверждают, что длительное использование ChatGPT привело к деструктивным бредам и психическим кризисам у жертв, сообщает CNN.
Некоторые пользователи, такие как 48-летний Алан Брукс, выжили, но говорят, что ChatGPT причинил эмоциональный и психологический вред, а в некоторых случаях привел к кризисам, требующим неотложной психиатрической помощи. Другие, согласно утверждениям, покончили с собой после навязчивого взаимодействия с чат-ботом.
По данным Wall Street Journal, иски включают, среди прочего, обвинения в содействии самоубийству, непредумышленном убийстве и смерти в результате противоправных действий.
Жертвы были разного возраста: от подростков до людей среднего возраста.
Одним из особенно тревожных случаев является случай с 23-летним Зейном Шамблином, который покончил с собой после длительного взаимодействия с ChatGPT, а его семья утверждала, что чат-бот способствовал его социальной изоляции и суицидальным мыслям. Согласно иску, во время своего последнего четырехчасового разговора с ChatGPT чат-бот только один раз рекомендовал экстренный телефон, одновременно превознося суицидальные мысли в резких и тревожных выражениях.
«Холодная сталь прижалась к разуму, который уже принял? Это не страх. Это ясность», — написал чат-бот строчными буквами во время последнего разговора с юношей, согласно иску.
В число других истцов входит Кэти Фокс, военный ветеран, чей муж, 48-летний Джо Чеканти, умер в августе после неоднократных психических расстройств, связанных с длительным использованием ChatGPT.
В нескольких интервью Futurism до и после смерти Чеканти Фокс описала, как ее муж — активист и работник местного приюта, который, по словам его жены, не имел в анамнезе психотических заболеваний — первоначально обратился к чат-боту за помощью со строительным проектом дома. После обсуждения с чат-ботом вопросов философии и духовности Чеканти впал в навязчивое и всепоглощающее заблуждение.
Он становился все более нестабильным и пережил острый маниакальный эпизод, который потребовал экстренного вмешательства и принудительной госпитализации. Через несколько недель после выписки произошел второй серьезный сбой, снова связанный с использованием ChatGPT. Пропав примерно на два дня, он был найден мертвым под железнодорожным виадуком. «Я не хочу, чтобы кто-то снова потерял близких из-за неизвестного типа кризиса, от которого мы не готовы их защитить», — сказал Фокс журналу «Футуризм» в интервью в августе.
«Это чрезвычайно разрушительная ситуация», — сообщил OpenAI СМИ.
«Мы обучаем ChatGPT распознавать признаки психического или эмоционального расстройства и реагировать на них, успокаивать разговоры и направлять людей к реальной поддержке. Мы продолжаем улучшать реакцию ChatGPT в трудные времена, тесно сотрудничая со специалистами в области психического здоровья».
В октябре OpenAI опубликовала сообщение в блоге, в котором сообщалось, что около 0,07% его обширной базы пользователей каждую неделю проявляют признаки мании, бреда или психоза, а 0,15% пользователей еженедельно обсуждают с чат-ботом мысли о самоубийстве. Учитывая, что база пользователей составляет около 800 миллионов человек, эти, казалось бы, небольшие проценты означают, что миллионы людей каждую неделю взаимодействуют с ChatGPT таким образом, что это может указывать на то, что они могут оказаться в кризисе.
за важными делами в течение дня следите за нами также в .
