OpenAI опубликовала новые данные о том у скольких пользователей ChatGPT проявляются психозы или суицидальные мысли

Компания OpenAI заявила, что около 0,07% пользователей ChatGPT, активных в течение этой недели, проявили признаки чрезвычайных ситуаций в области психического здоровья, включая манию, психоз или суицидальные мысли, добавив, что ее чат-бот с искусственным интеллектом (ИИ) распознает эти конфиденциальные разговоры и реагирует на них. Об этом сообщает BBC.

Компания заявила, что создала сеть экспертов по всему миру, которые будут консультировать ее:

«В число этих экспертов входят более 170 психиатров, психологов и врачей первичной медико-санитарной помощи, которые практиковали в 60 странах, говорится в сообщении компании».

По словам OpenAI, они разработали серию ответов в ChatGPT, чтобы побудить пользователей обращаться за помощью в реальном мире. Недавние обновления ее чат-бота предназначены для «безопасного и чуткого реагирования на потенциальные признаки заблуждения или мании» и отмечают «косвенные сигналы потенциального самоповреждения или риска самоубийства».

Также ChatGPT обучен перенаправлять конфиденциальные разговоры, «исходящие из других моделей, в более безопасные модели», открывая их в новом окне.

Но, как отмечает BBC, взгляд на данные компании вызвал удивление у некоторых специалистов в области психического здоровья.

«Несмотря на то, что 0,07% звучит как небольшой процент, на уровне населения с сотнями миллионов пользователей на самом деле это может быть довольно много людей», — считает доктор Джейсон Нагата, профессор, изучающий использование технологий среди молодежи в Калифорнийском университете в Сан-Франциско.

ChatGPT не так давно, достиг 800 миллионов активных пользователей в неделю.

По оценкам компании, 0,15% пользователей ChatGPT ведут разговоры, которые включают «явные признаки потенциального суицидального планирования или намерения».

Отвечая на вопросы BBC о критике о количестве людей, которые могут быть затронуты, OpenAI заявила, что этот небольшой процент пользователей составляет значительное количество людей, и отметила, что они серьезно относятся к изменениям.

Изменения происходят в связи с тем, что OpenAI сталкивается с растущим юридическим контролем за тем, как ChatGPT взаимодействует с пользователями.

Так калифорнийская пара подала в суд на компанию из-за смерти их сына-подростка, утверждая, что ChatGPT подтолкнул его покончить с собой в апреле. Иск был подан родителями 16-летнего Адама Рейна и стал первым судебным иском, обвиняющим OpenAI в неправомерной смерти.

В другом случае подозреваемый в убийстве-самоубийстве, которое произошло в августе в Гринвиче, штат Коннектикут, опубликовал часы своих разговоров с ChatGPT, которые, по-видимому, подпитывали бред предполагаемого преступника.

Кстати, на прошлой неделе в Казахстане сенат вернул в мажилис закон об ИИ. Телеграм-канал «Политпросвет» пишет, что сенаторы в целом поддержали законопроект «Об искусственном интеллекте» и сопутствующие поправки, но предложили внести в документы ряд уточнений:

«В частности, норму об обязательном страховании ответственности за вред, причинённый системами ИИ, а также требование принимать меры по предотвращению угроз, а не только по минимизации ущерба. Произведения, созданные с использованием ИИ, будут охраняться авторским правом только при наличии творческого вклада человека».

#ИИ #психика #здоровье #технологии #мир

✅ Подписывайтесь на https://t.me/ayel_kz