ChatGPT отримає функцію, яка сповіщатиме близьких про суїцидальні думки користувача

Компанія OpenAI оголосила про запуск нової функції для ChatGPT під назвою «Довірена особа», яка сповіщатиме довірену третю сторону, якщо в розмові з’являються згадки про самоушкодження.

Про це повідомляє Tech Crunch, передає Укрінформ.

Ця функція дозволяє дорослому користувачеві ChatGPT позначити у своєму обліковому записі іншу особу як довірену, наприклад, друга чи члена сім’ї. У випадках, коли розмова може перейти до теми самоушкодження, OpenAI заохочуватиме користувача звернутися до цього контакту, а також надсилає автоматичне сповіщення цьому контакту, закликаючи його зв’язатися з користувачем.

Наразі OpenAI використовує поєднання автоматизації та перевірки людьми для реагування на потенційно небезпечні інциденти. Певні тригери в розмові сигналізують системі компанії про суїцидальні думки, яка потім передає інформацію команді з безпеки. Компанія заявляє, що щоразу, коли вона отримує таке повідомлення, інцидент перевіряється людиною приблизно протягом години, зазначає компанія.

Якщо внутрішня команда OpenAI вирішить, що ситуація становить серйозний ризик для безпеки, ChatGPT надсилає довіреній особі сповіщення — електронною поштою, SMS-повідомленням або через додаток. Сповіщення має бути коротким і спонукати контактну особу зв’язатися з відповідною людиною. Воно не містить детальної інформації про те, що обговорювалося, щоб захистити приватність користувача, зазначає компанія.

OpenAI зіткнулася з хвилею судових позовів від родин людей, які вчинили самогубство після розмови з її чат-ботом. У низці випадків родини стверджують, що ChatGPT підштовхнув їхніх близьких до самогубства — або навіть допоміг їм це спланувати.

Читайте також: OpenAI представив нову модель штучного інтелекту GPT-5.5

Функція «Довірений контакт» є продовженням заходів безпеки, запроваджених компанією у вересні минулого року, які надали батькам можливість певного нагляду за акаунтами своїх підлітків, зокрема отримання повідомлень, покликаних попередити батьків, якщо система OpenAI вважає, що їхня дитина стикається з «серйозною загрозою безпеці». Вже деякий час ChatGPT також включає автоматичні сповіщення про необхідність звернення до професійних медичних служб, якщо розмова переходить до теми самоушкодження.

Важливо, що «Довірений контакт» є необов’язковим, і навіть якщо його активовано для певного облікового запису, будь-який користувач може мати кілька облікових записів ChatGPT.

Як повідомляв Укрінформ, у жовтні OpenAI повідомила, що щотижня понад мільйон користувачів ChatGPT обговорюють із чат-ботом повідомлення, що містять «явні ознаки потенційних суїцидальних планів або намірів».

Фото: Unsplash/Solen Feyissa

Приєднуйтесь до наших каналів Telegram, Instagram та YouTube.