OpenAI внедряет в ChatGPT функцию уведомления близких при угрозе безопасности
Компания OpenAI представила важную функцию безопасности для пользователей ChatGPT — «Доверенные контакты». Теперь искусственный интеллект сможет не только давать советы, но и своевременно предупреждать близких пользователя, если в переписке будут замечены признаки психологического кризиса или опасного поведения.
Как это работает?
Система активируется в исключительных случаях, когда нейросеть фиксирует сигналы, указывающие на риск самоповреждения. Алгоритм действий следующий:
1.Предупреждение: ChatGPT сначала предложит пользователю обратиться за помощью самостоятельно.
2.Проверка: Сигнал тревоги передается специальной группе безопасности OpenAI для подтверждения реальности угрозы.
3.Уведомление: Если риск подтвержден, доверенному лицу отправляется краткое сообщение через SMS, электронную почту или приложение.
Конфиденциальность и безопасность данных
Важным аспектом является сохранение тайны переписки. Доверенный контакт не получит доступа к истории чата, не увидит скриншотов или цитат. Ему придет лишь общее оповещение о возможной проблеме с безопасностью пользователя. Это позволяет сохранить баланс между приватностью и необходимостью экстренной помощи.
Функция доступна совершеннолетним пользователям на добровольной основе. Для активации нужно указать контакт близкого человека и получить его подтверждение в течение недели. Пользователь сохраняет полный контроль: доверенное лицо можно сменить или отключить опцию в любой момент. Новинка, разработанная совместно с экспертами, призвана поддержать людей в критические минуты.
ORIENT
