ЧатГПТ. Источник: Ілюстративне зображення
На этой неделе OpenAI должна анонсировать новую модель GPT-5. При ее разработке OpenAI сотрудничала с экспертами и консультативными группами, чтобы ChatGPT сумел выявить психические и эмоциональные нарушения и предоставлять доказательные данные, если это нужно. ИИ будет обращать внимание на "тревожные маркеры", которые указывают на переутомление, депрессию или суицидальные настроения.
В последнее время появлялись отчеты от экспертов, которые обращали внимание на то, что нейромежи могут ухудшать психологические расстройства. Их подхалимский поддерживающий тон может быть неуместным в потенциально опасных ситуациях. Кроме того, они могли давать советы в неоднозначных ситуациях, типа "нужно ли бросить парня?".
OpenAI уже давно заявляет, что ChatGPT не является заменой психологу или психотерапевту (как и любому другому врачу), но часто нейросеть является первым собеседником, который может заподозрить проблему.
В рамках программы "здорового пользования", OpenAI реализовала напоминание сделать перерыв. Если пользователь длительное время непрерывно общается с нейросетью, ChatGPT будет выводить сообщение, что стоит сделать передохнуть. При необходимости пользователь может продолжить общение. Компания все еще подбирает критерии лучшего определения времени для показа этого напоминания.