Логотип ChatGPT. Источник: Google
OpenAI сдержала обещание и после резонансных скандалов и несчастных случаев запускает режим ChatGPT для несовершеннолетних пользователей с дополнительными ограничениями на чувствительный контент, инструментами родительского контроля и системой определения возраста.
Что такое ChatGPT для подростков
Подростковый режим предназначен для пользователей возрастом от 13 до 17 лет (дети моложе не могут пользоваться ChatGPT по определению). ChatGPT может определить, что аккаунт, вероятно, принадлежит несовершеннолетнему и автоматически применить соответствующие настройки безопасности. При этом сам аккаунт продолжает работать: подростки по-прежнему могут использовать ChatGPT для учебы, творчества, поиска информации и повседневных задач.
OpenAI объясняет запуск тем, что подростки уже активно используют нейросети и девять из десяти подростков, которые пользуются ChatGPT, обращаются к нему в течение недели для учебы, получения информации, развития навыков или повышения продуктивности. Поэтому запрещать чат-боты нецелесообразно, а вместо этого следует установить жесткие рамки получения информации.
Какие ограничения появляются
В подростковом режиме ChatGPT осторожнее работает с рядом потенциально чувствительных тем. В частности, система может ограничивать графическое насилие, опасные вирусные челленджи, сексуальный и романтический ролевой контент, а также материалы, связанные с экстремальными стандартами внешности и нездоровыми диетами.
OpenAI подчеркивает, что система определения возраста является дополнительным уровнем защиты, а не единственным механизмом безопасности. Она анализирует различные сигналы, связанные с аккаунтом и особенностями его использования. При этом компания признает, что автоматическое определение возраста не идеально: если взрослый пользователь ошибочно попал в подростковый режим, он может подтвердить свой возраст, предоставив соответствующий документ.
Родители получат больше контроля
Отдельный элемент системы — родительский контроль. Родитель может связать свой аккаунт с аккаунтом подростка и управлять рядом параметров: ограничением чувствительного контента, памятью, голосовым режимом, генерацией изображений и временем, когда ChatGPT доступен для использования. Родители могут обозначит “часы тишины”, когда их ребенок не сможет обратиться к чат-боту, чтобы не было злоупотреблений, например, ночью или во время школьных занятий.
При этом родительский контроль не превращает ChatGPT в инструмент постоянного наблюдения: родители не получают доступ к перепискам подростка. В отдельных случаях, связанных с потенциально серьезными рисками для безопасности, система может отправить родителю специальное уведомление.
В Европе запуск будет учитывать местные требования
OpenAI сообщает, что глобальное внедрение системы определения возраста продолжается. Для пользователей в Европейском союзе компания планирует внедрение с учетом региональных требований.
Источник: OpenAI