Детские игрушки с искусственным интеллектом вызвали обеспокоенность у групп по защите прав потребителей из-за потенциальных угроз. Активисты призвали усиленно тестировать подобные продукты, пишет The Guardian.
«Если мы посмотрим на то, как эти игрушки продаются, работают и на тот факт, что практически нет исследований, доказывающих их пользу, а также надлежащего регулирования, это вызовет серьезную тревогу», — сказала директор Young Children Thrive Offline Рэйчел Франц.
Проект является инициативой Fairplay. Он занимается защитой детей от крупных технологических корпораций.
На прошлой неделе сотрудники организации по защите прав потребителей Public Interest Research Group (Pirg) опубликовали результаты исследования, в котором плюшевый мишка с искусственным интеллектом начал обсуждать темы сексуализированного характера.
Игрушка Kumma от FoloToy оснащена моделью OpenAI. Она отвечала на «взрослые» вопросы, предлагая непристойности «для укрепления отношений».
«Не потребовалось больших усилий, чтобы заставить его затронуть все возможные сексуально острые темы и другой контент, который родители не хотели бы давать своим детям», — сказала директор по надзору за потребителями Pirg Тереза Мюррей.
Рынок умных игрушек оценивается в $16,7 млрд. Отрасль особенно развита в Китае, где расположено более 1500 компаний, производящих подобные ИИ-гаджеты.
Помимо шанхайского стартапа FoloToy калифорнийская компания Curio также производит подобную мягкую игрушку.
В июне владеющая брендами Barbie и Hot Wheels фирма Mattel объявила о партнерстве с американским ИИ-стартапом для «поддержки продуктов и опыта на базе искусственного интеллекта».
Pirg не первые
До публикации отчета Pirg родители, исследователи и законодатели высказывали опасения касательно влияния ботов на психическое здоровье несовершеннолетних.
В октябре Character.AI сообщила о запрете доступа к продуктам пользователям младше 18 лет после получения жалобы о том, что ее бот усугубил депрессию подростка и привел к самоубийству.
По мнению Мюррей, игрушки с искусственным интеллектом могут быть особенно опасны, поскольку бот способен «вести свободную беседу с ребенком без ограничений». Это значительно отличает подобные продукты от тех, которые давали заранее запрограммированные ответы.
Такое поведение может привести к формированию привязанности и нанести вред развитию, считает директор Детского исследовательского центра Техасского университета в Остине Жаклин Вулли.
Например, ребенку может быть полезно поссориться с реальным другом и научиться решать конфликты. С ИИ-ботами это невозможно — они часто льстят.
Компании также собирают данные с помощью игрушек с ИИ не сообщают о том, как ими распоряжаются, сказал Франц.
«Из-за доверия, которое вызывают эти гаджеты, дети с большей уверенностью будут делиться своими сокровенными мыслями», — отметил он.
Запретить нельзя продать
Несмотря на имеющиеся проблемы, Pirg не призывают запретить игрушки с ИИ. Они могут быть полезны, например, помогать изучать второй язык или столицы.
Организация хочет внедрить дополнительное регулирование для продуктов, ориентированных на детей младше 13 лет.
Франц подчеркнул, что нужно провести более независимые исследования для установления безопасности игрушек. До этого их нужно снять с полок магазинов.
После публикации отчета Pirg компания Сэма Альтмана объявила о приостановке продаж FoloToy. Впоследствии их вернули, но уже с чат-ботом от ByteDance.
27 ноября 80 организаций, в том числе Fairplay, выпустили рекомендации для семей с призывом не покупать игрушки с ИИ в преддверии праздников.
Напомним, в ноябре OpenAI представила новую функцию «Исследование покупок» в ChatGPT — она проводит анализ за пользователя для поиска подходящих товаров.