Google оперативно выпустила интеллектуального чат-бота Bard, пытаясь не отстать в гонке генеративных ИИ. Поспешность выглядела очевидной не только после релиза, но и во время внутреннего тестирования. По информации Bloomberg, сотрудники компании отмечали неготовность Bard к запуску, называя бот «патологическим лжецом», «достойным отвращения» и «хуже, чем бесполезным».
Курс Junior Data Analyst. Любиш чіткість і гроші? Вривайся в IT і ставай Data Analyst лише за 4 місяці. Я вже знаю, на що витрачу першу зарплату
Ссылаясь на внутреннюю документацию и свидетельства 18 нынешних и бывших сотрудников, издание утверждает, что в Google были в курсе о неудовлетворительной работе Bard, но всё равно решились на релиз.
- Одно из сообщений сотрудников во внутреннем чате с 7000 участников гласило: «Bard хуже, чем бесполезен: пожалуйста, не запускайте» – многие согласились с этой оценкой.
- Другой сотрудник обратился к Bard с вопросом о том, как посадить самолет – бот регулярно давал ответы, которые могли бы привести к падению.
- Также он давал ответы о подводном плавании с аквалангом, которые «вероятно приведут к серьезным травмам или смерти».
Несмотря на просьбы и замечания сотрудников, Google «отменил оценку риска», представленную внутренней командой безопасности, которая предупреждала, что Bard не готов к выпуску.
Источники Bloomberg говорят, что Google, стремясь не отставать от конкурентов, предлагает низкокачественную информацию, уделяя мало внимания этическим нормам. Утверждается, что сотрудникам, ответственным за безопасность и этические последствия новых продуктов, было приказано держаться подальше от разрабатываемых инструментов генеративного ИИ.
- Google уволил исследователя ИИ Тимнит Гебру в 2020 году после того, как она написала исследовательскую работу о неэтичности языковых систем ИИ.
- Маргарет Митчелл, одна из руководителей команды по этичности ИИ, которая написала статью в том же духе, была уволена через несколько месяцев из-за обвинений в неправомерном поведении.
Google ощутимо отстает в области генеративного ИИ от основного конкурента, Microsoft. Интеграция искусственного интеллекта в Bing не только привела к росту аудитории браузера свыше 100 млн активных пользователей в день, но и заставила Samsung рассмотреть возможность перехода с поиска Google на Bing в своих устройствах.
Підрядники Google навмання оцінюють відповіді чатбота Bard через обмежений час для тестування — Insider