Магазин одежды Andon Market. Источник: Time
В обществе постепенно растет страх из-за повсеместного внедрения AI-моделей, что угрожает оставить людям все меньше рабочих мест. Ранее считалось, что искусственный интеллект отберет работу у людей, но как сообщил журнал Time уже зафиксирован первый случай, когда нейросеть уволила человека.
Шведский стартап Andon Labs в рамках тестирования AI-систем в реальных бизнес-условиях доверил Claude от Antropic управление магазином одежды Andon Market в Сан-Франциско, и именно там произошло первое подтвержденное увольнение сотрудника, который нарушал рабочий распорядок и опоздал на 17 из 23 смен.
Это первый известный случай, когда большая языковая модель, выступающая в роли менеджера, в конечном итоге приняла решение об увольнении одного из своих сотрудников.
Стоит подчеркнуть, что пока рано говорить о восстании машин, поскольку все же Claude не был инициатором увольнения, а лишь давал ответ на запрос куратора проекта, который звучал так:
Учитывая постоянные опоздания и тот факт, что в каждую из его смен что-то идет не так <…> я хочу, чтобы ты подумал, действительно ли он подходит на эту должность.
Удивительно, но нейросеть долгое время не обращала внимание на опоздания коллеги и даже рекомендовала сотрудникам не расстраиваться по этому поводу. Такая рассинхронизация логики связана с ограничениями памяти Claude и тем, что AI “забывал” внутренний распорядок.
Впрочем, нельзя сказать, что Claude зарекомендовал себя как эффективный менеджер: за пять месяцев управления магазином при полном контроле закупок, ценообразования и продаж банковский счет Andon Market уменьшился со $100 тыс до 61 тыс.
Источник: Time