В эпоху ИИ сотрудники Walmart исправляют ошибки алгоритмов

Walmart активно инвестирует в ИИ и внедряет новые инструменты для тысяч сотрудников на местах. Однако выяснилось, что сами алгоритмы нуждаются в дообучении, и эту работу фактически переложили на персонал. Работники тратят время на то, чтобы объяснять системам то, что им неизвестно о реальных рабочих процессах, добавлять недостающий контекст и корректировать их суждения. Новые технологии, призванные повысить эффективность, пока создают дополнительную нагрузку.

Сотрудники уже делятся недовольством в соцсетях. На Reddit появились десятки постов и сотни комментариев от пользователей, называющих себя работниками Walmart. Они обсуждают странные предупреждения от ИИ о безопасности, непонятные требования систем и способы их применения. Один из менеджеров по персоналу, отвечающий за найм и обучение новичков, пожаловался, что алгоритмы распределения задач по умолчанию ожидают от людей идеального выполнения каждого действия.

Работник склада электронной коммерции рассказал, что физически не успевает собирать заказы с требуемой скоростью, потому что ИИ составляет неоптимальные маршруты по магазину. Система заставляет его метаться по всему залу, и рассчитанное время оказывается нереалистичным. «Я почти никогда не укладываюсь в нормативы. Это просто невозможно», — цитирует его издание.

Водители сервиса доставки Walmart Spark также столкнулись с нелогичными рекомендациями. Новая функция Smart Path иногда советует брать замороженные продукты, включая пакеты со льдом, в самом начале похода по магазину, а не в конце. К моменту оплаты товары успевают подтаять, и на дополнительные усилия водителям приходится тратить время, которое они могли бы потратить на следующий заказ.

Отдельно работники жалуются на систему мониторинга безопасности. Она учится анализировать данные камер и датчиков, но пока часто ошибается. Одна из сотрудниц рассказала, что при отметке о приходе на работу через мобильное приложение получает шквал уведомлений о тревогах в других отделах. По идее, такие предупреждения должны помогать быстро устранять проблемы — например, вовремя убирать пролитую жидкость или замечать сбой в работе холодильного оборудования. На деле ИИ нередко требует от людей поправить его выводы или объяснить, почему ситуация не является опасной.

При этом руководство Walmart настаивает, что технологии созданы в помощь, а не для контроля. В июле вице-президент по инструментам для сотрудников Брукс Форрест заявил, что магазины сами решают, как применять новинки. Он подчеркнул, что работников не наказывают за игнорирование указаний систем, и конечное решение всегда остается за человеком. Пока же пилотное внедрение ИИ показывает, что переобучению в Walmart подлежат не только люди, но и сами алгоритмы.