Amazon доверил увольнение сотрудников искусственному интеллекту

Проблема в том, что попасть в список неугодных может попасть абсолютно любой, даже идеальный, сотрудник.
В Интернет просочилась информация об уникальном нововведении в магазинах Amazon на территории США. Так, компания внедрила новое программное обеспечение, основной функцией которого является отслеживание деятельности водителей-курьеров IT-корпорации. Если искусственному интеллекту работа курьера покажется несоответствующей нормам, то в нем прописана возможность не только зарегистрировать нарушение, но и уволить сотрудника. 

В Amazon роботы начали принимать решения об увольнении людей, даже если они ни в чем не виноваты

Amazon создала алгоритм для увольнения водителей-курьеров. Программа отслеживает все их действия, а также сроки доставки посылок, и на основе всех данных принимает решение об увеличении числа заказов или, наоборот, лишении человека работы. Однако алгоритм не учитывает массу внешних факторов, влияющих на сроки доставки – поломанные постаматы, пробки, аварии, отсутствие жильцов. В итоге курьер может остаться без работы не по своей вине.

  

Компания Amazon автоматизировала процесс принятия решений об увольнении своих работников. Как пишет Bloomberg, пока это коснулось только водителей-курьеров, работающих на Amazon по подряду через ее программу Flex. Другими словами, участники Flex в штат Amazon не входят, подобно водителям Uber или «Яндекс.Такси».

Умный алгоритм американской компании полностью контролирует водителей. Он отслеживает их действия на рабочем месте и на основе полученных данных формирует рейтинги, после чего принимает решение сохранить за ними рабочее место или же отправить их искать нового работодателя.

Алгоритм Amazon фиксирует ряд различных параметров. Например, он учитывает, успел ли курьер доставить заказ вовремя, или же клиенту пришлось ждать. Также при выставлении рейтинга умная программа «вспоминает», отдал ли водитель посылку непосредственно в руки заказчику, или же он просто оставил ее под дверью.

На основе всех этих данных искусственный интеллект определяет, кто из водителей останется на работе, и кто из них будет получать больше заказов, а кто – меньше. Они же влияют и на решение об увольнении того или иного курьера.

Судьбами курьеров Amazon теперь распоряжается искусственный интеллект
В случае, когда машина принимает решение оставить водителя без работы, ему без промедлений блокируется доступ к приложению Flex, где он получает заказы на доставку товаров. Однако при составлении рейтинга алгоритм не учитывает различные внешние обстоятельства и форс-мажоры, будь то пробки, ДТП или что-либо еще.

Водители недовольны.

Программа Amazon Flex была запущена еще в 2015 г. В настоящее время водители, участвующие в ней, получают по $25 в час за доставку товаров клиентам Amazon. По информации Bloomberg, внедрение алгоритмов, принимающих те или иные решения, поддерживает и основатель компании Джефф Безос (Jeff Bezos). По его мнению, искусственный интеллект способен принимать решения быстрее и лучше людей, что снижает затраты компании.

Эксперты Bloomberg, узнавшие об умном роботе, увольняющем людей в Amazon, связались с несколькими водителями. Всего они опросили 15 бывших участников программы Flex, и четверо из них безапелляционно заявили, что были уволены незаслуженно или по ошибке.

Один из водителей рассказал, что Amazon отправила его доставлять несколько посылок в жилые комплексы, въезд на территорию которых оказался закрыт. Доставить эти заказы он так и не смог.

Другой же водитель получил поручение по доставке посылки в постамат, который на поверку оказался неисправным. Курьер связался со службой поддержки Amazon и получил рекомендацию вернуть эти посылки обратно на склад. Однако искусственный алгоритм посчитал это нарушением правил компании и занизил рейтинг водителя.

Спустя несколько недель после этого инцидента курьер получил письмо от Amazon. В нем сообщалось, что его рейтинг в программе Flex опустился ниже предельно допустимого уровня, и что он уволен.

Издание также привело в пример жительницу Техаса (США) Нидру Лиру (Neddra Lira). 42-летняя мать троих детей зарабатывала на жизнь тем, что водила школьный автобус, но потом решила подключиться к Amazon Flex.

С 2017 г. Лира доставила 8000 посылок, и все это время она имела очень высокий рейтинг в программе. Но однажды она проколола колесо, о чем уведомила службу поддержки, где ей посоветовали вернуть посылки на склад. Она последовала совету, однако сразу после этого ее рейтинг резко упал. Через несколько дней она получила уведомление об увольнении.

Проще доверять, чем разбираться.

Офисные сотрудники Amazon тоже не очень лестно отзываются о виртуальном «кадровике». По их словам, данный алгоритм не учитывает реальные условия работы курьеров и не корректирует показатели на основе различных внешних факторов.

Бывшие сотрудники Amazon, не скрывая, сообщили, что в компании осведомлены о неидеальной работе алгоритма. То есть, людей увольняют с молчаливого согласия компании, потому что, по их словам, проще доверять искусственному интеллекту, нежели потом нести расходы и расследовать случаи ошибочных увольнений.

Со слов работника Amazon, старых курьеров очень легко заменить новыми. Сами курьеры не имеют почти никаких средств защиты от подобного увольнения. Как пишет Bloomberg, они могут обратиться в арбитраж, если считают, что их лишили работы по ошибке. Однако это будет стоить им $200, и большинство считают подобную затею пустой тратой времени и денег.

Согласно статистике AppAnnie, за все время существования программы Amazon Flex одноименное фирменное приложение скачали около 4 млн водителей. Из них 2,9 млн человек были из США. Притом темпы скачивания этого ПО растут. Например, за первые пять месяцев 2021 г. приложение Amazon Flex загрузили более 660 тыс. водителей в США – это на 21% больше в сравнении с аналогичным периодом 2020 г. (статистика SensorTower).

Программисты защищают свое детище
Софтверные инженеры, разработавшие ПО для Flex, по их словам, пытались сделать работу алгоритма максимально честной и прозрачной. Один из бывших программистов Amazon рассказал Bloomberg, что, несмотря на все усилия, искусственный интеллект пока не в состоянии учесть множество факторов при составлении рейтинга водителей.

В качестве примера он привел пробки и проблемы при доступе в жилые комплексы. Однако он подчеркнул, что с проблемами из-за работы алгоритма сталкивается подавляющее меньшинство водителей.

Со слов одного из работников Amazon, связанного с Flex, около 95% курьеров доставляют свои посылки вовремя и без каких-либо происшествий. Трудности испытывают лишь оставшиеся 5%.

Водители тоже не так просты.

Курьерам Amazon Flex есть, что противопоставить умному роботу-кадровику. В сентябре 2020 г. CNews писал, что водители Amazon из пригорода Чикаго (США) реализовали легальную схему сбора заказов для их самостоятельного выполнения и получения дополнительных денег. Чтобы заказы не достались водителям-конкурентам, они стали развешивать смартфоны на деревьях около распределительных центров Amazon, потому что программа, раздающая заказы, отдает преимущество тем курьерам, кто находится ближе всех к таким центрам.

Курьеры были вынуждены пойти на этот шаг на фоне возросшей конкуренции в сфере доставок, что стало следствием пандемии коронавируса и роста безработицы. Развозить заказы Amazon стали даже водители Uber и Lyft.