Ключови изводи
- Системите с изкуствен интелект, които наблюдават камионите за доставка, несправедливо наказват шофьорите на Amazon, твърди нов доклад.
- Системата Amazon е част от нарастващата тенденция на компании, използващи технологии, за да наблюдават своите работодатели от разстояние.
-
Някои софтуери с изкуствен интелект позволяват на работодателите непрекъснато да наблюдават поведението на служителите във фонов режим и да рисуват модели в работния им процес.
Работодателите все повече прибягват до софтуер за дистанционно наблюдение на служителите, което поражда опасения сред някои защитници на поверителността.
Нов доклад твърди, че захранваните с изкуствен интелект камери в микробусите за доставка на Amazon са наказвали несправедливо шофьорите. Статията установи, че шофьорите страдат от погрешни сигнали, неправилни карти с резултати на водача, непрактични предположения за състоянието на трафика и водачи, които възприемат практики за заобикаляне на технологията.
„Докато изкуственият интелект се подобрява, грешки все още ще се допускат“, каза Реймънд Ку, директор на Центъра за право и политика в киберпространството в университета Case Western Reserve, в интервю за Lifewire по имейл. „Въпрос на честност мисля, че всички ние вярваме, че някой, който е наказан по какъвто и да е начин от вземането на решения с ИИ, трябва да бъде уведомен за факта и да му се даде възможност да оспори решението.“
Камерите с изкуствен интелект на Amazon
Amazon заяви, че е инсталирала захранвани с AI камери в превозните си средства за доставка като мярка за безопасност. Камерите са предназначени да наблюдават, когато шофьорите на доставки извършват опасни маневри, като преминаване на знаци стоп или извършване на незаконни обратни завои.
Когато камерите забележат възможни "събития" за опасно шофиране, тези случаи се отразяват в резултатите за ефективност на работниците. По-ниските резултати намаляват шанса водачите да получат бонуси, допълнително заплащане и награди.
Но шофьорите на Amazon казаха на Motherboard, че биват наказвани за някои навици на шофиране, които се считат за безопасни или извън техния контрол. Amazon не отговори на искане от Lifewire за коментар.
Ку посочи, че тъй като шофьорите са се съгласили да бъдат записани, те не страдат от нахлуване в личния живот съгласно закона.
„Това обаче не означава, че средният работник би бил доволен от наблюдението или не би възразил, ако можеше“, добави той. „Това е особено вярно, когато наблюдението започне да навлиза в по-традиционни лични пространства.“
Докладът повдига по-широки въпроси за това дали данните могат да бъдат достъпни и използвани в съдебни дела или от полиция и федерални служители, каза адвокатът по поверителността на данните Бетани А. Корбин пред Lifewire в интервю по имейл. Това също може да повлияе на отговорността, посочи тя.
"Например, ако AI технологията каже на служителя да не гледа в страничните огледала и служителят претърпи инцидент като пряк резултат от този съвет, кой е виновен?" Корбин добави.
Разрастващо се наблюдение
Наблюдението не спира с Amazon. Все по-голям брой компании използват технологии, за да наблюдават служителите си от разстояние, каза експертът по поверителност Крис Хаук пред Lifewire в интервю по имейл.
Например, маркетинговата фирма за изкуствен интелект Blackbelt използва система за проследяване на разпределяне на времето, позволяваща на компанията да наблюдава и проследява компютърната дейност на своите служители автономно. Workplace Analytics на Microsoft ще даде възможност на работодателите да наблюдават времето, прекарано от служителя в уебсайтове, писане на имейли и други по време на работния ден.
Walmart също така работи върху система, която слуша за звук от шумолене на чанти или звукови сигнали от касови скенери, за да проследява показателите на служителите и да гарантира, че служителите изпълняват задачите си правилно и ефективно. Сензорите дори могат да подслушват клиентите, докато разговарят, докато са на опашка, и да откриват дали служителите поздравяват клиентите правилно или не.
Наблюдението на работното място става все по-разпространено от началото на пандемията, каза експертът по поверителността Панкадж Шривастава пред Lifewire в интервю по имейл.
„Повечето от тази технология се позиционира като „подобряване на производителността“, но начинът, по който някои от тези инструменти работят, предполага по-голяма толерантност на работодателите да наблюдават всяка дейност на работната си сила“, добави той. „Например, наблюдение колко време отделят служителите за всяка задача, правене на отдалечена снимка, за да се гарантира, че служителите са на бюрото си, и дори наблюдение на посетените уебсайтове и записване на натискане на клавиатурата и движение на мишката на служителя.“
Докато AI се подобрява, грешки все още ще се допускат.
Някои софтуери с изкуствен интелект позволяват на работодателите непрекъснато да наблюдават поведението на служителите във фонов режим и да рисуват модели в работния им процес, каза той.
"Служител може да бъде уволнен въз основа на техния персонализиран отчет за изпълнението, в който се посочва, че са му отнели няколко минути повече време, за да изпълни дадена задача от обикновено", каза Сривастава.
"Довиждане, почивка в банята."
