Ключови изводи
- Компаниите използват изкуствен интелект, за да наблюдават своите служители.
- Amazon инсталира камери, задвижвани от машинно обучение, в своите микробуси за доставка по-рано тази година.
- Наблюдението с изкуствен интелект може да доведе до проблеми с поверителността и сигурността, ако се използва от безскрупулни компании.
Работодателите все повече проследяват работниците си с помощта на изкуствен интелект и наблюдатели казват, че тази практика поражда опасения за поверителността.
Amazon инсталира камери, задвижвани от машинно обучение, в своите микробуси за доставка по-рано тази година. Компанията наскоро каза на шофьорите си, че трябва да се съгласят да ги използват. Практиката за наблюдение на работното място може да е законна, но не всички са съгласни, че е етична.
"Компаниите използват инструменти за наблюдение на служителите от десетилетия, но с напредването на технологиите те стават все по-инвазивни", каза в интервю по имейл Ейми О'Дрискол, изследовател по сигурността в уебсайта за сравнение на технологии Comparitech.йени
"Повечето наблюдение на служителите може да се счита за нахлуване в неприкосновеността на личния живот и може да се твърди, че това, което Amazon прави, не е много по-различно от това да има камери за видеонаблюдение в офис."
Бъдете наблюдавани или уволнени
Приблизително 75 000 шофьори на Amazon в САЩ вече трябва да подпишат формуляр за „биометрично съгласие“. Формулярът за разрешение позволява на захранвани с AI камери да наблюдават местоположението, движението и биометричните данни на водачите. Служители, които не подпишат документа, могат да бъдат уволнени.
Наблюдението с изкуствен интелект проследява всичко, което правят драйверите на Amazon, нахлувайки в предполагаемата поверителност на субекта, каза Крис Хоук, изследовател на поверителността в уебсайта за поверителност Pixel Privacy, в интервю по имейл.
"Това включва запис всеки път, когато обектът се прозява или почесва чувствителна зона", добави той. „Шофьорът има поне някакво право на подобие на неприкосновеност на личния живот, докато е в автомобила си.“
Наблюдението на служителите от AI е нарастващ проблем. Walmart е патентовала AI технология, която позволява да слушате взаимодействията на служителите с клиентите на касата, посочи О’Дрискол.
Разработчикът на софтуер Enable предоставя инструменти за производителност, базирани на AI софтуер. Различни компании, включително Macy’s, използват системата за анализ на Microsoft, която може да следи поведението на служителите. Domino’s използва AI технология, за да провери дали пиците са направени правилно.
"Един от основните проблеми е, че когато се използва по грешен начин, липсата на поверителност може да доведе до проблеми със сигурността", каза О’Дрискол.
"Данните от наблюдението могат да попаднат в ръцете на престъпници или самите лоши актьори могат да използват AI наблюдение, за да се насочат към жертвите."
Биометричните сканирания на лицето водят до математическо представяне на лицето на субекта на данните, което може да се използва за идентифицирането и проследяването му навсякъде, до края на живота му, каза Рей Уолш, експерт по поверителност в уебсайта ProPrivacy, в интервю по имейл.
"Това поражда сериозни рискове за поверителността и сигурността на драйверите на Amazon, чиито данни могат да бъдат пробити, изтекли или потенциално дори използвани от правителствени шпиони, използващи заповед", добави той.
Тъй като AI технологията е сравнително нова, няма конкретни насоки за нейното използване по отношение на поверителността, каза О'Дрискол. „Въпреки това безопасността вероятно винаги ще бъде легитимно извинение за нахлуване в поверителността, така че Amazon е обхваната от настоящите си намерения“, добави тя.
Въпреки че служителите имат право да напуснат или да се съгласят с предложеното наблюдение с ИИ, те го правят в лицето на огромен дисбаланс на мощността, O’Driscoll каза, че AI наблюдението трябва да бъде регулирано. „В идеалния случай компаниите трябва да имат законни причини (като безопасност) за наблюдение с изкуствен интелект“, добави тя.
Някои щати са приели законопроекти, които ограничават и регулират използването на наблюдение на работното място, но липсва федерално законодателство, посочи Уолш.
През 2019 г. Законът за алгоритмичната отчетност беше въведен в Камарата на представителите и Сената, но в крайна сметка беше отхвърлен. Подобен закон може да бъде въведен тази година и „се надяваме, че воден от демократите Конгрес и Белият дом могат да подобрят шансовете си за приемане“, каза Уолш.
Не очаквайте поверителност на работата
Не всеки смята, че наблюдението на Amazon върху неговите драйвери е нахлуване в поверителността.
"Мисля, че е трудно да се спори, че един служител има разумни очаквания за неприкосновеност на личния живот в превозно средство, собственост на компанията", каза Уил Грифин, главен служител по етика на AI компанията Hypergiant, в интервю по имейл.
"По-голямото безпокойство е, че след няколко кратки години всички тези шофьори ще бъдат заменени от автономни превозни средства. Така че всеки дебат относно политиката за водачите ще се превърне в спорен въпрос, тъй като автопаркът стане напълно автономен."йени
Случаят с Amazon подчертава необходимостта от синдикат или целенасочена федерална намеса като начин за възстановяване на баланса на силите между работниците на Amazon и компанията, каза Грифин.
„Въпреки че служителите имат право да напуснат работа или да се съгласят с предложеното наблюдение с ИИ, те го правят в условията на огромен дисбаланс на мощността“, добави той.
