Ключови изводи
- Експертите по поверителност изразяват загриженост относно използването на обществени снимки в Instagram от Facebook за обучение на изкуствен интелект.
- Програмата е научена да разпознава изображения чрез показване на компютъра над 1 милиард публични снимки.
- Политиката за поверителност на Instagram включва раздел, който позволява на потребителите да знаят, че информацията може да се използва в изследвания и разработки.
Използването на снимки от Instagram от Facebook за обучение на изкуствен интелект поражда опасения относно поверителността.
Гигантът на социалните медии обяви наскоро, че е създал софтуер, който може да се учи от това, което гледа. Програмата беше научена да разпознава изображения чрез преглед на над 1 милиард публични снимки. Експертите казват, че потребителите трябва да са наясно, че Facebook използва техните снимки.
„Всичко е свързано със съгласието“, каза Джеймс Е. Лий, главен оперативен директор на Центъра за ресурси за кражба на самоличност, в интервю по имейл.
"Политиката за поверителност на Instagram - която повечето хора вероятно не четат - посочва много ясно, че компанията си запазва правото да използва снимките, които публикувате, за проучване. Потребителите могат да включват/изключват лицевото разпознаване в своите настройки за поверителност."
По-добър от останалите
Програмата на Facebook, наречена SEER за САМОконтролиран, надмина други модели с изкуствен интелект (AI) в тест за разпознаване на обекти, твърди компанията. Програмата постигна „резултат за точност на класификацията“от 84.2%, когато беше подложен на тест, който проверява дали AI програма може да идентифицира какво има на снимка.
"Ефективността на SEER демонстрира, че самоконтролираното обучение може да превъзхожда задачите за компютърно зрение в реални условия", каза компанията в публикация в блог.
"Това е пробив, който в крайна сметка разчиства пътя за по-гъвкави, точни и адаптивни модели на компютърно зрение в бъдеще."
Въпреки че правилата и условията на Facebook може да им позволяват да използват потребителски данни по такъв начин, повечето потребители не са изрично и активно наясно, че техните данни се копаят за такива цели.
Ако бъде пуснат в търговската мрежа, SEER ще помогне да се идентифицират обекти, а не хора, без да бъде програмиран да знае чрез етикет какво има на снимката, каза Лий. „Това е по-ефективен и по-бърз начин от сегашния метод, който изисква огромни набори от данни, за да съпостави обект с неговата идентичност“, добави той.
"Винаги има потенциал за злоупотреба, но има и законни потенциални ползи от този вид технологии."
Програмата на Facebook може да помогне на компанията да подобри полицейското съдържание, което нарушава нейните политики, например ограничаване на нежеланото излагане на неприлични или графични изображения, каза в интервю по имейл Ейми О’Дрискол, изследовател по сигурността в сайта за поверителност Comparitech. Може също да се използва за автоматично описание на изображения, подобрявайки потребителското изживяване за хора със зрителни увреждания.
Вече сте се съгласили с тази програма
Политиката за поверителност на Instagram включва раздел, който позволява на потребителите да знаят, че информацията може да бъде използвана в изследвания и разработки. „Компанията използва своя набор от данни за друга част от своя бизнес, подобно на начина, по който използва потребителски данни, за да захранва рекламния си бизнес“, каза О’Дрискол.
"Въпреки това, потребителите все още може да се чувстват неудобно, когато техните изображения се използват по този начин."
Яшар Бехзади, главен изпълнителен директор на Synthesis AI, компания, която използва изкуствен интелект за компютърно зрение, каза, че най-новите подобрения на AI на Facebook представляват „значително подобрение“в способността за компютърно зрение.
"Потребителите вероятно могат да очакват по-добро маркиране на изображения и контекстно търсене, докато рекламодателите ще се възползват от по-точното насочване към потребителите", добави той.
Но подходът на Facebook за използване на милиарди изображения в Instagram поражда някои сериозни опасения относно поверителността и регулаторните въпроси, каза Бехзади.
"Въпреки че правилата и условията на Facebook може да им позволяват да използват потребителски данни по такъв начин, повечето потребители не знаят изрично и активно, че техните данни се копаят за такива цели", каза той.
"Ние вярваме, че компаниите трябва да бъдат по-откровени и прозрачни с потребителите, позволявайки им пълен контрол върху техните данни."
Много други компании са използвали изкуствен интелект, за да идентифицират съдържанието на изображението, посочи Боби Гил, главен изпълнителен директор на разработчика на приложения Blue Label Labs, в интервю по имейл. „Фактът обаче, че това почти сигурно ще се използва за маркетинг, е това, което е тревожно“, добави той.
Новата програма може да породи потенциални опасения за поверителността, в зависимост от това как Facebook планира да използва системата, каза Гил.
"Тези данни вероятно ще бъдат достъпни за технически специалисти по маркетинг, които биха ги използвали, за да идентифицират определени тенденции въз основа на различни елементи, идентифицирани в изображение", каза той.
"Например възможността да извличате информация от изображения, които хората публикуват, добавя друго измерение към асоциативните системи, които обикновено използват поведение за профилиране и насочване към индивиди. Може да се разбере, че всеки с, да речем, жаби в 3- 7% от техните снимки е много вероятно да закупят домашно фитнес оборудване."
