Ключови изводи
- Увеличаващ се брой компании използват AI, за да разчитат емоциите ви.
- ИИ за четене на емоции може потенциално да направи технологиите по-лесни за използване.
- Някои експерти се тревожат за последиците за поверителността на компаниите, които събират вашите емоционални данни.
Изкуственият интелект (AI) скоро може да знае повече за вас, отколкото предполагате.
Стартъп, наречен Hume AI, твърди, че използва алгоритми за измерване на емоции от лицеви, гласови и вербални изражения. Това е една от нарастващия брой компании, които претендират да разчитат човешките емоции с помощта на компютри. Но някои експерти казват, че концепцията повдига проблеми с поверителността.
„Който контролира тези системи и платформи, ще разполага с много информация за хората“, каза Боб Билбрук, съветник по технологични стартиращи фирми, пред Lifewire в интервю по имейл. „Те ще могат да изградят профили за тези хора, които могат да бъдат използвани за парична печалба, контрол на резултатите или потенциално по-престъпно макро проследяване на хора и общество.“
Четене на лица?
Хюм казва, че тайната да се научи AI да разчита емоциите е в големите данни. Компанията казва, че обучава своя AI върху масивни набори от данни от Северна Америка, Африка, Азия и Южна Америка.
"Нашата визия е свят, в който AI превежда научните прозрения в нови начини за подобряване на емоционалното изживяване на човека", пише компанията на уебсайта си. „Емоционалното осъзнаване е липсващата съставка, необходима за изграждане на алгоритми на социалните медии, които оптимизират благосъстоянието на потребителя…“
Hume е една от многото компании, които се опитват да използват данни, за да получат представа за човешките емоции. Компаниите използват емоционален мониторинг, за да се опитат да проектират ефективни реклами, каза Олексий Шалденко, професор, който изследва AI в Киевския политехнически институт „Игор Сикорски“в Украйна, в интервю за Lifewire по имейл. Подобна технология се използва за оценка на тона на гласа в центровете за обаждания, за наблюдение на поведението на шофьорите в автомобили и за измерване на отношението на зрителя в стрийминг и продуцентски компании.
Има значителни потенциални ползи за потребителите от това, че AI разчита емоциите им, каза главният технически директор на AI Dynamics Райън Монсурат пред Lifewire в интервю по имейл. Той каза, че една употреба би била да се проектират интерфейси, които намаляват вероятността хората да бъдат разочаровани или ядосани от тяхната технология.
По-предизвикателен проблем за решаване би бил генерирането на подходящи емоционални реакции на емоциите, възприемани от AI, взаимодействащ с хората, каза Монсурат.
"Много от нас са разговаряли с нашите асистенти от разузнаването и въпреки че качеството на тона и интонацията на гласовете им се подобриха през последното десетилетие, те не са по-добри в общуването по начин, който предава различни емоции, " той добави.„Виждам, че генеративните модели могат да генерират синтетични гласове с емоция и с контекстуално подходящи емоции, докато моделите растат по размер и сложност или когато правим нови пробиви в областта на дълбокото обучение.“
Но най-непосредствената полза от технологията за четене на емоции може да е за компаниите, които се опитват да продават неща. Системата SenseR, например, позволява на търговците да персонализират изживяването в магазина. Компютрите наблюдават и анализират изражението и езика на тялото на купувачите. Служителите могат да използват резултатите, за да насочат продажбата в правилната посока, когато бъдат подканени от търговския персонал в магазина, каза Фариха Ризван, експерт по информационни технологии и връзки с обществеността, в интервю за Lifewire по имейл.
„От гледна точка на анализа на търговията на дребно, използването на машинно зрение за проследяване на купувачи може да даде на търговеца на дребно представа за продължителността на ангажираността в магазина, нивата на интерес въз основа на топлинни карти, пътувания до магазина и демографски данни на купувача,“добави Ризван.
Кой притежава вашите емоции?
Тъй като компаниите все повече се обръщат към AI, за да разчитат емоциите, съществуват много потенциални капани за поверителността. Технологиите за разпознаване на лица, които управляват системите за четене на емоции, обикновено работят на обществени и частни места без съгласието на хората, които се проследяват, запазвайки техните данни и понякога продавайки тези данни на предложилия най-висока цена, каза Ризван.
"Също така не знаем до каква степен тези системи са защитени от кибератаки, потенциално поставящи картата на лицето на човек в ръцете на лош актьор", добави Ризван. „Тези опасения инициираха промяна в засиленото наблюдение, наблюдение, разкриване на поверителност и отчетност.“
Най-големите опасения за поверителността не са свързани с ИИ, а по-скоро с основните рамки за споделяне на информация и вече съществуващи разпоредби, твърди Монсурат. Ако компаниите могат да монетизират вашите данни и да ги използват, за да манипулират поведението ви, тогава разбирането на вашето емоционално състояние ще им помогне да направят това по-добре.
„Това, от което се нуждаем, са закони, които да демотивират това поведение на първо място, независимо какви инструменти използват, за да постигнат целите си“, добави Монсурат. „Не инструментите, а лошите актьори и сегашните ни закони за поверителност са крайно неадекватни.“
