Ключови изводи
- Редица нови приложения може да са в състояние да открият емоциите на учениците.
- Съобщава се, че Intel и производителят на софтуер за класна стая Class разработват софтуер, който ще наблюдава лицата и езика на тялото на дигиталните ученици.
- Някои експерти са загрижени, че използването на AI за наблюдение на ученици може да доведе до нахлуване в поверителността.
Училищата скоро могат да използват изкуствен интелект (AI) за наблюдение на емоционалните състояния на учениците.
Intel и производителят на софтуер за класна стая Class разработват софтуер, който ще наблюдава лицата и езика на тялото на дигиталните ученици. Съобщава се, че системата може да открие дали учениците са отегчени, разсеяни или объркани, но някои експерти са загрижени, че софтуерът може да доведе до нахлуване в поверителността.
„Такива базирани на изкуствен интелект продукти за наблюдение трябва да са прозрачни за това как се използват тези данни“, каза Майкъл Хът, съосновател на компанията Xayn и ръководител на компютърния отдел в Imperial College London, в имейл пред Lifewire интервю. „Ако се използва за проследяване на ангажираността в студентска кохорта, където ангажираността на индивидуално ниво не се записва, това е малко по-малко проблематично от гледна точка на поверителността. Ако някои от тези данни трябва да се използват за повлияване на оценката на студентите обаче, аз може да види възникването на всякакви проблеми."
Надзор над учениците
Class и Intel си партнираха, за да интегрират технология, базирана на AI, която работи заедно със софтуера за видеоконференции Zoom, съобщи Protocol. Софтуерът може да се използва за наблюдение на учениците, се казва в доклада.
„Чрез нашето партньорство с Intel ще можем да внесем нови, завладяващи функции в софтуера на Class, които се управляват от функционалности, подкрепени от изследвания,“според уебсайта на компанията. „Ние също така ще работим заедно с Intel, за да използваме ресурси и да предоставим на преподавателите и студентите ценна информация, съвместни казуси, бели книги, уебинари и много повече.“
Intel каза на Protocol, че софтуерът за класната стая е в ранен етап и няма планове за пускане на продукта на пазара.
Партньорството с Class не е единственото потенциално сътрудничество между софтуера за четене на емоции на Intel и други производители. Онлайн брошура от Intel рекламира нова електронна бяла дъска, наречена Viewboard, предназначена за училищата. Софтуерът на Intel „позволява на myViewboard да оценява и показва емоционалните състояния на обучаемите като незабавна обратна връзка за преподавателите“, според брошурата.
Class е един от многото софтуерни продукти, които претендират да проследяват емоциите на учениците с помощта на AI. Има и 4Little Trees, платформа за обучение за откриване на емоции, която е „виртуален асистент в преподаването [който] би помогнал, като избере най-подходящите въпроси за вас или ви предизвика, когато е необходимо“, според уебсайта на компанията.
Ашиш Фернандо, главен изпълнителен директор на компанията за изкуствен интелект iSchoolConnect, каза пред Lifewire в интервю по имейл, че изкуственият интелект може да бъде обучен да оценява човешкото поведение и функции без влиянието на субективните пристрастия на хората.
"ИИ може да оцени значително по-голям брой човешки поведения, включително лесни за пропускане микроизражения, със скорост много по-бърза от човек", каза Фернандо. „Когато обратната връзка можеше да отнеме часове, AI сега може да предостави същото в рамките на няколко минути.“
Загриженост за поверителността
Използването на AI за наблюдение на хора нараства. Snapchat разполага с AI технология, която оценява емоционалното ниво на група хора на събитие на живо. Mad Street Den използва AI за компютърно зрение, за да помогне на търговците на дребно да разпознаят израженията на лицето и емоциите на потенциалните купувачи. BrainQ използва AI, за да разбере как пътниците взаимодействат с автономните превозни средства, които използват. И компаниите използват AI за проследяване на умората на водача.
"Това е чудесен случай за използване за пътната безопасност, но повдига въпроси относно правата на поверителност на водачите в личните им превозни средства", каза Хът. „Ще бъде ли споделена информацията за умората със застрахователната компания или производителя на автомобила? Или просто ще предупреди водача да спре и да си почине? Това е по-малък проблем за търговските автомобилни паркове като камиони, микробуси за доставка или кабини.“
Един проблем е, че информацията на AI, като движението на мускулите за извеждане на емоционалното състояние, може да не е надеждна, каза Хът. „Това създава дилема, тъй като по-надеждният AI може да изисква достъп до още по-чувствителни данни като ЕЕГ сигнали“, добави той.
За студенти AI може да бъде полезен за наблюдение на съответствието по време на онлайн изпити, когато прокторът не може да присъства физически. Но това използване на AI за това е спорно, каза Хът, тъй като системата се опитва да определи дали ученикът възнамерява да мами или мами и има реален потенциал за фалшиви положителни резултати, които водят до неоправдано санкциониране на студенти, които не са направили нищо лошо.
„Всеки изкуствен интелект, използван за тази цел, трябва да бъде достатъчно здрав, за да се справи с прекъсванията на тоалетната, нервните тикове на отделните ученици (като хаотични движения на очите) и т.н.“, каза Хът.
