Ключови изводи
- Софтуерът на YouTube за автоматично ограничаване на възрастта е повод за безпокойство относно LGBTQ+ съдържанието в платформата.
- Компанията е помрачена от противоречия относно създателите на ЛГБТК+ съдържание, затвърждаващи съмнения.
- Пристрастията в машинното обучение придават достоверност на идеята, че несъвършеното прилагане на филтри е вероятно несправедливо да ограничи достъпа.
С историята на несправедливо насочване към създатели на ЛГБТК+ съдържание в процеса на модериране, новата базирана на изкуствен интелект технология на YouTube се разглежда като обезпокоителна следваща стъпка за технологичния гигант.
В официалния блог на YouTube миналата седмица платформата за споделяне на видеоклипове разкри планове за пускане на нов автоматичен софтуер за „по-последователно прилагане на възрастови ограничения“върху видеоклипове, считани за неподходящи за по-млади зрители.
Мотивирана от неотдавнашни опасения относно децата в приложението, новата система се основава на софтуер за изкуствен интелект с машинно обучение с възможност за отказ от човешки модератори за по-автоматичен процес. Проблемът? Автоматизираните системи на YouTube бяха обвинени, че отделят ЛГБТК+ съдържание и създатели просто за съществуване.
Дори и да не е злонамерено, което не мисля, че е, това е липса на принос от различни гласове - или поне липса на уважение.
"Машинното обучение се информира и създава от хората и е възможно тези пристрастия да са присъщи на него или да бъдат научени от самата машина", каза YouTuber Роуън Елис в телефонно интервю за Lifewire. „Неговата пристрастност по отношение на [LGBTQ+] съдържанието е очевидна в предишния опит на [LGBTQ+] YouTubers и не видях доказателства, че нещо е направено, за да спре това да се случва."
Скъпа, сега имаме лоша кръв
Ellis е YouTuber, който създава образователно съдържание с феминистка и странна наклонност, а през 2017 г. тя публикува видеоклип за ограничения режим на компанията. Като първоначален опит за автоматично модериране на съдържание, този режим позволи на потребителите по желание да преглеждат предварително „съдържание за възрастни“от предложения и препоръки за търсене.
Спечелвайки над 100 000 гледания, тя вярва, че е имало съзнателно усилие каналът й да бъде изключен от ограничения поради нейното гласно противопоставяне срещу излишъците от новата стъпка на YouTube към модериране. Други потребители на платформата нямаха този късмет и те накараха YouTube да го разбере.
Групов иск срещу YouTube беше заведен през август 2019 г. от група от осем ЛГБТК+ създатели, които обвиниха компанията от Силициевата долина, че ограничава куиър и транс създателите на видеоклипове и съдържание. В съдебния иск се твърди, че сайтът използва „незаконно регулиране на съдържанието, разпространение и практики за монетизиране, които стигматизират, ограничават, блокират, демонетизират и нанасят финансови щети на ЛГБТ ищците и по-голямата ЛГБТ общност. Все още си проправя път през калифорнийските съдилища.
Машинното обучение е информирано от и създадено от хората и е възможно тези пристрастия да са присъщи на него или научени от самата машина.
През юни същата година платформата получи поток от медийно внимание, след като отказа бързо да порицае популярния консервативен коментатор Стивън Краудър за продължила месеци хомофобска кампания за тормоз срещу журналиста и водещ на Vox Карлос Маза. Това затвърди това, което Елис каза, че е модел с онлайн платформата за игнориране на уникалните предизвикателства, пред които са изправени queer творците. Липсата на вяра на ЛГБТК+ създателите в способността на YouTube да се показва пред тях не е без основание.
„Не мисля, че са разбрали необходимостта от прозрачност по отношение на социалните въпроси и осигуряването на равенство“, каза тя. „Все още има деца по целия свят, които са израснали с идеята, че да си гей е грешно, и когато започнат да поставят под съмнение това убеждение, но открият, че то е затворено чрез безопасно търсене или ограничение, това ще засили тази идея, че е погрешно, неподходящо, възрастно, перверзно и мръсно."
Неуспешно автоматично обучение
С мръсната си история по отношение на създателите на ЛГБТК+ съдържание на неговата платформа, притесненията относно внедряването на способността на софтуера за машинно обучение да разпознава по-големи норми все още съществуват. Дон Хайдер, изпълнителен директор в Центъра за приложна етика Markkula, предполага, че потенциалът за глупост е твърде голям риск за залагане.
"Трудно е да се повярва, че AI може ефективно да управлява съдържание от множество държави с различни културни норми и стандарти", написа той в интервю по имейл. „Изкуственият интелект твърде често се разглежда като отговор на сложни въпроси. На този етап AI и начинът, по който е създаден, се борят да се справят дори с прости задачи, да не говорим за модериране на съдържание с всякакво ниво на сложност.“
YouTube реши да използва AI технология поради липса на последователно модериране от човешки модератори, според неговия блог. Увеличаването на използването на компютъризирани филтри за премахване на видеоклипове, които се считат за неподходящи, се превърна в норма и прилагането на същите процедури за политиките му за възрастово ограничение се разглежда като логична следваща стъпка.
Като компания, която се стреми постепенно да подобри процесите си след дългогодишни критики по отношение на връзката си с потребителите-деца, това решение не е изненада.
Не мисля, че са разбрали необходимостта от прозрачност по отношение на социалните въпроси и осигуряване на равенство.
Децата се превърнаха в ключова демографска група за сайта за споделяне на видео. През август фирмата за анализ на дигитално видео Tubular установи, че освен музикални видеоклипове, съдържание, насочено към деца, оглавява списъка за най-гледани видеоклипове в YouTube в края на месеца.
Интересът на компанията да защити тази доходоносна, нововъзникваща мощ на платформата има смисъл. Въпреки това, инструментите, използвани за налагане на тази защита, остават неудобни за онези, които вече са се озовали надолу по веригата от процедурите за модериране на компанията.
"Моето притеснение е, че това ще навреди много и няма да защити [ЛГБТК+] младежи, които се нуждаят от информативно, откровено и честно съдържание, което много [ЛГБТК+] потребители на YouTube могат да предоставят, но бива маркирано в системата като неподходящо", каза Елис.„Дори и да не е злонамерено, което не мисля, че е, това е липса на принос от различни гласове - или поне липса на уважение.
"Виждаме това през цялото време в технологиите. Когато гледате лицевото разпознаване, което не успява да разграничи различни черни лица, или когато погледнем медицината и видим, че лекарството е тествано само върху определен пол. Тези са по-големи разговори и YouTube не е изключение от това."
