Ключови изводи
- ToxMod, от базираната в Бостън компания Modulate, твърди, че открива и действа срещу разрушителната реч автоматично, в реално време.
- Вместо да бъде ограничен от прост език, ToxMod използва машинно обучение, за да разбере нематериални неща като емоция, сила на звука и ритъм.
- ToxMod в момента е проектиран за използване с чат стаи в играта, но няма причина да не може да дойде във вашия канал в Twitch.
Базирана в Бостън компания използва машинно обучение, за да създаде това, което таксува като първата в света услуга за гласово модериране, която може да направи разликата между казаното и това, което означава.
ToxMod е опит за разрешаване на парадокса на модерирането на всяко отворено пространство в Интернет; няма достатъчно хора, които да се справят с търсенето, но алгоритмите, филтрите и системата за отчети не разбират нюансите.
С базата данни на ToxMod той може да проследява фактори в речта на играчите като емоция и сила на звука, което му помага да прави разлика между моментно пропускане и модел на поведение. Наскоро беше обявено като допълнение към играта Gridiron за американски футбол 7v7, която в момента е в ранния достъп на Steam.
"Всеки знае, че тормозът, речта на омразата и токсичността в гласовия чат и игрите са огромен проблем. Това е общоприето разбиране", каза Картър Хъфман, главен технологичен директор и съосновател на Modulate, на среща в Google с Lifewire. „Бихме могли да вземем характеристиките, които извличахме чрез това разнообразие от системи за машинно обучение и да ги обединим в система, която взема предвид всички тези експертни знания, които научавахме от общността."
Поздравления за нашите нови роботи модератори
Modulate работи върху ToxMod от миналата есен и го включи като една от трите основни услуги на компанията. Той също така предлага VoiceWear, средство за маскиране на глас, задвижвано от машинно обучение, и VoiceVibe, услуга за събиране, която позволява на потребителите да открият какво обсъждат хората в техните общности.
Когато ToxMod работи в чат, той може да бъде програмиран чрез административния панел на Modulate да предприема различни автоматични действия, като например издаване на предупреждения, заглушаване на играчи или индивидуално регулиране на силата на звука.
Използва система за сортиране, при която неговият локален екземпляр е първият, който предприема действия, преди да провери сървърите на Modulate за потвърждение. След това най-накрая ескалира до точката, в която може да изисква човешка намеса. Чрез преминаване през всяка проверка на свой ред, която Modulate нарича "триажни врати", идеята е, че ToxMod дава на малък екип от модератори инструментите, с които ефективно да модерира много по-голяма общност.
„Тъжната истина е, че всеки е имал това преживяване, опитвайки се да използва гласов чат на каквато и платформа да сте, и да откриете, че момче, това е лоша идея“, каза изпълнителният директор на Modulate Майк Папас в видео разговор с Lifewire. „Да можеш да влезеш и да кажеш: „Това не е Дивият запад. Има правила.“Мисля, че това е наистина важно.“
Разбиване на системата
Естествено, вторият или третият въпрос за ToxMod е как да го разбиете.
С много автоматични системи за модериране, като например алгоритмите, които управляват Twitter, е лесно да ги играете срещу хора, които не харесвате. Просто масово докладвайте за целта си с няколко акаунта на марионетки и те надеждно ще изядат бан.
"На базово ниво ToxMod не трябва да разчита на тези допълнителни отчети на играчите", каза Папас. „Все още е в състояние да произведе солидни оценки на какви престъпления трябва [да обърнем] внимание. Не е нужно да се притеснявате за играчи, които се опитват да играят системата, тъй като всъщност няма какво да играете.
Всеки знае, че тормозът, речта на омразата и токсичността в гласовия чат и игрите са огромен проблем.
"Всичко, над което имате контрол като играч, е вашето собствено аудио", продължи Папас. „Най-лошото нещо, което можете да направите, е да бъдете по-малко лош от човек, така че да не ви маркираме като лош актьор, което бих казал, че е нещо близко до успеха на мисията.“
По принцип идеята зад ToxMod е активен опит за възстановяване. Много играчи в този момент са преживели някаква форма на тормоз от случайни непознати в отворени гласови канали, вариращи от произволни обиди до активни заплахи. В резултат на това геймърите са склонни да избягват гласовия чат като цяло, като предпочитат да се откажат от удобството му в замяна на собственото си спокойствие.
„Това, което очакваме да видим [е лошите актьори да прекарват] много по-малко време в гласов чат, преди да бъдат намерени и премахнати“, каза Папас.„Това има повече от просто линейно въздействие. Когато всички гледат на гласовия чат като на по-безопасно място, повече добри актьори са склонни да се върнат към гласовия чат и да опитат. Мисля, че всичко може да се развие в положителна посока.“
