Ключови изводи
- Изследователите са разработили система с изкуствен интелект, предназначена да открива и маркира фалшиви новини.
- Моделът претърсва публичен набор от данни за фалшиви новини, предупреждава потребителите и ги пренасочва към проверени източници на информация.
-
Има нарастващ брой AI методи за противодействие на онлайн фалшивите новини.
Изкуственият интелект (AI) помага за ограничаване на бързото разпространение на дезинформация онлайн, казват експерти.
Изследователи са разработили система с изкуствен интелект, предназначена да открива и маркира фалшиви новини. Моделът претърсва публичен набор от фалшиви новини, предупреждава потребителите и ги пренасочва към проверени източници на информация. Това е част от нарастващ брой AI методи за противодействие на фалшиви новини.
"Количеството информация, изтичаща в интернет, особено социалните мрежи, е огромно и не може да се обработва ръчно, особено с висока точност, " Wael AbdAlmageed, професор по компютърно инженерство в Университета на Южна Калифорния, който разработи AI алгоритми за откриване на визуална дезинформация, каза Lifewire в имейл интервю.
"Важно е да наблюдаваме и маркираме дезинформация в реално време, тъй като след като дезинформацията започне да се разпространява, е трудно да убедим хората, че информацията е невярна, особено когато дезинформацията потвърждава нашите пристрастия", добави той. йени
Запазване на реалността
Техниката AI, разработена от екип от австралийския университет Macquarie, може да помогне за намаляване на разпространението на фалшиви новини. Моделът може да бъде включен в приложение или уеб софтуер и предлага връзки към подходяща „вярна“информация, която е в съответствие с интересите на всеки потребител.
„Когато четете или гледате новини онлайн, често ви се предлагат новинарски истории за подобни събития или теми, използвайки модел за препоръки“, каза Шоуджин Уанг, учен по данни в университета Macquarie, който е работил по изследването. съобщение за новини.
Wang казва, че точните новини и фалшивите новини за едно и също събитие често използват различни стилове на съдържание, обърквайки компютърните модели да ги третират като новини за различни събития.
Моделът на Macquarie University „разплита“информацията за всяка новина на две части: знаците, показващи дали новината е фалшива, и специфичната за събитието информация, показваща темата или събитието, за което се отнася новината. След това моделът търси модели в начина, по който потребителите преминават между различни новини, за да предвиди кое новинарско събитие потребителят може да се заинтересува да прочете следващо.
Изследователският екип обучи модела на публичен набор от данни за фалшиви новини, публикувани в GitHub, наречен FakeNewsNet, който съхранява фалшиви новини от PolitiFact и GossipCop заедно с такива данни като новинарско съдържание, социален контекст и история на четене от потребителите.
Растежът на фалшивите новини
Фалшивите новини са нарастващ проблем, показват проучванията. NewsGuard установи, че значителна част от растежа на социалните медии идва от ненадеждни уебсайтове. През 2020 г. 17 процента от ангажираността сред 100-те най-добри източника на новини идва от сайтове с червен рейтинг (като цяло ненадеждни), в сравнение с приблизително 8 процента през 2019 г.
Субраманиам Винсент, директор по журналистика и медийна етика в Markkula Center for Applied Ethics в университета Санта Клара, каза на Lifewire в интервю по имейл, че AI може да помогне в борбата с дезинформацията.
Технологията може да се използва за „мониторинг на поведението на акаунта за дирижирано споделяне, свързано с реч на омразата или вече развенчани твърдения или развенчаване от проверяващи факти или известни пропагандистки държавни субекти или зараждащи се групи с бързо нарастване на членството“, обясни Винсент. „AI може също да се използва заедно с дизайна, за да маркира съдържание от определени типове, за да добави триене, преди да бъде споделено.“
AbdAlmageed каза, че социалните мрежи трябва да интегрират алгоритми за откриване на фалшиви новини като част от своите алгоритми за препоръки. Целта, каза той, е да „маркират фалшивите новини като фалшиви или неточни, ако не искат напълно да предотвратят споделянето на фалшиви новини.“
Въпреки това, въпреки че AI може да бъде полезен за противодействие на фалшиви новини, подходът има своите недостатъци, каза Винсент. Проблемът е, че AI системите не могат да разберат значението на човешката реч и писане, така че те винаги ще бъдат зад кривата.
„Колкото по-точен AI може да стане с някои форми на открита реч на омразата и дезинформация, толкова повече човешката култура ще премине към по-нов код и подземно предаване на смисъл, за да организира“, каза Винсънт.
Wasim Khaled, главен изпълнителен директор на компанията за мониторинг на дезинформация Blackbird. AI, каза в имейл до Lifewire, че онлайн дезинформацията е развиваща се заплаха. Новите AI системи трябва да могат да предсказват къде ще се появят фалшиви новини.
"В повечето случаи не можете да създадете AI продукт и да го наречете готов", каза Халед. „Моделите на поведение се променят с времето и е важно вашите AI модели да са в крак с тези промени.“
