Zdjęcia Joel Goodman / Zuma /TASS
Nowy algorytm eliminacji fałszywych wiadomości może położyć kres rozprzestrzenianiu wynalazków w internecie
Naukowcy twierdzą, że udało się opracować algorytm, który określa фейковые aktualności lepiej niż człowiek. Praca przeprowadzona przez specjalistów z nauk komputerowych uniwersytetu w Michigan i na wydziale psychologii uniwersytetu w Amsterdamie. Na razie nie opublikowano w czasopismach naukowych, ale przedstawiona w archiwum препринтов Arxiv.org.
Фейковые wiadomości stały się jednym z острейших problemów agregatorów wiadomości, wyszukiwarek, serwisów i portali społecznościowych. Walką z nimi zaniepokojony takich gigantów, jak Google, Facebook i “Yandex”. Opracowany system może pomóc internetowych gigantów w trybie automatycznym отсеивании nieodpowiednich wiadomości lub obniżenie ich w wynikach wyszukiwania.
Naukowcy stworzyli system informatyczny i wykazały, że ona szybciej i dokładniej ludzi radzi sobie z wykrywaniem фейковых wiadomości. Programy wykazały 76% фейковых wiadomości, więc jak żywe uczestnicy mogli określić tylko 70%. Przy tym lingwistyczny analiza może być stosowana do wykrywania świeżych fałszywych wiadomości, których prawdziwość nie można jeszcze sprawdzić z innych źródeł.
Specjalista uniwersytetu Michigan w komputerowym nauk profesor Miło Михалча (Rada Mihalcea) zaznaczyła, że utworzone produkty mogą być ważnym narzędziem dla stron internetowych, które walczą ze sztucznymi materiałami tworzonymi dla kliknięć lub manipulacji opinią publiczną.
Naukowcy wskazują, że teraz agregatorów i portalu do śledzenia fałszywych opowieści jest zwykle wykorzystują w stanie redaktorów, którzy nie mogą nadążyć za przepływem wiadomości. Ponadto, weryfikacja wielu materiałów wymaga korzystania z innych zasobów i nie zawsze są niezbędne informacje o nowych zjawiskach. Z tego powodu фейковые wiadomości mają czasu, aby rozprzestrzeniać i powodować ewidentnym szkody społeczeństwu.
Do wykrywania kłamstw w historii naukowcy wykorzystali lingwistycznej analizie, biorąc pod uwagę gramatyczną strukturę tekstu, interpunkcji itp.
Михалча zauważa, że istniejące narzędzia analizy językowej pisania stały się już codziennością. Trudnością było stworzenie właśnie wykrywacz fałszywych wiadomości, a także dobrać odpowiednie dane do treningu algorytmu. Rzecz w tym, że фейковые wieści szybko pojawiają się i znikają, więc trudno je zbierać. Łatwiej wziąć пародийные wiadomości, w których specjalizują się niektóre strony internetowe (naukowcy prowadzą przykład The Onion, a w Rosji przykładem może być “Интерсакс”). Ale ironia i absurdalne zarzuty, użyte w nich, przeszkadzają nauki algorytmów, których zadaniem wykrywać właśnie fałszywe wiadomości, подделывающиеся pod prawdziwe.
W rezultacie zespół badawczy zebrał własną bazę фейковых wiadomości za pomocą polecenia pomocników, którzy zbierali sprawdzone wiadomości i zamienił ich w fałszywe. Tak to się robi w prawdziwym życiu zasobami, które zarabiają pieniądze poprzez кликабельных materiałów. Do zestawu pomocników był używany przez serwis Amazon Mechanical Turk. W rezultacie naukowcy zgromadził bazę z 500 prawdziwych i sfałszowanych wiadomości.
Za pomocą pary z prawdziwej i wymyślonej wiadomości, naukowcy nauczyli algorytm, który następnie został przetestowany na wiadomościach z internetu, gdzie z powodzeniem rozpoznał 76% фейковых materiałów. Naukowcy poinformowali o wolnym dostępie do utworzonego silnik (to norma w świecie IT), jak i do bazy danych (to rzadkość), na której przeprowadzono szkolenia. W przyszłości planowane jest zapewniać bazę danych komentarzami i meta-danymi pokazującymi, na jakich elementach wiadomości odbywało się szkolenie.
Chociaż rozpoznawanie фейковых wiadomości istotne, warto zauważyć, że naukowcy w swojej pracy wykorzystywali bardzo “wyrafinowany” przypadek jawnie fałszywych wiadomości. Mają nadzieję, że z pomocą swojego silnika obliczyć i przypadki manipulacji opinią publiczną. Ale amerykańscy portalu jako przykłady postów, za pomocą których jakoby Rosja próbowała wpływać na wybory w USA, prowadziły bardzo proste orzekania, które mogą być pozostawione i mieszkańcami. Ponadto, oświadczenia, np. o przynależności terytorialnej Krymu mogą w różnych krajach mają zupełnie inny manipulacyjne potencjał.
redakcja poleca
Facebook i Instagram nauczy odróżniać użytkowników “rosyjską propagandę”
Prawdziwe kłamstwa: jak nieprawdziwe wiadomości prowadzą do prawdziwych zabójstw
“Фейковые wiadomości”: Trump powitał zwolnienia na CNN za materiał o Rosji