Poďte
s nami učiť AIumelú inteligenciu
rozoznávať
dezinformácie

Odhaľovať dezinformácie je nadľudské úsilie. Preto to chceme naučiť stroje. Poďte s nami označovať a anotovať dezinformácie. Je to prvý krok k tomu, aby to jedného dňa vedela robiť umelá inteligencia.

O čo nám ide

Prvý dôležitý krok v boji
proti dezinformáciam
je ich označovanie.
Kolektívnym vytváraním značiekanotácií dokážeme
spoločne upozorniť na článok, blog alebo post na
sociálnej sieti, ktorý šíri dezinformácie.
Takýto obsah však nechceme len označiť,
ale aj pomenovať, prečo je problematický.
Projekt prevádzkuje Kempelenov inštitút
inteligentných technológií.

Prečo treba
označovať
dezinformácie

Kvalitné označenie dezinformácií je nevyhnutným prvým krokom riešenia tohto problému
Označením problematického obsahu pred ním vystríhate ostatných
Pomôžete naučiť systémy umelej inteligencie rozoznávať dezinformačný obsah automaticky

Ako na anotovanie

Potrebujete len:

Mozog

Počítač

Chrome, Edge alebo Firefox

Webový prehliadač

Prečítať si návod

Nahláste nám
podozrivý obsah

Našli ste problematický článok,
ktorý by bolo dobré označkovať
našou komunitou?

Začnite anotovať aj vy

Nainštalujte si všetko potrebné

Na označovanie online obsahu používame aplikáciu s názvom Hypothes.is. Aby bolo možné túto aplikáciu používať a následne s jej pomocou označovať, je potrebné vykonať niekoľko krokov.

Návod na inštaláciu

Začnite anotovať

Vysvetlíme vám, ako označovať texty na webe a používať príslušné značky.

Návod na anotovanie

Používajte správne značky

Manipulácia faktov (manipulacia-faktov)

Manipulácia faktov zahŕňa:

nesprávna interpretácia overených faktov
cherry picking vedeckých faktov
prekrúcanie faktov
zveličovanie faktov
banalizácia faktov
silná zaujatosť v prospech istého naratívu (pričom sa zamlčiavajú ostatné fakty)
prezentácia faktov v inom kontexte

Pre označenie používajte tag: manipulacia-faktov

Clickbait (clickbait)

Nadpis alebo vizuálne atraktívny prvok špeciálne vytvorený na to, aby naň používatelia klikli a navštívili ho. Často potom ide o obsah s nízkou kvalitou, prípadne sa v ňom takmer vôbec informácia z “návnady” nenachádza. Napr. Nikdy neuveríte, čo sa stalo, keď…, Toto je najmilšia vec na svete…, Urobíte najväčšiu chybu ak...

Pre označenie používajte tag: clickbait

Hejt (hejt)

Šírenie nenávisti, napádanie menšín alebo skupín ľudí na základe:

pohlavia
sexuálnej preferencie
rasy
národnosti/etnicity
náboženského vyznania
veku
akéhokoľvek znevýhodnenia

Cieľom je osočovať a ponížiť cieľ, zničiť jeho povesť a urobiť ho zraniteľným a vystrašeným. Môže zahŕňať popieranie ľudských práv (segregácia, obmedzovanie…), výzvu k akcii na násilie, vulgarizmy, generalizáciu, šírenie stereotypov, problematické prezývky a symboly, vysmievanie, zastrašovanie a nepriateľstvo. Patria sem napr. prejavy sexizmu, xenofóbie, antisemitizmu, osobné útoky na motívy ľudí a pod. Napr. Migranti sú pliaga, ktorú treba vyhnať tam, odkiaľ prišli.

Pre označenie používajte tag: hejt

Strašenie (strasenie)

Apel na najnižšie pudy, pričom objektívne cieľ natoľko neohrozuje kvalitu života jednotlivcov. Napr. Dajte ruky preč od našich detí. Stop korona totalite.

Pre označenie používajte tag: strasenie

Nálepkovanie (nalepkovanie)

Označovanie niekoho niečím, čoho sa ostatní boja alebo neznášajú, s cieľom dehumanizovať cieľ. Nálepky neprimerane zjednodušujú, obviňujú a stereotypizujú vybrané osoby či skupiny. Napr. Novinári sú otravný hmyz.

Pre označenie používajte tag: nalepkovanie

Konšpirácia (konspiracia)

Vysvetlenie komplexných javov jednou zjednodušenou (často vymyslenou) príčinou. Napr. Mám pocit, akoby šlo o globálne zadanie z najvyšších miest.

Pre označenie používajte tag: konspiracia

Iná manipulácia (ina-manipulacia)

Ďalšie, prípadne ťažko pomenovateľné formy manipulácie. Možno sem zahrnúť napríklad:

sugestívny jazyk (nanucujúci istý názor)
manipulácia obrázkom
nesprávna či chýbajúca citácia
rôzne argumentačné fauly (chybné/klamlivé odôvodnenie, ktoré často uspeje v zahmlievaní faktov/pravdy)

Časté príklady argumentačných faulov:

apel na autoritu - odvolávanie sa na formálnu autoritu pri potvrdzovaní vlastných domnienok (napr. vedca, doktora, starostu, populárnu osobnosť…), kde sa predpokladá, že bude vedieť všetko vo svojej oblasti. Autorita môže pracovať aj v inom odbore, prípadne sa preukázala jeho nedôveryhodnosť v odborných kruhoch. Napr. Keď to isté hovorí aj laureát Nobelovej ceny, musí to byť pravda.
whataboutism - pokrytecká diskreditácia súpera bez toho, aby sme priamo vyvrátili jeho argument
ad Hominem - podkopávanie dôveryhodnosti oponenta osobnými útokmi, pričom obe časti argumentu nemajú príčinnú súvislosť
straw man - náhrada oponentovho argumentu podobným (napr. karikaturizujúcim), ktorému je jednoduchšie oponovať
red herring - prinášanie irelevantných informácií s cieľom odkloniť pozornosť
bandwagon - presviedčanie čitateľa, aby sa pripojil, pretože “všetci ostatní” to už urobili
reductio ad hitlerum - presviedčanie čitateľa, aby zamietol ideu, lebo je populárna v neznášanej skupine
thought-terminating cliché - krátka, generická fráza, ktorá odrádza kritické myslenie alebo diskusiu. Napr. To je len tvoj názor (ak ide o fakt)
apel na súdržnosť so skupinou - na úkor inej skupiny, teda s cieľom podporiť nacionalizumus, náboženský fundamentalizmus či rasizmus

Zoznam ďalších argumentačných faulov aj s príkladmi nájdete na: https://www.logicalfallacies.org/

Pre označenie používajte tag: ina-manipulacia

Anotujte tieto stránky

Názov článku

Zdroj

Počet anotácií

Časté otázky

Čo sa bude diať s mojimi osobnými údajmi?

Pri spracúvaní vašich osobných údajov venujeme maximálnu pozornosť ich ochrane. Pre chod nástroja, ktorý sprístupňujeme prostredníctvom tejto webovej stránky, sme zvolili poskytovateľa hypothes.is. Používanie anotačného nástroja je dobrovoľné. Rešpektujeme zásady zákonnosti, minimalizácie, transparentnosti, dôvernosti a integrity v súlade s nariadením Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov a o zrušení smernice 95 /46 / ES (ďalej len „GDPR“) a zákona 18/2018 o ochrane osobných údajov Slovenskej republiky. Prečítajte si Zásady ochrany osobných údajov.

Koľko anotácií potrebujete?

Žiaden spodný a ani vrchný limit na počet anotácií nemáme. Keďže však ide o prvú slovenskú dátovú sadu takéhoto typu, tak každá odoslaná anotácia je pre nás dobrá. Čím viac anotácií získame takýmto spôsobom, tým lepšie výsledky bude dosahovať umelá inteligencia, v rámci ktorej trénovania budú tieto anotácie využité.

Ako sa bude na základe tohto učiť umelá inteligencia?

Všeobecne funguje trénovanie umelej inteligencie na báze vzorov. Umelá inteligencia dostane vzor, ako to, čo sa snaží odhaliť vyzerá a podľa toho sa učí.

Rovnako budeme postupovať aj my, kde jednotlivé anotácie článku budú slúžiť ako signály určujúce, že sa môže jednať o dezinformáciu. Tie následne budú použité ako vzory pre umelú inteligencie, aby sa takéto signály naučila automaticky odhalovať.

Ako je anotovanie poistené proti chybe? Čo ak budú ľudia nahlasovať nesprávne informácie?

Zber dát crowdsourcingovou metódou môže mať mnoho podôb. My sme sa rozhodli ísť cestou prieskumnej štúdie. Jej účelom je vyskúšať nazbierať dáta od ľudí a následne preskúmať ich charakter, či vôbec na niečo môžu byť dobré. To, čo si od podobného nástroja v budúcnosti sľubujeme, nie je zdroj pravdy. Mohol by však poskytnúť surový materiál na ďalšie spracovanie. Už samotná úloha vyfiltrovania "zaujímavého materiálu" z celého slovenského webu je netriviálna a ľudia s ňou môžu pomôcť.

Budú na základe toho stroje rozhodovať o pravde?

Naším cieľom nie je vytvoriť „AI arbitra pravdy“, ktorý by filtroval obsah. Chceme, aby AI pomáhala ľuďom, napr. fact-checkerom rozoznávať dezinformácie. Nemyslíme si, že sa v blízkej budúcnosti bude dať vytvoriť 100 % spoľahlivý detekčný model dezinformácií.

Čo sa nám zatiaľ podarilo