Poďte
s nami učiť AIumelú inteligenciu
rozoznávať
dezinformácie

Odhaľovať dezinformácie je nadľudské úsilie. Preto to chceme naučiť stroje. Poďte s nami označovať a anotovať dezinformácie. Je to prvý krok k tomu, aby to jedného dňa vedela robiť umelá inteligencia.

kempelen

O čo nám ide

  • Prvý dôležitý krok v boji
    proti dezinformáciam
    je ich označovanie.
  • Kolektívnym vytváraním značiekanotácií dokážeme
    spoločne upozorniť na článok, blog alebo post na
    sociálnej sieti, ktorý šíri dezinformácie.
  • Takýto obsah však nechceme len označiť,
    ale aj pomenovať, prečo je problematický.
  • Projekt prevádzkuje Kempelenov inštitút
    inteligentných technológií
    .

Prečo treba
označovať
dezinformácie

  • Kvalitné označenie dezinformácií je nevyhnutným prvým krokom riešenia tohto problému
  • Označením problematického obsahu pred ním vystríhate ostatných
  • Pomôžete naučiť systémy umelej inteligencie rozoznávať dezinformačný obsah automaticky

Ako na anotovanie

Potrebujete len:

Mozog

mozog

Počítač

pocitac
Chrome, Edge alebo Firefox

Webový prehliadač

webovy-prehliadac

Prečítať si návod

navod

Nahláste nám
podozrivý obsah

Našli ste problematický článok,
ktorý by bolo dobré označkovať
našou komunitou?

    Začnite anotovať aj vy

    1

    Nainštalujte si všetko potrebné

    Na označovanie online obsahu používame aplikáciu s názvom Hypothes.is. Aby bolo možné túto aplikáciu používať a následne s jej pomocou označovať, je potrebné vykonať niekoľko krokov.

    Návod na inštaláciu
    2

    Začnite anotovať

    Vysvetlíme vám, ako označovať texty na webe a používať príslušné značky.

    Návod na anotovanie
    3

    Používajte správne značky

    Manipulácia faktov (manipulacia-faktov)

    Manipulácia faktov zahŕňa:

    • nesprávna interpretácia overených faktov
    • cherry picking vedeckých faktov
    • prekrúcanie faktov
    • zveličovanie faktov
    • banalizácia faktov
    • silná zaujatosť v prospech istého naratívu (pričom sa zamlčiavajú ostatné fakty)
    • prezentácia faktov v inom kontexte

    Pre označenie používajte tag: manipulacia-faktov

    Clickbait (clickbait)

    Nadpis alebo vizuálne atraktívny prvok špeciálne vytvorený na to, aby naň používatelia klikli a navštívili ho. Často potom ide o obsah s nízkou kvalitou, prípadne sa v ňom takmer vôbec informácia z “návnady” nenachádza. Napr. Nikdy neuveríte, čo sa stalo, keď…, Toto je najmilšia vec na svete…, Urobíte najväčšiu chybu ak...

    Pre označenie používajte tag: clickbait

    Hejt (hejt)

    Šírenie nenávisti, napádanie menšín alebo skupín ľudí na základe:

    • pohlavia
    • sexuálnej preferencie
    • rasy
    • národnosti/etnicity
    • náboženského vyznania
    • veku
    • akéhokoľvek znevýhodnenia

    Cieľom je osočovať a ponížiť cieľ, zničiť jeho povesť a urobiť ho zraniteľným a vystrašeným. Môže zahŕňať popieranie ľudských práv (segregácia, obmedzovanie…), výzvu k akcii na násilie, vulgarizmy, generalizáciu, šírenie stereotypov, problematické prezývky a symboly, vysmievanie, zastrašovanie a nepriateľstvo. Patria sem napr. prejavy sexizmu, xenofóbie, antisemitizmu, osobné útoky na motívy ľudí a pod. Napr. Migranti sú pliaga, ktorú treba vyhnať tam, odkiaľ prišli.

    Pre označenie používajte tag: hejt

    Strašenie (strasenie)

    Apel na najnižšie pudy, pričom objektívne cieľ natoľko neohrozuje kvalitu života jednotlivcov. Napr. Dajte ruky preč od našich detí. Stop korona totalite.

    Pre označenie používajte tag: strasenie

    Nálepkovanie (nalepkovanie)

    Označovanie niekoho niečím, čoho sa ostatní boja alebo neznášajú, s cieľom dehumanizovať cieľ. Nálepky neprimerane zjednodušujú, obviňujú a stereotypizujú vybrané osoby či skupiny. Napr. Novinári sú otravný hmyz.

    Pre označenie používajte tag: nalepkovanie

    Konšpirácia (konspiracia)

    Vysvetlenie komplexných javov jednou zjednodušenou (často vymyslenou) príčinou. Napr. Mám pocit, akoby šlo o globálne zadanie z najvyšších miest.

    Pre označenie používajte tag: konspiracia

    Iná manipulácia (ina-manipulacia)

    Ďalšie, prípadne ťažko pomenovateľné formy manipulácie. Možno sem zahrnúť napríklad:

    • sugestívny jazyk (nanucujúci istý názor)
    • manipulácia obrázkom
    • nesprávna či chýbajúca citácia
    • rôzne argumentačné fauly (chybné/klamlivé odôvodnenie, ktoré často uspeje v zahmlievaní faktov/pravdy)

    Časté príklady argumentačných faulov:

    • apel na autoritu - odvolávanie sa na formálnu autoritu pri potvrdzovaní vlastných domnienok (napr. vedca, doktora, starostu, populárnu osobnosť…), kde sa predpokladá, že bude vedieť všetko vo svojej oblasti. Autorita môže pracovať aj v inom odbore, prípadne sa preukázala jeho nedôveryhodnosť v odborných kruhoch. Napr. Keď to isté hovorí aj laureát Nobelovej ceny, musí to byť pravda.
    • whataboutism - pokrytecká diskreditácia súpera bez toho, aby sme priamo vyvrátili jeho argument
    • ad Hominem - podkopávanie dôveryhodnosti oponenta osobnými útokmi, pričom obe časti argumentu nemajú príčinnú súvislosť
    • straw man - náhrada oponentovho argumentu podobným (napr. karikaturizujúcim), ktorému je jednoduchšie oponovať
    • red herring - prinášanie irelevantných informácií s cieľom odkloniť pozornosť
    • bandwagon - presviedčanie čitateľa, aby sa pripojil, pretože “všetci ostatní” to už urobili
    • reductio ad hitlerum - presviedčanie čitateľa, aby zamietol ideu, lebo je populárna v neznášanej skupine
    • thought-terminating cliché - krátka, generická fráza, ktorá odrádza kritické myslenie alebo diskusiu. Napr. To je len tvoj názor (ak ide o fakt)
    • apel na súdržnosť so skupinou - na úkor inej skupiny, teda s cieľom podporiť nacionalizumus, náboženský fundamentalizmus či rasizmus

    Zoznam ďalších argumentačných faulov aj s príkladmi nájdete na: https://www.logicalfallacies.org/

    Pre označenie používajte tag: ina-manipulacia

    4

    Anotujte tieto stránky

    Názov článku
    Zdroj
    Počet anotácií

    Časté otázky

    Čo sa bude diať s mojimi osobnými údajmi?

    Pri spracúvaní vašich osobných údajov venujeme maximálnu pozornosť ich ochrane. Pre chod nástroja, ktorý sprístupňujeme prostredníctvom tejto webovej stránky, sme zvolili poskytovateľa hypothes.is. Používanie anotačného nástroja je dobrovoľné. Rešpektujeme zásady zákonnosti, minimalizácie, transparentnosti, dôvernosti a integrity v súlade s nariadením Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov a o zrušení smernice 95 /46 / ES (ďalej len „GDPR“) a zákona 18/2018 o ochrane osobných údajov Slovenskej republiky. Prečítajte si Zásady ochrany osobných údajov.

    Koľko anotácií potrebujete?

    Žiaden spodný a ani vrchný limit na počet anotácií nemáme. Keďže však ide o prvú slovenskú dátovú sadu takéhoto typu, tak každá odoslaná anotácia je pre nás dobrá. Čím viac anotácií získame takýmto spôsobom, tým lepšie výsledky bude dosahovať umelá inteligencia, v rámci ktorej trénovania budú tieto anotácie využité.

    Ako sa bude na základe tohto učiť umelá inteligencia?

    Všeobecne funguje trénovanie umelej inteligencie na báze vzorov. Umelá inteligencia dostane vzor, ako to, čo sa snaží odhaliť vyzerá a podľa toho sa učí.

    Rovnako budeme postupovať aj my, kde jednotlivé anotácie článku budú slúžiť ako signály určujúce, že sa môže jednať o dezinformáciu. Tie následne budú použité ako vzory pre umelú inteligencie, aby sa takéto signály naučila automaticky odhalovať.

    Ako je anotovanie poistené proti chybe? Čo ak budú ľudia nahlasovať nesprávne informácie?

    Zber dát crowdsourcingovou metódou môže mať mnoho podôb. My sme sa rozhodli ísť cestou prieskumnej štúdie. Jej účelom je vyskúšať nazbierať dáta od ľudí a následne preskúmať ich charakter, či vôbec na niečo môžu byť dobré. To, čo si od podobného nástroja v budúcnosti sľubujeme, nie je zdroj pravdy. Mohol by však poskytnúť surový materiál na ďalšie spracovanie. Už samotná úloha vyfiltrovania "zaujímavého materiálu" z celého slovenského webu je netriviálna a ľudia s ňou môžu pomôcť.

    Budú na základe toho stroje rozhodovať o pravde?

    Naším cieľom nie je vytvoriť „AI arbitra pravdy“, ktorý by filtroval obsah. Chceme, aby AI pomáhala ľuďom, napr. fact-checkerom rozoznávať dezinformácie. Nemyslíme si, že sa v blízkej budúcnosti bude dať vytvoriť 100 % spoľahlivý detekčný model dezinformácií.

    Čo sa nám zatiaľ podarilo

    135 65 30 31

    Očkovaní zdravotníci mali 251-násobnú vírusovú nálož ako neočkovaní, zistila oxfordská štúdia

    www.badatel.net

    Tag: manipulacia-faktov

    ...Očkovaní zdravotníci mali 251-násobnú vírusovú nálož ako neočkovaní, zistila oxfordská štúdia...

    Infografika