NATVRDO: Dezinformace a manipulace! Brzy se staneme otroky umělé inteligence
Fake news, dezinformace, manipulace, lživá média nebo moderní propaganda. Pokud máte pocit, že se vás to netýká a jen se usmíváte Donaldu Trumpovi a jeho „alternativním faktům“, možná byste měli zpozornět. V posledních letech se totiž abnormálně rychle rozvíjí umělá inteligence, která z doposud poměrně neškodných nástrojů může stvořit problém, o kterém se nám ani nezdálo. Anebo si myslíte, že vás chytrý počítač nikdy nemůže řídit?
Sám jsem problém dezinformací a fake news dlouho nepovažoval za zásadní problém a byl jsem přesvědčený, že lidé se naučí lži nebo manipulace rozpoznávat. Pak jsem se ale setkal se dvěma experty, kteří mi otevřeli oči. Jedním z nich byl Michal Pěchouček, vědec a největší český expert na umělou inteligenci, druhý pak František Vrabel, jehož analytická firma Semantic Visons s dezinformacemi bojuje. A oba mi vysvětlili, že umělá inteligence a její algoritmy mohu být brzy tak chytré a zrádné, že si to ani neuvědomíme. Prý nás čekají nehezké časy.
Už dnes na internetu fungují inteligentní algoritmy, které v reálném čase přizpůsobují obsah, který se k nám dostane. Každému z nás se zobrazuje jiná reklama, v e-shopech se nám cíleně nabízí konkrétní zboží a na Facebooku máme individuální příspěvky, fotky a videa. Dokonce i při hledání na Googlu se každému zobrazují trochu jiné výsledky, a to podle toho, jaké máme zájmy, preference a historii.
Internetové společnosti o nás zkrátka mají tolik informací, že si s námi mohou pohrávat. Dokonce je těch informací tolik, že je samy zatím nedokážou dokonale zpracovat. Jenže stačí, aby se trochu zlepšil výkon jejich počítačů a zlepšila se umělá inteligence, a všichni budou do detailu znát naše životy. Nebudou znát jen naše záliby, oblíbená jídla nebo to, kde jsme byli na dovolené, ale také naše nejtajnější přání, úchylky nebo dokonce plány do budoucna.
Obchod se o těhotenství dozví dřív než manžel
Díky hromadě stop, které za sebou necháváme používáním počítačů, mobilů, elektronických receptů od lékaře nebo třeba věrnostních kartiček v obchodech, mají všichni – internetové firmy, úřady i obchodníci, dokonalý přehled o našem životě. V USA je už dnes běžné, že třeba velké řetězce odesílají lidem domů individuální slevové akce podle toho, co se chystají nakoupit. Obchody už dneska ví o těhotenství žen dříve než jejich vlastní manžel nebo rodina. Stačí jim, když nakoupí určité věci, které obvykle těhotné ženy kupují. Mají totiž statistické informace od desítek milionů žen z celého světa a snadno mohou těhotenství uhádnout!
Není daleko doba, kdy prakticky nebudeme o svých vlastních životech sami rozhodovat. Budeme si kupovat věci, objednávat dovolené nebo koukat na seriály, které nám někdo doslova nadiktuje. Kombinace psychologie, umělé inteligence a dat, která o sobě všude trousíme, bude dokonalým nástrojem k naší manipulaci. A co je nejzrádnější – my sami si vůbec nebudeme uvědomovat, že nás někdo ovlivňuje, a budeme přesvědčeni, že se rozhodujeme sami.
Umělá inteligence nás „oblafne“
Umělá inteligence bude zkrátka chytřejší než my a bude s námi jednat podobně, jako třeba jednáme my s našimi dětmi. Jsou to ty nejběžnější manipulace typu „když sníš brokolici, tak si můžeš pustit pohádku“ nebo „vyber si: buď půjdeš spát hned a já ti přečtu pohádku, nebo si ještě půl hodiny hraj a bude to bez pohádky“. Často se nenápadně své děti snažíme přimět k tomu, co chceme.
A teď si představme, že něco takového bude dělat někdo nám, jen mnohem sofistikovaněji. Budeme se rozhodovat přesně tak, jak bude chtít umělá inteligence, potažmo někdo, kdo ji naprogramovat a využívá jí.
Právě tady se rodí to největší riziko, které může zcela změnit svět, ve kterém žijeme. Pokud totiž umělou inteligenci začnou využívat třeba politici, teroristé nebo tajné služby a vlády nepřátelských států, snadno nás mohou zmanipulovat a přimět dělat věci, které by nás normálně vůbec nenapadly.
Už dnes jsme cílem manipulace
Oba výše zmínění experti mluví o tom, že umělá inteligence bude natolik chytrá a bude nás znát tak dobře, že nebude problém se řídit tím, co nám říká. Nebo se prý do ní možná i zamilujeme. Jistě, myslíte si, že je nesmysl, že abyste se pobláznili do počítačovému programu. Jenže už dneska jsou známé případy, kdy dezinformační kampaně přes Facebook ovlivňovaly rozhodnutí lidí ve volbách – lidé jednali tak, jak někdo nařídil.
Už dneska si na internetu občas kupujeme věci, o kterých jsme dříve neslyšeli nebo jsme je nechtěli, ale prostě na nás někde vyskočily a vypadaly hezky. Myslíme si, že je to „jen“ reklama a že se přece nakonec rozhodujeme sami. To ale není pravda. Výzkumy ukazují, že tato chytrá reklama je natolik účinná, že lidé hromadně nakupují i věci, které ve skutečnosti nechtějí. Reklama je individuálně přizpůsobena tomu, jak se cítíme, co prožíváme a co máme rádi. A navíc – tohle je jen předstupeň toho, co nás za pár let čeká.
Za pár let bude vše mnohem chytřejší. Umělá inteligence pro každého vytvoří jeho unikání digitální svět, která bude podporovat jeho životní bublinu. Vzniknout dezinformace a fake news „šité na míru“ pro každého z nás. Cizí mocnosti, třeba Rusko, budou ovlivňovat, koho si zvolíme ve volbách nebo jak budeme hlasovat v referendech, třeba o vystoupení z NATO nebo EU. A teroristé mohou vytvořit algoritmy, do kterých se bezhlavě zamilujeme a budeme je zbožňovat více, než lidské bytosti. Sami víme, jak hloupě se někdy chováme, když jsme bezhlavě zamilovaní. A kdo potom teroristům zabrání, aby ten chytrý algoritmus řekl: „Lásko, jestli mě opravdu miluješ, tak pro mě zabij tohoto člověka!“
