Když rozum zůstává šokovaně zírat. Proti dezinformacím z útrob AI jsou firmy takřka bezmocné
Působivá pomluva, vyvinutá pomocí umělé inteligence a šířená po sociálních sítích, může zasahovat do velké politiky, což už víme. Ale dokáže těžce poškodit i malou firmu. Jak se jí bránit? Špatná zpráva: těžko.
Odborníci hodnotí, že záměrné dezinformace mohou ovlivňovat významné volby ve vyspělých státech. Ale u toho nezůstává. Z pohledu byznysu je důležité, že totéž se může stát u soukromé firmy.
Například dánsko-švédská společnost Arla Foods, která vlastní největší britské mlékárenské družstvo, nedávno oznámila, že v Británii testuje krmnou přísadu, jež má snížit emise metanu vznikajícího v kravském žaludku. To je výborný nápad, který nabízí cestu k budoucímu chovu skotu bez omezení, jež mu jinak kvůli produkci skleníkových plynů mohou hrozit.
Na sociálních sítích se vzápětí objevila fascinující tvrzení, že přísada do krmiva je součástí spiknutí, jehož cílem je vylidnit svět a způsobit problémy s plodností, a za vším prý stojí šéf Microsoftu Bill Gates. Konzumenti dezinformací se nezabývají protivnou otázku, proč by to vlastně Gates dělal a co by z toho měl. Místo toho začali mléčné výrobky bojkotovat.
Kampaň před americkými prezidentskými volbami provází na sociálních sítích záplava manipulativních fotografií a dalších příspěvků vytvořených za pomoci umělé inteligence, které mají ovlivnit voliče k podpoře některého z kandidátů. Podle expertů je většina z nich dílem stoupenců republikánského exprezidenta Donalda Trumpa, některé ovšem mají pomoci jeho demokratické soupeřce, viceprezidentce Kamale Harrisové. Americká média se shodují, že zatímco v minulosti se dezinformace a manipulace šířily převážně pokoutně a často za nimi bylo Rusko, letos se k jejich tvorbě často přiznávají sami Američané.
Manipulace i dezinformace. Do prezidentských voleb v USA promlouvá AI
Politika
Skříně pro „obchod s unesenými dětmi“
Britské regulační orgány přitom přísadu do krmení skotu schválily jako bezpečnou s tím, že se stejně rozkládá ještě v kravském žaludku. Ale to v konspiračních teoriích není podstatné.
Cílem ještě šílenější kampaně se před několika lety stal americký obchodní řetězec Wayfair. Pro některý nábytek používal jako název dívčí jména. Několik ztracených dětí mělo stejné jméno. Z toho vznikla konspirační teorie, že v těchto skříních byly ukrývány a jejich prostřednictvím prodávány unesené děti.
V době covidu byli inženýři britské telekomunikační společnosti Openreach fyzicky ohrožováni kvůli fámám, že prý infekční onemocnění je šířeno pomocí 5G mobilních sítí.
Domněnka, že dezinformacím věří pouze méně vzdělání lidé, je mýtus, říká Tomáš Koblížek z Filosofického ústavu Akademie věd ČR (AV ČR). Příkladem dezinformace, které věří mnohdy i vzdělaní lidé, je podle něj například popírání klimatické změny. Je potřeba začít brát riziko dezinformací a konspiračních teorií vážně. A to podobně jako riziko nenávistných projevů, které lze ze zákona postihnout.
Dezinformacím věří i vzdělání lidé. Mezi popírači klimatické změny jsou i profesoři
Leaders
Případů bude přibývat
Že jsou všechny tyto konspirační teorie pro každého rozumného člověka očividně nesmyslné? Potíž je v tom, že v takovýchto případech nejenom základní fakta, ale i elementární rozum zůstávají šokovaně zírat někde v rohu. Lidé, kteří nesmyslům uvěří, páchají škody, když se jimi řídí při volbách, ale potenciálně ohrožují i byznys firem.
„Nepravdy a dezinformace mohou firmy úplně zničit,“ varuje list Financial Times a dodává, že případů napadení firem pomocí dezinformací bude přibývat.
Generativní umělá inteligence má sice pořád řadu much, ale už dokáže být užitečná v mnoha oborech. A to i v páchání zločinů. Abyste nenaletěli, měli byste být hodně nedůvěřiví a používat vlastní hlavu.
Umělá inteligence ve službách zločinu. Před čím se laik ještě ubrání a kde už nemá šanci?
Enjoy
Nové nástroje: sociální sítě a umělá inteligence
Také v minulosti se šířily různé pomluvy. A to stylem „jedna paní povídala“, kde dosah byl omezený. Případně i v bulvárních médiích, kde zásah populace byl podstatně vyšší, ale postupně vyvanul (někdy i díky „protiútoku“ napadeného s pomocí právníků).
Avšak sociální sítě vnesly úplně novou dimenzi. Dezinformace se v nich lavinovitě šíří. Už není jedna drbna, jež pomluvu říká několika jiným drbnám, které ji dále sdělují jiným jednotlivcům. (Politicky korektní doplnění: slovo „drbna“ je sice ženského rodu, ale tuto funkci dobře zvládají i muži.)
Sociální sítě umožňují, aby dezinformace procházela různými sociálními bublinami, kam ji uživatelé posílají a případně ji ještě „tvořivě“ upraví. Šíření je rychlé, na nepravdivou zprávu je obtížné včas reagovat. Ke všemu je zdrojů šíření konkrétní dezinformace a jejích mutací stále víc a nedá se s nimi všemi polemizovat.
Do toho nyní přichází generativní umělá inteligence. Té stačí zadat téma dezinformace a ona je dobře rozpracuje do různých textů, které jazykem a mentalitou odpovídají požadované cílové skupině. Jeden dezinformátor s počítačem může nepravdu mutovat podle potřeby a po sociálních sítích ji poslat prakticky kamkoli.
Generativní umělá inteligence přitom umí ještě víc. Na požádání vytvoří nepravdivý, ale věrohodně působící zvukový „záznam“ nebo rovnou video, kde dezinformaci „říká“ třeba nějaká známá osobnost. Odhalit tento padělek („deepfake“) je technicky stále obtížnější. Analýzy podvodu přicházejí až se zpožděním. A často je to stejně jedno, protože spousta lidí ochotně nesmyslům věří bez ohledu na fakta.
Umělá inteligence zase o pořádný kus vylepšila možnost vytvářet realisticky vyhlížející videa. Budeme se díky tomu už brzy v kině (televizi, streamovací platformě...) dívat místo na živé herce na jejich uměle vytvořené protějšky? A přijdou tedy filmové celebrity o práci?
Hraný film z počítače bez živých herců? Zdá se, že už brzy bude možný
Enjoy
Prý pomůže transparentnost. Snad...
Co s tím? Anjli Ravalová, redaktorka Financial Times, která se problematikou ohrožení byznysu dezinformacemi zabývá, soudí, že šéfové firem by měli předem hledat slabá místa, kde by společnost mohla být dezinformacemi napadena. Důležité pak je budování důvěryhodnosti firmy a její transparentnost. Pokud její šéfové opakovaně lhali veřejnosti nebo akcionářům (a byli při tom usvědčeni), bude jejich reakce na dezinformace už předem nevěrohodná.
Zhodnotíme-li však současný vývoj, nezdá se, že to může stačit. Nezbývá než připustit, že efektivní nástroj proti dezinformacím teď prostě neexistuje.
