Lháře odhalí umělá inteligence snáze než člověk, ale pořád to nestačí

Myslí to vážně, nebo mi lže do očí? To je otázka, kterou si snad každý někdy položí, když mluví s potenciálním obchodním partnerem, s prodejcem nabízeného zboží nebo třeba jen tak s někým v restauračním zařízení. Výzkumníci zkouší zapojit do odhalování lží umělou inteligenci. Dokáže to líp než člověk, výsledky ale pořád nejsou nic moc. Nicméně už mohou přinášet problémy, pokud se na ně někdo příliš spolehne.

Výsledky získané klasickým detektorem lži (polygrafem), vynalezeným před 103 lety v USA, ani jeho později zdokonalenými verzemi, se dnes nepovažují za věrohodné. Obvykle se už smějí použít jen na základě dobrovolnosti, ale k výsledkům se má přistupovat opatrně. V minulosti na nich ovšem často závisel osud lidí obviněných ze zločinu či prověřovaných pro práci ve státních úřadech.

Detektor lži je založen na měření projevů nervozity, sleduje tedy dýchání, puls, krevní tlak, elektrickou vodivost pokožky (která je ovlivněna nervozitou a pocením), někdy i velikost oční zornice. Všechny tyto veličiny odrážejí stres, tedy vlastně strach z přístroje. Čím více se člověk, jenž lže, bojí, že to přístroj pozná, tím větší je jeho stres, který přístroj změří.

Naopak vyšetřením na detektoru úspěšně prošla řada lhářů, kteří říkali vědomé nepravdy dostatečně suverénně. Zato vyplašený člověk, napojený na elektrody a vyslýchaný v nepřátelsky působícím prostředí, může být diagnostikován jako lhář, přestože mluví pravdu.

Trump s „morálkou pouličního kocoura“ takřka nepřetržitě lhal, přesto večer zvládl lépe než křehký Biden

Názory

Trump v první předvolební debatě mnohokrát zalhal a manipuloval. Potvrdil tak, že je nebezpečím pro demokracii a právní stát. Tento obrázek však zakrylo vystoupení prezidenta Bidena, na kterého nyní sílí tlak kvůli vysokému věku. Pochybnosti se mu rozptýlit nepodařilo.

Karel Pučelík

Přečíst článek

Nový směr: nahlížení do mozku

Tyto chyby by měly odstranit nové přístupy. Některé jsou založeny na počítačovém vyhodnocování záznamu mimiky obličeje a gestikulace člověka při výslechu. Jiné sledují slovní vyjadřování, které se při lži změní.

Velmi slibnou cestou je „nahlížení do mozku“ pomocí přístrojů, které sledují, ve které části mozku právě probíhá aktivita, což se může při lhaní lišit. Využít se dá funkční magnetické rezonance (při ní musí být hlava uvnitř velkého a drahého přístroje), elektroencefalografu (k měření stačí elektrody na hlavě) a zkoumá se i použití levnějšího infračerveného záření vysílaného z čelenky na hlavě, které se specificky odráží od těch částí mozku, v nichž se právě spotřebovává kyslík neboli které právě pracují.

Výsledky jsou docela slibné, ale na jistojisté odhalení lháře pořád nestačí.

Čtení myšlenek začíná být možné, i když zatím potřebuje velký stroj a hodně počítačové práce

Enjoy

Vědci pokročili ve strojovém „čtení myšlenek“, tedy v poznání toho, co si zkoumaná osoba myslí. I tady hraje roli využití umělé inteligence. V praxi by to mohlo jednou vést k ovládání počítače nebo třeba i výrobní linky jen svou vůlí, ale také k proniknutí do nejhlubšího lidského soukromí.

Josef Tuček

Přečíst článek

Napište plán na víkend. A lžete při tom

A nové varování přináší studie publikovaná v odborném periodiku iScience. Její autoři z univerzity v německém Würzburgu a z berlínského Centra člověka a stroje Ústavu Maxe Plancka uskutečnili typ experimentu, jaké se dnes dělají při zkoumání lidského jednání v laboratoři.

Požádali dobrovolníky, aby pravdivě popsali své plány na víkend. Poté každý účastník experimentu dostal za úkol popsat zcela nepravdivý plán na víkend, ale předstírat, že přesně tohle plánuje. Téma bylo náhodně vybráno z toho, co dotyčná pokusná osoba označila jako pro ni zcela nevyhovující. Povzbuzovala ji v tom malá finanční odměna, kterou získala, když byl v další části experimentu její lživý text považován za pravdivý.

Tím výzkumníci získali od 768 lidí vždy jeden pravdivý a jeden zcela nepravdivý text.

Hraný film z počítače bez živých herců? Zdá se, že už brzy bude možný

Enjoy

Umělá inteligence zase o pořádný kus vylepšila možnost vytvářet realisticky vyhlížející videa. Budeme se díky tomu už brzy v kině (televizi, streamovací platformě...) dívat místo na živé herce na jejich uměle vytvořené protějšky? A přijdou tedy filmové celebrity o práci?

Josef Tuček

Přečíst článek

Počítač porovnal pravdivé a lživé texty

Poté 80 procent těchto textů, včetně informace o tom, zda jsou pravdivé, předali systému umělé inteligence založenému na jazykovém modelu BERT od Googlu. Ten se měl na vstupech a rozboru jejich stavby „naučit“ rozpoznávat reálná a lživá tvrzení. Následně systém dostal zbývajících 20 procent textů, teď už bez informace o tom, které jsou pravdivé. Čistě náhodná pravděpodobnost rozpoznání lží je padesát procent (a tak často se obvykle trefí i člověk). Umělá inteligence však lži odhalila v 67 procentech případů.

Neboli: Umělá inteligence byla v tomto specifickém experimentu lepší v odhalování lhářů, než bývají lidé. Jenomže dvě třetiny odhalených lží je přece jenom pořád málo, na takové přesnosti se pořád nedá stavět důvěra mezi obchodními partnery nebo rozsudek v kriminálním případě. Nicméně našlápnuto je, umělá inteligence se rychle vyvíjí a příště bude zase lepší. Důležité na postupu je, že analýza textu se dá dělat utajeně, zkoumaný člověk nemusí mít hlavu v přístroji.

Ukázal se však jiný docela vážný problém.

Už to začíná. Rusové zaplavují sociální sítě deepfake videi o pařížské olympiádě

Zprávy z firem

Ruští sportovci mají zakázáno soutěžit na letních olympijských hrách pod vlajkou své země. A Rusko se rozhodlo obrátit svůj hněv proti olympiádě a jejímu letošnímu hostiteli, Paříži, napsal list The New York Times.

ČTK

Přečíst článek

Nezasloužená důvěra ve stroj

Výzkumníci v experimentu pokračovali. Našli další dva tisíce pokusných osob, jimž dali už napsané texty o víkendových plánech. Noví účastníci byli „soudci“, kteří v různých variantách posuzovali pravdivost textů. Zjednodušeně: Motivováni byli tím, že za správně odhalený lživý text dostali malou finanční částku, současně věděli, že autor posuzovaného textu za jejich obvinění nějaké peníze ztratí (bez ohledu na oprávněnost obvinění). „Soudci“ si také mohli za trochu peněz koupit hodnocení z umělé inteligence a rozhodnout se, zda na ně dají.

Dvě třetiny „soudců“ se spolehlo na své síly. Věděli, že polovina textů je nepravdivá, ale jako nepravdivé označili jen 19 procent (oprávněně i neoprávněně).

Třetina „soudců“ si však koupila výsledky z umělé inteligence. Ti pak jako nepravdivé označili 58 procent textů.

Co nám z toho všeho vyplývá? Že umělá inteligence je sice lepší v odhalování lží než člověk, ale ne zas dostatečně. Ale lidé jsou ochotni jejím doporučením přesto věřit. A to může být docela rizikové.

Jak pro časopis MIT Technology Review uvedla spoluautorka studie ekonomka Alicia von Schenk, odhalovat lži je určitě důležité, protože se kolem nás šíří mnoho falešných zpráv a dezinformací. Avšak dodala, že dokud tyto nové technologie posuzování textů nebudou dostatečně spolehlivé, je lepší je vůbec neužívat.

Umělá inteligence ve službách zločinu. Před čím se laik ještě ubrání a kde už nemá šanci?

Enjoy

Generativní umělá inteligence má sice pořád řadu much, ale už dokáže být užitečná v mnoha oborech. A to i v páchání zločinů. Abyste nenaletěli, měli byste být hodně nedůvěřiví a používat vlastní hlavu.

Josef Tuček

Přečíst článek