Jak nebezpečná může být umělá inteligence v rukou hackera?
Publikováno: 3.4.2023
Umělá inteligence dokáže dnes úžasné věci a vyvíjí se mílovými kroky doslova každý den. Co se zdálo být nemožné ještě před rokem, je dnes již možné a i ty nejbláznivější náměty ze sci-fi filmů, o kterých se myslelo, že budou ještě spoustu, spoustu let neproveditelné jsou najednou za dveřmi. Někdo se raduje, někdo se děsí, jisté je však jedno – budoucnost je tady a s ní i úplně nové hrozby. Připravte se na ně s námi, ať vás nezaskočí.
Co je to umělá inteligence a co umí?
Umělá inteligence (neboli AI) umožňuje strojům samostatně se rozhodovat a řešit komplexní problémy na základě naučených informací. V první fázi je potřeba, aby umělou inteligenci učil člověk. V pokročilém stádiu je pak již AI schopna učit se sama a dokonce sama sebe opravovat, pokud zjistí, že udělala chybu.
Je to velká změna proti tomu, jak fungovaly počítače dříve. Programátor musel naprogramovat chování počítače pro každou jednotlivou situaci, která potenciálně mohla nastat. Pokud programátor nějakou situaci opomněl, program si nedokázal poradit a docházelo k chybám. V případě umělé inteligence se počítači poskytne velký vzorek dat (čím větší, tím lepší), obsahující příkladové situace a správné reakce na ně. Počítač si v těchto datech najde systém, dle kterého se následně učí samostatně reagovat i na situace nepopsané v dodaném vzorku dat. Díky tomu dokáže kreativně reagovat i na situace, s nimiž programátor vůbec nepočítal.
Umělou inteligenci používají již dlouhou dobu mnohé technologické společnosti, jako je třeba Google, Microsoft, Meta (bývalý Facebook) a další. Díky AI vám Google nabízí lepší výsledky vyhledávání nebo zobrazuje reklamu perfektně zacílenou na vaše aktuální potřeby.
V poslední době se roztrhl pytel s nástroji využívajícími strojové učení. Umělá inteligence vám tak například napíše článek nebo referát (nutno podotknout, že zatraceně dobře a klidně i v Češtině), nakreslí obraz dle zadání, složí písničku, vytvoří video, kde kdokoli říká a dělá cokoli (co se ve skutečnosti nikdy nestalo) nebo třeba naprogramuje jednoduchou aplikaci. Za zmínku stojí zejména nástroje ChatGPT a DALL-E společnosti OpenAI.
Jak umělou inteligenci zneužívají podvodníci?
Jistě již tušíte, že stejně jako v případě všech skvělých vynálezů v historii, ani tomuto se nevyhnuly snahy některých lidí o jeho zneužití k nesprávným věcem. Narozdíl od třeba atomové bomby, k jejímuž sestrojení přeci jen potřebujete nějaké podmínky, materiál a zkušenosti, nástroje umělé inteligence jsou dostupné každému, kdo má připojení k internetu. Mnohé z nich jsou dokonce zadarmo. Právě tato snadná a masová dostupnost je něco, co z umělé inteligence dělá v jistém ohledu možná větší riziko, než právě atomová bomba.
Druhým faktorem, který z AI dělá v nesprávných rukou zbraň hromadného ničení je ten, že dokáže vytvářet velmi přesvědčivou fiktivní realitu – přesvědčivou natolik, že je prakticky nemožné poznat, že se jedná o podvod. Je libo video, kde prezident svým skutečným hlasem, s absolutně přesvědčivou mimikou, typickými pohyby a dokonale přesnou podobou vyhlašuje válku jinému státu? Není problém! Následky takového deep fake videa mohou být katastrofální.
Nemusíme ale nutně mířit hned do vysoké politiky. Fio banka nedávno zveřejnila video, které přišlo jednomu jejich klientovi do e-mailu. Toto video zobrazuje údajného pracovníka Fio banky, který promlouvá přímo ke konkrétnímu člověku, jemuž video přišlo – reaguje na konkrétní situaci, v níž se klient právě nachází a oslovuje ho jeho jménem. Taková videa vás mohou vyzývat k platbě na účet podvodníka, nebo k odeslání vašich přihlašovacích údajů či údajů z platební karty. Je naprosto jisté, že podobných podvodů bude přibývat a rozpoznat je bude čím dál náročnější. Útočníci využívají umělou inteligenci k tomu, aby vás mohli lépe přesvědčit, vzbudit ve vás větší důvěru (vidíte konkrétního člověka na videu, který se vydává za zaměstnance vaší banky, promlouvá přímo k vám, oslovuje vás jménem) a manipulovat vás.
Pomocí AI nástrojů mohou útočníci snadno během minuty vygenerovat podvodný e-mail, u kterého nepůjde na první pohled vůbec poznat, že se jedná o podvod. Žádné tragické překlady, spousta chyb a překlepů, jako jsme byli zvyklí dosud. Umělá inteligence zvládne napsat text v češtině tak dobře, že bude budit dojem textu psaného rodilým mluvčím s velmi dobrou znalostí pravopisu a gramatiky.
Jak rozpoznat výtvor umělé inteligence?
Jak jsme psali výše – rozpoznat podvodný e-mail napsaný umělou inteligencí je velmi náročné vzhledem ke kvalitě textu. Lámaná čeština se vytrácí a výtvor AI lze těžko rozeznat od originálních e-mailů např. od banky či jiných institucí. Člověk by měl být při čtení e-mailů vždy ve střehu a číst je pozorně. V první řadě je vždy důležité používat selský rozum.
Pokud v e-mailové schránce nalezneme e-mail od banky k přihlášení do bankovnictví prostřednictvím odkazu, je potřeba si říct, že takovou činnost banka nikdy předtím nevyžadovala, a je to minimálně podezřelé. Stejně by měl člověk postupovat i u sdělení jiného formátu a pokládat si důležité otázky: Proč by toto po mně někdo chtěl? Proč by mi někdo něco dával zadarmo? apod. Dalším typickým znakem podvodných e-mailů je podezřelá e-mailová adresa, ze které byl e-mail odeslán.
V textu se zaměřte na širší kontext, opakování některých slov nebo celých frází. Pro AI je typická tendence se zacyklit v myšlenkách. Můžete zkusit použít také nástroj AI Text Classifier společnosti OpenAI, který se zaměřuje na rozpoznávání textů psaných umělou inteligencí.
V případě videí je to snazší. Přestože AI dokáže vytvořit opravdu přesvědčivé video, nástroje které používají průměrní podvodníci jsou většinou na podstatně nižší úrovni. Zaměřte se na hlas. Zní naprosto přirozeně, nebo vám lehce připomíná syntetické hlasy z Google překladače? Pozorujte pusu mluvčího. Otevírá se přesně podle mluveného slova? Vypadá mimika přirozeně? Nevidíte na videu nějaké chyby, které by napovídaly, že video je uměle vytvořené? Zapadá do sebe popředí a pozadí videa? Nejsou na videu zdeformované objekty? Nechybí lidem na videu nějaká část těla, nebo nejsou některé části těla lehce zdeformované, či nesymetrické? To vše jsou otázky, které byste si ve snaze odhalit podvodné video vytvořené umělou inteligencí měli položit.