Co je Deepfake?

Deepfake technologie, ještě donedávna považovaná za nevinnou hračku internetu, dnes získává na obřích rozměrech. Nedávný incident, kdy bylo na sociálních sítích zveřejněno falešné video s Andrejem Babišem, jen podtrhl, jak daleko jsou technologie schopné zajít. Ve videu vystupoval Babiš s kontroverzními výroky, které by nikdy veřejně nepronesl. Takové video nejenže vyvolalo vlnu pobouření, ale také znovu otevřelo debatu o hranicích kybernetické bezpečnosti a o tom, jak snadno lze manipulovat veřejným míněním. Zcela nedávno jsme se setkali s dalšími podobnými případy, například s falešnou zprávou o Vladimiru Putinovi nebo se záměrně vytvořenými deepfake videi v předvolebních kampaních ve Spojených státech. Tyto situace ukazují, že již nyní čelíme masivnímu zneužívání deepfake technologie.

Geometrická exploze deepfake technologie

Rychlost, s jakou se deepfake technologie vyvíjí, je až zarážející. Každým dnem se zlepšuje schopnost generovat realistická videa a zvuky, které je čím dál obtížnější rozeznat od pravých. Už teď je jasné, že za několik let pravda a lež zcela splynou – a my je nerozeznáme. Tento rapidní vývoj potvrzuje řada nedávných případů:

  • V Německu roku 2019 použili útočníci deepfake hlas generálního ředitele společnosti k podvedení finančního ředitele. Výsledkem byl převod více než 220 tisíc dolarů na podvodný účet. Dokonalá napodobenina hlasu „šéfa“ nebyla zpochybněna.
  • Během amerických voleb v roce 2020 kolovala na sociálních sítích deepfake videa, v nichž kandidáti pronášeli kontroverzní výroky, které nikdy nepronesli. Cílem těchto videí bylo manipulovat veřejným míněním a destabilizovat demokratický proces.
  • V Hongkongu roku 2022 použili podvodníci deepfake hlas CEO významné společnosti a přesvědčili finanční oddělení, aby okamžitě převedlo více než 35 milionů dolarů na zahraniční účet. Ani v tomto případě nebylo podezření, protože napodobenina byla tak dokonalá.

Zneužití deepfake: Od politiky až po vydírání celebrit

Incidenty ukazují, že zdaleka nejde jen o politickou manipulaci. Deepfake technologie začíná ohrožovat jednotlivce i firmy. Například v roce 2021 se Elon Musk stal terčem vydírání prostřednictvím deepfake videa, které ho mělo kompromitovat. Ačkoli bylo video falešné, vyvolalo obavy a přinutilo Muska zintenzivnit bezpečnostní opatření.

Česká republika se rovněž stává cílem těchto útoků. Deepfake video na české politické scéně z roku 2020, ve kterém byl politik zobrazen s rasistickými výroky, ukazuje, jak snadno mohou deepfaky poškodit pověst veřejných osobností. Také v roce 2022 se česká firma stala obětí deepfake podvodu. Generální ředitel byl falešně napodoben v hovoru, kdy „požádal“ o převod několika milionů korun na zahraniční účet. Naštěstí se finanční oddělení včas dotázalo přímo ředitele a podvod se nezdařil.

Potenciál pro chaos a rostoucí potřeba regulace

Deepfake je jedním z nejmocnějších nástrojů chaosu dnešní doby. Technologické společnosti a vlády čelí výzvě, jak zabránit zneužití této technologie, zatímco schopnost deepfake se stále zdokonaluje. Americká společnost Microsoft například varovala před potenciálním využitím deepfake technologií Čínou pro ovlivnění budoucích voleb v USA. Tento vývoj jen ukazuje, jak nebezpečné mohou být syntetické mediální obsahy a jaké riziko představují pro stabilitu států.

Na obrázku jsou zmačkané noviny s nápisem Fake news

V roce 2024 byla v Rusku odvysílána falešná zpověď ukrajinského šéfa rozvědky, který měl údajně přiznávat účast na teroristickém útoku. Video mělo očividně za cíl poškodit Ukrajinu a diskreditovat její vládu.

Závěr: Deepfake jako hrozba, kterou nelze ignorovat

Vývoj deepfake ukazuje, jak může pokrok ohrozit nejen jednotlivce, ale i státy a světovou stabilitu. Rostoucí využívání deepfake není jen trendem, ale reálnou hrozbou, na kterou musíme reagovat. S rostoucí přesností této technologie je klíčové zavést účinná bezpečnostní opatření a posílit schopnost ověřovat pravost informací. Deepfake je riziko, které nelze ignorovat.