Systémová ochrana se hroutí. Selžou kvůli AI hrozbám spamové filtry a firewally?
Rozsáhlý výzkum, který téměř přesně před rokem provedla společnost Barracuda Networks spolu s univerzitami v Kolumbii a Chicagu, přišel se znepokojivým zjištěním. Většinu spamových e-mailů, konkrétně 51 procent, vytvořila generativní umělá inteligence. Ta prokazatelně vytváří mnohem uvěřitelnější podvodné e-maily než člověk. Dokonce tak, že je čím dál častěji neodhalí ani spamové filtry.
V dobách před vzestupem velkých jazykových modelů bylo možné phishing a spam velmi často odhalit pouhou kontrolou e-mailu z hlediska stylistiky a množství pravopisných a gramatických chyb. Kostrbaté e-maily plné chyb totiž byly ukázkovým příznakem phishingových a dalších podvodných kampaní.
Generativní umělá inteligence tento příznak nejen eliminovala, ale s tím, jak se neustále zlepšuje, jsou útoky, které ji využívají, stále efektivnější. A realita se tak stává stále více dystopickou.
Partner pražské venture kapitálové společnosti Presto Ventures a spoluzakladatel České startupové asociace Vojta Roček publikoval nedávno zdánlivě apokalyptický a poměrně obsáhlý tweet, ve kterém tvrdí, že jsme jen pouhé měsíce od doby, kdy prakticky přestanou fungovat spamové filtry v mailech a po nich také další pasivní mechanismy zabezpečení, na které jsme v minulosti spoléhali.
„AI obecně přináší automatizaci hyperpersonalizace. To, co dříve chodilo v tisíci identických kopiích na všechny příjemce nebo to personalizovalo nějaké indické call centrum, dnes AI dokáže škálovat za zlomek ceny. Ale nejde jen o to, útok na každého z nás může být perfektně personalizovaný a využívat proti nám naše vlastní mentální vzorce a znalosti,“ rozvádí pro český Forbes svoji tezi.
Například deepfake hlas našich blízkých nás může nenápadně nasměrovat do náruče podvodníků, protože zdánlivě neříká nic, co bychom od nich běžně nečekali. Zdroj hlasu přitom není tak těžké získat. „Představte si třeba červa, který se dostane přes infikovaný link do vašeho WhatsAppu, načte si komunikační korpus s vaším nejbližším člověkem a okamžitě začne komunikovat jako vy,“ popisuje Roček.
V největším ohrožení jsou pochopitelně starší lidé. Roček uvádí možný konkrétní scénář podvodu krok za krokem: matce nejprve zavolá dcera s varováním před podvodníky, kteří v poslední době okrádají seniory, a doporučí mamince, aby si uložila peníze na bezpečnější místo, například k ČNB nebo policii.
Poté zavolá někdo, kdo se vydává za policistu, představí se třeba jako plukovník, potvrdí, že jim dcera volala a že skutečně mají potvrzeno, že se na seniorku podvodníci chystají. Následně jí nabídne pomoc s převodem na „bezpečný účet“ a sdělí, že detaily pošle přes WhatsApp.
Poté přijde obrázek oficiálně vypadající listiny s digitálním podpisem, s detaily platby a odkazem na její provedení. Pokud k převodu do minuty nedojde, začnou seniora bombardovat zprávy a telefonáty dalších příbuzných a ptát se, proč maminka prostředky ještě nepřevedla, když o ně takto může hned přijít.
To vše je s dnešními prostředky možné provést za relativně malé náklady.
Nikdo není v bezpečí
Z obliga ale podle Ročka nejsou ani ti ostražitější z nás. Na ty prý pro změnu čekají automatizované útoky na dodavatelský řetězec. Útočníci do softwarových balíčků instalovaných našimi vlastními AI agenty nasadí trojské koně, které „prošmejdí“ každý náš chat a najdou všechna naše osobní data a doklady, následně se připojí, kam to půjde, a extrahují odsud vše, co má nějakou hodnotu.
Nejhorší na tom celém podle něho bude, že si ani nevšimneme, že nás někdo právě okrádá. Nejzranitelnější pochopitelně mají být lidé s hlubokou digitální stopou, hlavně na sociálních sítích jako LinkedIn, X, Facebook, Reddit.
„Nepomůže přitom ani anonymizace pomocí přezdívek, protože AI už dnes dokáže velmi úspěšně párovat v textovém korpusu unikátní vyjadřovací styl napříč platformami. Už jen množství e-mailů, které mi za poslední měsíc nabídly instalaci zaručeně bezpečného softwaru pro můj Trezor (hardwarová kryptopeněženka – pozn. redakce), a které tudíž bez problému prošly jinak tak výkonnými filtry Gmailu, je zarážející. Systémová ochrana se hroutí,“ uzavírá Roček chmurně.
Nepomůže ani anonymizace pomocí přezdívek, protože AI už dnes dokáže velmi úspěšně párovat v textovém korpusu unikátní vyjadřovací styl napříč platformami.
Vojta Roček, partner v Presto Ventures
Skutečně nás čeká bezpečnostní AI apokalypsa, nebo bude realita méně filmově dramatická?
„V našich datech vidíme, že útoky zneužívající důvěryhodně působící obsah a tlačící uživatele k nebezpečné akci vzrostly v první polovině roku 2025 o 517 procent a staly se druhým nejčastějším vektorem útoku po phishingu,“ prohlašuje Vítězslav Pelc z kyberbezpečnostní společnosti Eset.
„Umělá inteligence útočníkům pomáhá zvyšovat kvalitu phishingu, personalizaci i věrohodnost podvodů, ale nevidíme zatím silný důvod tvrdit, že právě v příštích měsících kvůli autonomním AI a agentům přestanou fungovat spamové filtry,“ říká Pelc.
AI podle něj bude v nejbližší době zvyšovat účinnost a objem existujících technik sociálního inženýrství. „Je ale stejně důležité dodat, že AI nehraje jen na straně útočníků, ale používá se i v obraně – při detekci a klasifikaci hrozeb,“ dodává expert jedním dechem.
David Řeháček ze společnosti Check Point Software Technologies je již optimistický mnohem méně. Podle něho se dnes dokonce nacházíme v daleko kritičtějším bodě, než je „jen“ obava z kolapsu spamových filtrů.
Prakticky všechny tradiční reputační systémy nebo klasické firewally byly dle jeho slov navrženy pro svět, kde je možné hrozby identifikovat na základě známých a rozpoznatelných vzorů. A takové prostředí právě přestalo existovat.
„Ve skutečnosti se podceňuje rychlost, s jakou se kybernetické hrozby a útoky využívající AI vyvíjejí. Sociální sítě jsou zaplavené AI podvody, přičemž řada z nich je dokonce promována jako reklamy, aby se zvýšil jejich dosah – od seznamek až po falešné obchody. S perfektní češtinou a lokalizovaným obsahem. Útočníci umějí snadno vytvářet obsah, který je nerozeznatelný od legitimní komunikace,“ vysvětluje Řeháček.
Check Point Software Technologies už loni v létě varovaly před digitálními dvojčaty, která nejsou pouze kopií obličeje a hlasu, ale plnohodnotnou AI replikou zvládající napodobit lidské myšlení a chování. Tato hrozba, která ještě před rokem vypadala jako strašák z budoucnosti, je dnes zcela reálná a nástroje pro jejich tvorbu lze koupit na darknetových fórech.
„Už nejde věřit ničemu, co vidíte a slyšíte online. Krizí prochází i ověřování identity na základě zvuku a obrazu a na hackerských fórech se prodávají komplexní kriminální telefonní systémy s umělou inteligencí,“ dodává Řeháček.
Takové „zboží“ lze navíc podle Řeháčka pořídit s relativně nízkými náklady. Pokročilé AI telefonní systémy se dnes prodávají jako jiný byznysový software a na trhu je seženete za cenu okolo 20 000 dolarů, včetně školení a podpory.
Pro jednorázový útok si pak můžete pronajmout cloudovou variantu za vstupní poplatek 500 dolarů a 1,5 dolaru za minutu. Boti následně z těchto platforem volají potenciálním obětem a podle předem připravených scénářů získávají přihlašovací údaje k bankovním účtům a další cenná data nebo navedou oběť ke stažení malwaru.
Už nejde věřit ničemu, co vidíte a slyšíte online.
David Řeháček, Check Point Software Technologies
Umělá inteligence navíc dokáže při hovoru přizpůsobit své cíle v reálném čase na základě analýzy reakcí obětí, čímž se oproti klasickému navolávání živými lidskými operátory opět zvyšuje pravděpodobnost úspěchu. Umělá inteligence je totiž na rozdíl do člověka schopná se snadněji odchýlit od scénáře a zvládnout neočekávané situace u jakéhokoli tématu, v jakémkoli oboru, jakémkoli jazyce.
AI kompletně mění situaci i řadou dalších způsobů. Například jediný hacker vytvořil s pomocí AI za týden kybernetickou zbraň, malware VoidLink, kterou by dobře financovaná profesionální skupina vytvářela měsíce.
„Dokonce i samotné využívání generativní umělé inteligence je hrozbou. Každý 31. prompt odeslaný z podnikových sítí byl v únoru vyhodnocen jako vysoce rizikový s možností úniku citlivých dat. Problém se týkal dokonce 88 procent organizací pravidelně používajících AI nástroje,“ říká Řeháček.
„Je naprosto zásadní zcela přehodnotit celou bezpečnostní architekturu, zabezpečit vše od infastruktury přes uživatele až po AI systémy a přejít od detekce k prevenci,“ uzavírá expert.
Dalším důležitým bodem podle něj bude také proaktivní monitoring externích zdrojů, jako je darknet, Telegram nebo třeba sociální sítě, a hledat, jestli už se neobchoduje s potenciálně zneužitelnými daty nebo jestli kyberzločinci nehledají insidery, kteří by pomohli s útokem.
S tím, že otěže v obraně bude muset čím dál více přebírat prevence, se ztotožňuje také technologický ředitel společnosti Everpure pro Evropu a Blízký východ Patrick Smith.
„S tím, jak AI zvyšuje sofistikovanost, rozsah a míru automatizace kybernetických útoků, přestávají tradiční bezpečnostní nástroje zaměřené pouze na prevenci a detekci stačit. Organizace musí vedle prevence počítat také s tím, jak útok zvládnout, a rychle a bezpečně se z něj zotavit,“ říká Smith.
Právě zde nabývá na významu koncept kybernetické odolnosti (cyber resilience). Ten propojuje tradiční prevenci a detekci s velmi rychlou obnovou a stojí na komplexním přístupu, který zahrnuje vestavěné zabezpečení na úrovni datového úložiště, propojenou detekci hrozeb a dynamickou reakci a obnovu.
„V tomto kontextu je třeba vnímat i predikce o ,kolapsu‘ spamových filtrů. Spíše než o jednorázové selhání jde o projev širší změny. Hlavním problémem je, že útoky generované pomocí AI jsou stále přesvědčivější a obtížněji rozlišitelné od legitimní komunikace,“ vysvětluje Smith.
Podle britského Národního centra kybernetické bezpečnosti dnes dochází ve Spojeném království každý týden ke čtyřem „národně významným“ kybernetickým útokům.
Tento vývoj je znepokojivý. Zatímco řada těchto útoků byla dosud řízena lidmi, typicky prostřednictvím sociálního inženýrství či phishingových kampaní zaměřených na uživatele, dnes se v nich stále více hlásí o slovo AI. Automatizovaný phishing, adaptivní malware a ransomware generovaný pomocí AI se postupně stávají každodenní realitou hrozeb.“
Vyhraje nakonec AI na straně útočníka, nebo obránců? A přijde nakonec v kybernetické obraně ke slovu stará dobrá detektivní práce jako z Chandlerových detektivek? To ukáže budoucnost, která již není ani tak za rohem, jako spíš doslova před očima.
The post Systémová ochrana se hroutí. Selžou kvůli AI hrozbám spamové filtry a firewally? appeared first on Forbes.