AI. Akceleruje benefity aj hrozby a nemôžeme si byť istí, ako veľmi

Adopcia umelej inteligencie v slovenských firmách zaostáva za európskym priemerom, ale okrem toho tu vzniká iný, väčší problém. Zamestnanci si už dávno naťahali do firemného prostredia AI aplikácie, ktoré veselo používajú bez pravidiel.

Ušetriť, vylepšiť

Predstavte si AI aplikáciu, ktorá prehľadá tisícky zmlúv, vyhľadáva osobné údaje a,„začierni“ ich. Služba je užitočná pre verejný sektor, ktorý má povinnosť publikovať zmluvy podľa zákona. V marketingu sa tak dajú vytvárať modely, ako zákazníci nakupujú a aká je predikcia rozhodnutí v skupinách.

Organizácie najčastejšie očakávajú pri implementácii AI úsporu času a nákladov. „Ak by som mal dať iba jednu radu pri implementácii AI vo firme, tak by som vám odporúčal začať s jednoduchým procesom, kde je vidieť rýchly benefit,“ hovorí Branislav Bonev  zo spoločnosti Atos Slovakia.

Už počas implementácie prebiehajú bezpečnostné, záťažové, funkčné testy a aj to, či je AI používateľsky príjemná. Vedenie organizácie má pri uplatnení AI zásadnú rolu, aby komunikovalo prínosy pre všetky oblasti.  V rámci adopcie sú zas dôležití kľúčoví používatelia, niečo ako evanjelizátori projektu, ktorí dokážu vysvetľovať benefity aj ohrozenia.

Správy z terénu

Manažér kybernetickej bezpečnosti zdravotnej poisťovne Dôvera Roman Varga zaznamenáva v používaní výrazný AI progres: „Na používateľskej úrovni sa AI v malých a stredných ambulanciách už reálne používa, aj keď často neoficiálne.“ Nejde o systémové nasadenie, ale o individuálne rozhodnutia lekárov a personálu, najmä pri administratíve, práci s textom a komunikácii.

Lekári vnímajú AI ako asistenta, pričom konečné rozhodnutie musí zostať na človeku. Veľký dopyt je po praktických odporúčaniach a kontinuálnom vzdelávaní a praxi, nie po všeobecných poučkách.

Trend je jasný

Mladší lekári a personál sú otvorenejší a berú AI ako prirodzený nástroj. Minimálne na mobiloch je to štandard. Staršia generácia je opatrnejšia, nie kvôli technológiám samotným, ale kvôli zodpovednosti a obavám z chýb. Konzervatívnejšie sú prostredia s rigidnými procesmi a slabou IT podporou.

Reakcie používateľov AI majú podobný priebeh. Všadeprítomný marketing AI často prekonáva počiatočnú skepsu. Po prvých skúsenostiach nasleduje nadšenie. Následná otázka pre používateľov, či je to bezpečné a dovolené, je vnímaná žial okrajovo,  čo je podľa Romana Vargu až desivé. „Nezabúdajte, že AI modely rozhodne nie sú iba lepší vyhladávač.“

Všetko a naraz

Podľa senior penetračného testera ESET Pavla Michalca priniesol nástup AI v extrémne krátkom čase extrémne veľa zmien. Ak firma nemá zavedenú ochranu a zamestnanci používajú AI, problém môže vzniknúť aj z toho najlepšieho úmyslu.        

Ak dávate zákaznícke dáta do AI riešení, musia byť ošetrené, že to môžete urobiť. Po druhé – dáta sa uchovávajú u tretej strany, ktorá nie je vždy predvídateľná. Pamätajte, že ak ste súkromné osoba, máte veľmi málo ochrany. Pre biznis licenciách je ochrana vyššie, ale ešte stále diskutabilná. Podmienky sa totiž môžu kedykoľvek zmeniť, ale vy už tam svoje dáta máte.

 „Rodné čísla, zdrojové kódy a duševné vlastníctvo sú údaje, ktoré nikdy, nikam a v žiadnom prípade nezadávajte do AI aplikácii,“ zdôrazňuje Pavol Michalec.

Dychberúci progres

Pojem „vibe coding" predstavuje zásadný posun v tom, ako vzniká softvér. Človek už nepíše kód riadok po riadku, ale skôr usmerňuje AI prostredníctvom prirodzeného jazyka a celkového „vibu" projektu. Masívne vznikajú platformy a nástroje, ktoré umožňujú vyvíjať aplikácie aj používateľom bez programátorských zručností a vzdelania.

Low-code a no-code nástroje dávajú možnosť tvoriť aj tým, ktorí nerozumejú dôsledkom architektonických rozhodnutí - a práve tam je najväčšie riziko. AI dramaticky zrýchľuje vývoj, no bez ľudského dohľadu sa z rýchleho prototypu ľahko stane neudržateľný technický dlh.

„To, že kód píše AI agent, neznamená, že je zaň agent zodpovedný,“ varuje Stanislav Dzielava riaditeľ divízie softvérové systémy a služby Aliter Technologies. Firma musí mať mechanizmy na zabezpečenie udržateľného produktu - od skúsených seniorov, ktorí za výstupy ručia, cez kontrolu kvality až po dodržiavanie bezpečnostných štandardov.

Iný pohľad na úspory

„Náklady na kódovanie klesajú geometrickým radom, čo je skvelé, keďže od nápadu k funkčnému prototypu sa dnes dá dostať za zlomok pôvodných nákladov,“ potvrdzuje Pavol Draxler zo spoločnosti Binary Confidence. Táto efektivita bude mať neuveriteľný prínos pre spoločnosť, ak sa s ňou dobre naloží.

To so sebou ale prináša aj riziká, ktoré si veľa ľudí, čo nabehli na túto vlnu, neuvedomuje – najmä to, že takto môžu vzniknúť nové zraniteľnosti vedúce k strate dát alebo k obmedzeniu prevádzky pri neočakávanej chybe.

Preto je veľmi dôležité, aby vývoj a zavádzanie týchto riešení, obzvlášť vo firemnom prostredí, prebiehali kontrolovane. Spoločnosti by mali čo najskôr zriadiť rolu, akou je napríklad AI Officer. Ten by mal nastaviť rámec, ako môžu zamestnanci pracovať s AI, evidovať ich požiadavky na nové riešenia a dbať na to, aby tieto nástroje prísne spĺňali bezpečnostné štandardy.

Je všadeprítomná

Keď riaditeľ Odboru analýz kybernetických hrozieb Národného centra kybernetickej bezpečnosti Ján Doboš prezentuje aktuálne hrozby, v každej kapitole poukazuje na fenomén umelej inteligencie.

Phishing a sociálne inžinierstvo? AI si naštuduje všetko o nás. Ukradne dáta z nechránených aplikácii, otrávi nám vyhľadávače a bude podsúvať škodlivý obsah na sieťach. Zraniteľné systémy? AI preskenuje zariadenia a pripojenia za pár sekúnd a nájde zraniteľnosti. Neriadené používanie AI. „Umelá inteligencia je nepredvídateľný faktor. A incident nie je zlyhaním. Zlyhaním je, keď nie sme pripravení na incident,“ varuje Ján Doboš.

Slovenský AI paradox

✔️ vysoké povedomie < 100 %

✔️ relatívne vysoké vyskúšanie ~40 %

❌ nízke každodenné používanie ~7–10 %

❌ nízka adopcia vo firmách ~10–15 %

Zdroje: Market Vision Slovakia -  AI Adoption Slovakia, Central European Digital Media Observatory (CEDMO) – AI Awareness and Usage Survey, Košice IT Valley – Use of AI in Companies Dataset, MDPI – Artificial Intelligence Adoption in European Enterprises