Autonomní AI agenti se v organizacích šíří rychleji, než bezpečnostní týmy stíhají budovat kontroly nad jejich chováním. Gartner řadí jejich řízení mezi hlavní priority bezpečnostních manažerů pro rok 2026 a rozhodnutí, která padnou letos, určí, jak zranitelná bude firma za dva roky.

Ještě před rokem byli AI agenti v mnoha firmách okrajovou záležitostí – pár pilotních projektů, testovací prostředí, opatrné experimentování. To se změnilo. Zaměstnanci a vývojáři dnes nasazují agentic AI napříč odděleními, často bez vědomí bezpečnostního týmu, protože no-code a low-code platformy tuto možnost zpřístupnily komukoliv s přístupem k firemním datům. Gartner tento jev popisuje jako rychle rostoucí útočnou plochu, kterou většina organizací zatím nemá zmapovanou, natož pod kontrolou.

Pro bezpečnostního manažera z toho plyne konkrétní úkol, který nesnese odklad: zjistit, kolik AI agentů v organizaci skutečně běží, kdo je spustil a k jakým datům a systémům mají přístup. Bez tohoto přehledu nelze mluvit o řízení rizika, protože nelze řídit to, o čem nevíte. Doporučuje se začít auditem napříč odděleními, ne pouze v IT, protože nejaktivnější uživatelé nových nástrojů bývají mimo bezpečnostní perimetr – v marketingu, obchodě nebo zákaznické podpoře.

Druhou vrstvou rozhodování je identita. Tradiční správa přístupů počítala s lidmi, kteří se přihlašují, mají jméno, heslo a nadřízeného, jenž jim přístup schválil. AI agent tuto logiku boří: může se sám autentizovat, sám si vyžádat oprávnění a jednat bez lidského dohledu v reálném čase. Otázka, kterou si musí položit každý bezpečnostní ředitel, zní, zda dokáže agentovi ověřit identitu se stejnou jistotou jako zaměstnanci, a zda umí jeho oprávnění kdykoliv okamžitě odebrat. Tam, kde odpověď zní ne, je namístě agenta buď omezit na jasně vymezenou sadu úkolů, nebo jeho nasazení odložit, dokud nebude řízení identity strojů na úrovni, která odpovídá riziku.

Třetí oblastí je práce s daty a citlivými informacemi. Průzkum mezi stovkami zaměstnanců ukázal, že více než polovina používá v práci osobní účty generativní AI a třetina do neschválených nástrojů vkládá citlivé firemní informace. To není selhání jednotlivců, ale signál, že firemní nástroje buď chybí, nebo jsou méně pohodlné než ty veřejné. Manažer bezpečnosti by měl tuto mezeru vnímat jako prioritu číslo jedna při jednání s vedením: pokud firma nenabídne bezpečnou a stejně pohodlnou alternativu, zaměstnanci si najdou vlastní cestu, a ta bude mimo dohled.

Se vším souvisí i změna v přípravě lidí. Obecná školení o bezpečnosti přestávají stačit, protože rizika spojená s AI agenty jsou specifická a rychle se mění. Užitečnější je přístup, který cílí na konkrétní role a konkrétní nástroje, jež lidé skutečně používají, a průběžně se aktualizuje podle nových hrozeb. Stejný princip platí pro bezpečnostní operační centrum: automatizace a AI v detekci hrozeb fungují jen tehdy, když zůstává zachován prvek lidského rozhodování tam, kde jde o citlivé zásahy. Nahrazení lidí technologií bez odpovídajícího dohledu vytváří nové slepé místo přesně tam, kde firma spoléhá na rychlost reakce.

Praktickým prvním krokem bývá zavedení jednoduchého registru, do kterého se každý nasazený agent zapíše s odpovědnou osobou, účelem a rozsahem přístupu, podobně jako se dnes vede evidence aplikací nebo dodavatelů. Bez takového registru se governance rychle změní v soubor obecných zásad, které nikdo nedokáže vymáhat, protože chybí přehled o tom, na co se vlastně mají vztahovat. Stejně důležité je stanovit, kdo v organizaci má pravomoc nové nasazení agenta schválit nebo zamítnout, a tuto pravomoc jasně komunikovat, aby nezůstávala rozptýlená mezi IT, právním oddělením a jednotlivými týmy.

Rozhodnutí, které nyní stojí před každým bezpečnostním ředitelem, tedy není, zda AI agenty do firmy pustit – ti už tam většinou jsou. Otázkou je, zda se jejich řízení dostane na stůl vedení jako součást rozpočtu a strategie na příští rok, nebo zůstane neformální iniciativou bezpečnostního týmu bez mandátu a zdrojů. Firmy, které tuto otázku vyřeší letos, budou mít za dva roky náskok, který se jen těžko dohání.