AI Security — beta

AI Security odpovídá na tři otázky: jaké AI servery běží v našich sítích, jaké veřejné AI služby lidé používají a zda se někdo nepokouší zneužít AI asistenta FlowPRO. Všechny nálezy jdou do Centra událostí (zdroj AI Security), takže s nimi pracuje směrování notifikací, Scénáře, Bezpečnostní skóre i Shoda.

Role: čtenář jen čte; analytik ověřuje, potvrzuje, skrývá a píše poznámky; administrátor skenuje, schvaluje či blokuje, maže, spravuje MCP a nastavení. Změny se zapisují do Nastavení → Audit změn.

Každou hodinu FlowPRO hledá v NetFlow provoz našich klientů na typické porty AI serverů uvnitř našich sítí (Nastavení → Naše sítě a privátní rozsahy): 11434 Ollama, 1234 LM Studio, 7860 Text Generation WebUI, 8188 ComfyUI, 1337 Jan a obecné 3000, 4000, 5000, 8000, 8080.

• •Skeny portů se ignorují — zdroj, který zkouší mnoho koncových bodů s malými toky, je skener; počítá se jen skutečný provoz (toky, pakety, bajty — záložka Nastavení)
• •Klienti musí být interní — internetové skenery zkoušející veřejný server nejsou neřízená AI
• •Automatické ověření — FlowPRO se zeptá koncového bodu na modely (/api/tags, /v1/models, /api/config, /system_stats; jen GET, jen interní adresy): potvrzený AI server / nedostupný / není AI
• •Nálezy — vysokou událost vytvoří jen potvrzený neřízený server; nedostupný koncový bod na portu typickém jen pro AI vytvoří nízkou událost „kandidát“; obecné webové porty se zobrazí jen po potvrzení
• •Postup — schválit (povolená AI), označit jako zablokovaný (Scénář pak může IP zablokovat na MikroTiku), skrýt, poznámka; vlastní Ollama FlowPRO je vedená jako spravovaná
• •Vazba na zařízení — server i klienti jsou propojeni se Zařízeními; detail zařízení ukazuje kartu AI Security
• •Zmizelé — bez provozu 14 dní se záznam označí jako zmizelý a později smaže (retence)

Z Pasivního DNS FlowPRO rozpozná 15 veřejných AI služeb (OpenAI/ChatGPT, Anthropic/Claude, Google Gemini, Microsoft a GitHub Copilot, DeepSeek, Mistral, Perplexity, xAI/Grok, Meta AI, Hugging Face, Cohere, Poe, Qwen, Kimi) a ukáže, kteří klienti je používají a jak často.

• •Nově viděná služba vytvoří událost (vysokou u služeb zpracovávajících data mimo EU/USA, např. DeepSeek, Qwen, Kimi)
• •Stav — neprověřená / povolená / nepovolená; nepovolená služba, která se dál používá, vytvoří vysokou událost (nejvýše jednou denně)
• •Klienti — nejaktivnější klienti s počtem DNS dotazů, propojení se Zařízeními

Každý dotaz do AI asistenta FlowPRO (NIS2 AI Chat) se zkontroluje dřív, než dorazí k modelu. Detektor rozumí češtině, angličtině i španělštině a rozpozná:

• •Dotazy na politiku hesel, správu tajemství apod. nejsou poplach (vestavěné výjimky; samotest v Nastavení)
• •Každá událost zaznamená uživatele a IP; opakované pokusy do 10 minut zvýší počítadlo místo nových událostí
• •Blokování (volitelné, Nastavení) — uživatel místo odpovědi dostane oznámení o zablokování
• •Kontroluje se jen vlastní text uživatele a výslovně označená externí data — nikdy systémové prompty FlowPRO

Heatmapa ukazuje 10 kategorií OWASP pro agentní AI (ASI01–ASI10), které z nich FlowPRO hlídá (ASI01, ASI04, ASI06, ASI10) a kde jsou nálezy: útoky na AI, nedůvěryhodné či neznámé MCP servery (ASI04) a neschválené AI služby (ASI10). Tabulka uvádí techniky MITRE ATLAS detektorů s odkazem do znalostní báze ATLAS.

Ruční evidence MCP serverů (Model Context Protocol) a AI agentů: endpoint, transport (http / sse / stdio), důvěryhodnost (důvěryhodný / neznámý / nedůvěryhodný), příznak externí a nabízené nástroje. MCP nemá standardní port, ze sítě ho objevit nejde. Neznámé a nedůvěryhodné servery se počítají do OWASP ASI04 a Bezpečnostního skóre.

• •Prahy objevování — okno, minimum toků / paketů / bajtů, hranice skeneru, zmizelé po N dnech, automatické ověření, veřejná AI zap/vyp
• •Ochrana AI asistenta — blokovat útočné dotazy (od závažnosti), kontrolovat data předávaná AI (nepřímé útoky), uchovávání záznamů
• •Kvalita detektoru — samotest na vestavěné sadě CS/EN/ES (přesnost, záchyt) a pole pro vyzkoušení libovolného textu