AI Act a GDPR u automatizací: praktický checklist pro n8n, CRM a AI agenty
Co si pohlídat, když AI čte CRM, posílá e-maily, pracuje s dokumenty nebo zapisuje do databáze. Praktický checklist pro AI automatizace bez zbytečného právního žargonu.
- Většina běžných AI automatizací nebude automaticky high-risk AI, ale GDPR se řeší vždy, pokud pracujete s osobními údaji.
- Největší praktické riziko není samotný model, ale přístup k datům: CRM, e-mail, databáze, RAG indexy, logy a API klíče.
- AI, která jen shrnuje nebo navrhuje, je jiná liga než AI, která sama posílá e-maily, mění CRM nebo odmítá zákazníky.
- Část pravidel AI Actu už platí od roku 2025, většina rámce míří na rok 2026 a high-risk termíny se po dohodě AI Omnibus posouvají dál.
- U akcí s dopadem dejte mezi AI a systém schvalovací krok člověkem.
AI automatizace často začíná nevinně. Nejdřív chcete shrnout e-mail. Pak připravit odpověď. Potom vytáhnout data z CRM. A za chvíli AI agent čte zákaznickou historii, navrhuje další krok, zapisuje poznámku do obchodního případu a možná rovnou posílá odpověď ven. To už není jen „chytrý text“. To je firemní proces. A jakmile AI pracuje s osobními údaji, obchodními daty nebo akcemi v systémech, nestačí řešit jen prompt. Musíte vědět, jaká data do AI tečou, kdo má za systém odpovědnost, co se loguje a kde má zůstat člověk ve schvalování.
AI Act a GDPR nejsou totéž
AI Act řeší hlavně rizikovost AI systémů. Tedy jestli AI systém může zasahovat do bezpečnosti, práv lidí, zaměstnání, vzdělání, financí, pojištění, biometrie nebo jiných citlivých oblastí. GDPR řeší osobní údaje. Tedy jméno, e-mail, telefon, CRM historii, zákaznické zprávy, poznámky ze schůzek, údaje v dokumentech nebo cokoliv, podle čeho lze člověka přímo nebo nepřímo identifikovat. Praktický rozdíl: - AI shrne interní technický návod bez osobních údajů: nízké GDPR riziko. - AI shrne zákaznický e-mail: GDPR už řešíte. - AI skóruje kandidáty do práce: výrazně citlivější oblast. - AI sama odmítá poptávky nebo kandidáty: tady už je potřeba velká opatrnost.
Co už platí a co teprve přijde
Stav k 19. 5. 2026: AI Act neběží jako jedno velké datum. Nabíhá postupně a část časové osy se aktuálně mění kvůli AI Omnibusu. | Datum | Co to znamená prakticky | |---|---| | 1. 8. 2024 | AI Act vstoupil v platnost. Začala přechodná období. | | 2. 2. 2025 | Začaly se používat zákazy nepřijatelných AI praktik a povinnost AI gramotnosti. | | 2. 8. 2025 | Začala pravidla pro general-purpose AI modely a governance. Pro běžné firmy je to hlavně vendor téma. | | 2. 8. 2026 | Obecné datum použitelnosti většiny AI Actu a důležité transparentní povinnosti. | | 2. 12. 2027 | Po politické dohodě AI Omnibus se má high-risk režim pro samostatné high-risk systémy posunout sem. | | 2. 8. 2028 | Po AI Omnibus se má posunout high-risk režim pro AI zabudovanou do regulovaných produktů. | Pro běžnou firmu z toho plyne jednoduchý závěr: nečekejte na poslední datum. Pokud AI pracuje s lidmi, osobními údaji, CRM nebo rozhodováním, nastavte pravidla už teď.
Praktický příklad: AI agent v CRM
Představme si AI agenta, který pomáhá obchodnímu týmu. | Varianta | Co AI dělá | Riziko | |---|---|---| | Nízkorizikovější | shrne historii komunikace se zákazníkem | nižší | | Nízkorizikovější | navrhne follow-up e-mail | nižší | | Nízkorizikovější | připraví úkol pro obchodníka | nižší až střední | | Nízkorizikovější | upozorní na chybějící informace | nižší | | Nízkorizikovější | nic sama neodesílá a nerozhoduje | kontrolované | | Rizikovější | sama hodnotí kvalitu zákazníka | vyšší | | Rizikovější | přiřazuje skóre podle pravděpodobnosti nákupu | vyšší | | Rizikovější | automaticky mění stav obchodního případu | vyšší | | Rizikovější | posílá zákazníkovi nabídku bez schválení | vyšší | | Rizikovější | odmítá poptávky podle interního scoringu | vysoké | Dobré pravidlo: **AI může připravit návrh, ale akci s dopadem má potvrdit člověk.** V n8n to může být jednoduchý mezikrok: AI připraví odpověď, zapíše návrh do úkolu nebo pošle interní notifikaci. Teprve po schválení se odešle e-mail, změní status v CRM nebo spustí další akce.
Kde vzniká největší riziko
Největší problém většinou není v tom, že použijete OpenAI, Claude nebo jiný model. Problém vzniká v okolní architektuře. Typické rizikové body: - AI dostane moc široký přístup do CRM. - Do modelu se posílá celý zákaznický záznam, i když stačí pár polí. - Workflow ukládá celé prompty a odpovědi do logů bez retence. - RAG index obsahuje dokumenty více klientů najednou. - AI má write access bez approval kroku. - Není jasné, jestli se používá consumer nebo business/API režim nástroje. - Nikdo neví, kde vendor data ukládá, jak dlouho je drží a jestli je používá k trénování. U AI automatizací proto nestačí otázka „funguje to?“. Stejně důležité je „co všechno to vidí?“ a „co všechno to smí udělat?“.
RAG a embeddingy nejsou automaticky bezpečné
RAG zní často bezpečně: vezmeme interní dokumenty, rozsekáme je na části, uložíme do vector databáze a AI bude odpovídat jen z nich. Jenže pokud jsou v dokumentech osobní údaje, smlouvy, interní poznámky nebo zákaznická data, pořád pracujete s chráněnými informacemi. U RAG řešte hlavně: 1. Jaké dokumenty se indexují. 2. Jestli v nich jsou osobní nebo citlivé údaje. 3. Kdo se může ptát na jaké dokumenty. 4. Jestli jsou oddělená data klientů. 5. Jak se dokument smaže i z indexu. 6. Jestli se celé dotazy a odpovědi neukládají do logů navždy. EDPB ve svém Opinion 28/2024 řeší mimo jiné i to, že AI modely a odvozené artefakty nelze automaticky považovat za anonymní jen proto, že nejsou uložené jako klasická tabulka jmen a e-mailů.
Minimální checklist před spuštěním
| Otázka | Proč na ní záleží | |---|---| | Víme, jaká data AI dostává? | GDPR, minimalizace dat | | Posíláme jen data nutná pro konkrétní úkol? | méně rizika, lepší kontrola | | Používáme business/API režim, ne osobní účet? | smlouvy, trénování, retence | | Máme DPA nebo jasné podmínky zpracování? | vendor governance | | Umí AI jen číst, nebo i zapisovat? | rozdíl mezi asistencí a akcí | | Je u zápisů approval step? | human oversight | | Oddělujeme data klientů? | prevence cross-client leakage | | Víme, co se ukládá do logů? | audit trail a retence | | Je jasné, kdo systém provozuje a kdo určuje účel? | role provider/deployer/controller/processor | | Ví uživatel, kdy komunikuje s AI? | transparentnost |
Co bych nastavil jako minimum
Pro běžnou firmu nebo menší AI projekt bych začal jednoduše: - seznam všech AI use casů, - datová mapa pro každý důležitý use case, - seznam vendorů a jejich režimů, - pravidlo, že klientská data nejdou do consumer účtů, - approval step pro e-maily, CRM změny a databázové zápisy, - oddělené testovací a produkční prostředí, - krátká retence promptů, odpovědí a debug logů, - jasný postup pro incident nebo chybnou akci agenta. To není byrokracie. To je provozní pojistka.
Závěr
AI Act a GDPR nejsou důvod AI automatizace nedělat. Jsou důvod je nestavět naslepo. Nejlepší první krok není právní memo na 40 stran. Je to praktický přehled: jaká data používáme, co AI smí dělat, kdo výstup schvaluje, kde jsou logy a jak zastavíme chybu. AI má firmě práci zjednodušit. Ale jakmile dostane přístup k CRM, e-mailům, databázi nebo zákaznickým dokumentům, musí mít hranice.
Zdroje
- [AI Act - Evropská komise](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai) - [Navigating the AI Act - Evropská komise](https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act) - [EU AI Act, Regulation (EU) 2024/1689](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) - [EDPB Opinion 28/2024 k AI modelům a osobním údajům](https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en) - [OpenAI Business Data Privacy](https://openai.com/business-data) - [n8n Privacy docs](https://docs.n8n.io/privacy-security/privacy/)
Často kladené otázky
Je každá AI automatizace high-risk podle AI Actu?
Ne. Běžné interní shrnutí, návrhy odpovědí nebo podpora práce s dokumenty typicky nebudou automaticky high-risk. Riziko roste u HR, financí, zdravotnictví, pojištění, biometrie nebo rozhodování s významným dopadem na člověka.
Co už z AI Actu platí?
Od 2. února 2025 platí hlavně zakázané AI praktiky a povinnost AI gramotnosti. Od 2. srpna 2025 se přidala pravidla pro general-purpose AI modely. Většina rámce míří na 2. srpna 2026, ale u high-risk systémů se po AI Omnibus počítá s posunem termínů.
Může AI sama posílat e-maily zákazníkům?
Technicky ano, ale prakticky doporučuji schvalovací krok alespoň u prvních nasazení a u všech citlivých případů. U přímé komunikace je také potřeba řešit transparentnost, aby bylo jasné, že komunikuje AI.
Stačí anonymizovat data před odesláním do modelu?
Pomáhá to, ale nestačí to brát formálně. Musíte ověřit, jestli se osoba nedá zpětně identifikovat z kontextu, kombinace polí nebo dokumentu.