AI asistenti slibují to, co většině podniků chybí: efektivitu bez jakýchkoli dodatečných nákladů.
Dokážou shrnout Vaše e-maily, odpovídat Vaším jménem, rozhodnout, které zprávy vyžadují vyřešení, automatizovat události v kalendáři, extrahovat informace z Vašich dokumentů a dokonce je i organizovat.
Pro zakladatele nebo vedoucí pracovníky malých a středních podniků, kde potřeby převyšují zdroje, to může působit jako splněné přání v pravou chvíli. Žádá to od Vás však naprosto všechno – přístup do doručené pošty, ke kalendáři, souborům a dokonce i k důvěrným obchodním informacím.
Až 69 % firem již používá AI asistenty jako ChatGPT, Claude a Grammarly – 30 % si však není jistých nebo nedůvěřuje společnostem vyvíjejícím AI, že ochrání jejich interní obchodní data.
Tento kompromis není na první pohled zřejmý. Ale to, co malé a střední podniky získají na efektivitě, zaplatí v oblasti zabezpečení.
Cena za efektivitu
Když připojíte svůj Gmail, Disk Google nebo kalendář k nástroji, jako je Comet od společnosti Perplexity, udělujete mu oprávnění OAuth – často nad rámec přístupu pouze „pro čtení“. V závislosti na požadovaném rozsahu může být nástroj schopen stahovat kontakty, spravovat celý Váš kalendář a dokonce i psát e-maily Vaším jménem.
Tato oprávnění jsou během schvalovacího procesu technicky popsána, ale většina uživatelů plně nevyhodnotí, co znamenají v praxi. Po jejich udělení může nástroj přistupovat k citlivým firemním datům a hromadně je zpracovávat.
Stejný vzorec platí i pro další pracovní postupy AI asistentů. Indexování interních databází znalostí, shrnování vlastních dokumentů nebo zasazování firemních dat do kontextu – to vše zvyšuje míru Vašeho vystavení rizikům.
Pokud nevíte, jaký přístup jste udělili, nemůžete přesně vyhodnotit riziko, kterému se vystavujete.
Kolik toho mohou AI asistenti a prohlížeče vidět
Víte, že AI prohlížeče jako Comet od Perplexity nebo Atlas od ChatGPT(nové okno) dokážou přečíst stránku, na které se nacházíte, shrnout ji a přepsat text. Věděli jste ale, že mohou jednat Vaším jménem?
Protože efektivita závisí na hluboké integraci, asistent potřebuje mít přehled o Vaší aktivitě při procházení webu a může vyžadovat přístup k připojeným účtům. V některých případech může spouštět akce, místo aby pouze generoval text.
V obecnějším měřítku se jedná o architekturu AI agentů. Jsou navrženi tak, aby fungovali napříč připojenými systémy. Jediný kompromitovaný nebo zmanipulovaný agent může postupně projít Váš e-mail, kalendář, soubory a přihlašovací údaje.
To je důsledek toho, jak jsou tyto nástroje vytvořeny. Vzniká tak prostor pro útoky, které se výzkumníci již snaží zneužít.
Bezpečnostní výzkumníci již ukázali, jak mohou skryté pokyny vložené do webového obsahu manipulovat s těmito systémy nežádoucím způsobem.
Jeden nedávný exploit, „CometJacking(nové okno)“, demonstroval, jak by mohly pokyny vložené do adres URL manipulovat s AI tak, aby přistupovala k osobním nebo firemním datům nebo prováděla škodlivé akce bez vědomí uživatele.
Poskytovatelé reagují rychle pomocí záplat a ochranných opatření. V tomto případě společnost Perplexity reagovala čtyřvrstvým přístupem k zabezpečení. Tento vzorec však poukazuje na něco zásadnějšího: tyto nástroje jsou navrženy tak, aby interpretovaly a jednaly.
Dokonce i společnost Perplexity ve svých Zásadách ochrany osobních údajů(nové okno) uvádí: „Žádná bezpečnostní opatření nejsou neproniknutelná a nemůžeme zaručit ‚dokonalé zabezpečení‘“. Otázkou není, zda je nástroj bezpečný nyní. Jde o to, zda je Vám příjemné, kolik přístupu vyžaduje.
Na kom leží břemeno ochrany soukromí
Poskytovatelé AI kladou důraz na ovládací prvky ochrany soukromí a možnost odmítnutí. Například Comet Assistant od Perplexity ujišťuje uživatele, že „Comet Assistant Vám dává plnou kontrolu“.
Tato nastavení však nesprávně předpokládají jednu věc: že uživatelé rozumí tomu, jak jsou jejich data zpracovávána, aktivně konfigurují příslušná nastavení a sledují, jak se zásady v průběhu času mění.
V praxi tomu tak u většiny z nich není. Podle Zprávy společnosti Proton o kybernetické bezpečnosti pro malé a střední podniky pro rok 2026 uvádí 43 % malých a středních podniků, že nemohou nezávisle ověřit ochranu soukromí poskytovatele, a 35 % vůbec nerozumí tomu, jak poskytovatelé s jejich daty nakládají.
Některé informace mohou být z trénování modelů vyloučeny. Jiná data mohou být uchovávána za účelem zlepšení personalizace. Zásady se mohou u jednotlivých funkcí lišit a měnit se s vývojem produktů. Vypnutí některých funkcí může omezit právě ty schopnosti, které dělají nástroj atraktivním.
V takovém prostředí již ochrana soukromí není statickým slibem produktu. Stává se neustálou provozní odpovědností.
Břemeno se přesouvá na Vás, uživatele. Musíte se rozhodnout, jaká data lze sdílet, sledovat aktualizace zásad, správně nakonfigurovat nastavení a přehodnocovat rizika s tím, jak se produkt vyvíjí.
Tato stránka obsahuje praktické průvodce a vysvětlení týkající se ochrany soukromí a bezpečnosti AI(nové okno), abyste přesně věděli, s čím pracujete.
Funkce soukromého AI asistenta nebo prohlížeče s podporou AI
Váš tým by měl mít možnost používat AI asistenta bez obav, že každá interakce bude uložena, profilována nebo použita k trénování další verze modelu.
- Žádné protokolování dat. Ve výchozím nastavení. Váš tým by měl mít možnost používat AI asistenta nebo agenta bez obav, že každá interakce bude ukládána, profilována nebo zpeněžována. Pokud si nástroj vytváří „vzpomínky“ nebo „předvolby“, měli byste se zeptat: Kdo tato data kontroluje? Je to ve výchozím nastavení skutečně vypnuté, nebo je to skryté v nastavení? A pokud to vypnu, o jaké funkce produktu přijdu?
- Žádné trénování modelů na Vašich obchodních informacích. Obchodní dokumenty, informace o partnerech, zprávy nebo plány by nikdy neměly být používány k trénování AI modelů. Nejde jen o otázku férovosti, ale také o bezpečnostní záležitost, protože data se mohou znovu objevit při incidentech, které nemáte pod kontrolou.
- Skutečná transparentnost. Transparentnost buduje důvěru, ale pouze tehdy, pokud je skutečná. To znamená, že byste měli být schopni v každém kroku porozumět tomu, jak se s Vašimi daty nakládá a jakými principy se produkt řídí. Pokud musíte strávit dvě hodiny parsováním smluvních podmínek (Terms & Conditions), které jsou v rozporu s Vaší skutečnou zkušeností s nástrojem, nejedná se o transparentnost. Je to jen prázdný slogan.
- Šifrování s nulovým přístupem. Při šifrování s nulovým přístupem jsou Vaše data chráněna klíči, které ovládáte pouze Vy – ani poskytovatel je nedokáže přečíst. To odstraňuje nutnost důvěřovat zásadám nebo slibům, protože architektura technicky znemožňuje jakékoli zneužití.
Většina AI nástrojů získává hodnotu z podniků, které je používají. Vaše konverzace, dokumenty a soubory slouží k trénování modelů, profilování uživatelů a v některých případech i k vládním žádostem o data – obvykle bez smysluplného zveřejnění nebo souhlasu. Ne však Lumo.
Lumo je AI asistent vytvořený pro firmy, které odmítají odevzdat svá data výměnou za pohodlí. Šifrování s nulovým přístupem, žádné protokolování dat, žádné trénování modelů na Vašich obchodních informacích.
