Umělá inteligence přináší firmám reálné příležitosti ke zvýšení efektivity. Přináší však také nové výzvy, a proto se podniky stále častěji snaží využívat specifickou formu AI proti AI: detektory AI.

Pro používání detektorů AI existují legitimní důvody: ochrana identity značky, odhalování podvodů, rozpoznávání plagiátů, získávání odpovídající hodnoty za peníze od dodavatelů a další.

Detektory AI však nejsou neomylné a pro většinu firem rizika jejich používání převažují nad přínosy. Zde je to, co potřebujete vědět, než je začnete používat.

Jak detektory AI fungují?

Detektory AI jsou specializovaný software, který matematicky analyzuje vzorce s cílem odhadnout pravděpodobnost, že text byl vygenerován strojem. Mezi oblíbené detektory patří GPTZero, Copyleaks, Originality.ai, Sapling, Turnitin a Grammarly AI Detector.

To, co detektory AI z technického hlediska hledají, se opírá o dvě metriky:

  • Perplexita měří, jak předvídatelná je sekvence slov. Nižší předvídatelnost znamená menší pravděpodobnost zapojení AI, protože modely AI jsou trénovány tak, aby odhadovaly a používaly statisticky nejpravděpodobnější slova. Lidé volí slova rozmanitěji a excentričtěji.
  • Sekvenčnost měří variabilitu v délce a složitosti vět. Lidské psaní se střídá v sekvencích různých typů vět, zatímco AI vyhledávající pravděpodobnost má tendenci psát pravidelným, plynulým, téměř matematickým způsobem. Text s nízkou sekvenčností detektoru silně indikuje zapojení AI.

Některé detektory AI používají také stylometrickou analýzu, při níž vyhodnocují volbu slovní zásoby a gramatiku a vyhledávají podezřele strnulé a formální struktury.

Několik modelů AI začíná používat vodoznaky, což obnáší vložení neviditelných a detekovatelných vzorců do textu generovaného AI již při jeho vytváření. Protože však většina modelů v současné době nezanechává žádné stopy, nelze se na toto řešení zatím spoléhat.

Jsou detektory AI spolehlivé?

Detektory AI nejsou nikdy 100% spolehlivé a často jsou spolehlivé výrazně méně.

Přesnost se výrazně liší v závislosti na nástrojích, typu obsahu a (což je zásadní) na tom, jak přesně byla AI k vytvoření analyzovaného obsahu použita, pokud vůbec použita byla.

Kdy detektory fungují

Vložte nezměněný (neboli „surový“) výstup AI do jakéhokoli detektoru AI a detektor jej rozpozná. Surový výstup je pro detektor snadno identifikovatelný, protože statisticky pravděpodobný vzorec, který hledá, nebyl porušen.

Do nástroje Sapling jsme například vložili text vygenerovaný přímo z modelu Claude Sonnet 4.6. Sapling měl 99,5% jistotu, že tento text vygenerovaný AI byl vygenerován AI.

Sapling správně označí surový odstavec vygenerovaný AI.

Originality (další přední detektor AI) označil stejný odstavec jako AI s ještě větší jistotou: 100 %.

Nástroj Originality si je ještě jistější, že náš surový text AI byl vygenerován umělou inteligencí.

Detektory dokážou identifikovat text psaný AI i v případě, že odeslaný text není ze 100 % vygenerován AI, i když s výrazně nižší spolehlivostí, zejména pokud je text krátký (méně než 300 slov) a vzorce, které detektory hledají, se nestihnou projevit.

Kdy detektory selhávají

Je dobře zdokumentováno, že detektory AI vykazují falešně pozitivní výsledky: signály použití AI v textu, který kompletně napsal člověk. Jedna nedávná recenzovaná studie akademického psaní(nové okno) vyhodnotila celkovou přesnost nástrojů Originality a Turnitin při identifikaci akademických textů generovaných AI na pouhých 69 %, respektive 61 %.

Jedním problémem je, že lidé často přirozeně píší jako AI, zejména pokud nejsou rodilými mluvčími, kteří (podobně jako LLM) používají jednoduché, vysoce gramatické formulace. Studie Stanfordovy univerzity(nové okno) nechala sedm populárních detektorů AI analyzovat eseje z testu TOEFL čínských studentů. Průměrná míra falešně pozitivních výsledků byla 61,22 %.

Pro detektory je také obtížné odhalit, když lidé záměrně naruší statistické vzorce, které tyto nástroje vyhledávají. Autoři využívající AI nemusí pro narušení těchto vzorců dělat mnoho: stačí přepsat několik vět, změnit strukturu vět nebo použít méně předvídatelná slova.

Pokud se jim to zdá příliš pracné, může to za ně udělat jeden z rozšiřující se řady „humanizačních“ nástrojů, které nevyhnutelně vznikly s cílem přelstít detektory.

Mohou také jednoduše zůstat u vybraného LLM a používat chytřejší prompty. Studie 12 detektorů AI z roku 2025(nové okno) zjistila, že „minimální úpravy pomocí GPT-4o mohou vést k míře detekce v rozmezí od 10 % do 75 % v závislosti na detektoru“.

Požádali jsme model Claude Sonnet 4.6 o napsání eseje o rozsahu 300 slov o přesnosti detektorů AI a chtěli jsme, aby psal jako člověk – s různou délkou vět, přímým vyjádřením názoru a nečekanou volbou slov. Sapling vyhodnotil, že pravděpodobnost generování tohoto textu pomocí AI je pouhých 12 %.

Snímek obrazovky nástroje pro detekci AI zobrazující textový úsek o délce 360 tokenů, který vysvětluje, proč jsou detektory AI nespolehlivé. Dvě věty u konce jsou zvýrazněny červeně jako označené: „So does any prose that prioritizes precision over personality“ a „Put plainly: these tools can catch lazy, unedited AI output with reasonable confidence. Everything else is guesswork dressed up as data.“ Pod textem se nachází zelené tlačítko „Check Again“, rozbalovací nabídka „Try a Sample“, tlačítko pro nahrání souboru „Choose file“ a výsledek s přečteným textem „Fake: 12,0 %“.
Sapling nedokáže identifikovat text z modelu Claude vytvořený pomocí chytře navrženého promptu.

Nástroj Originality analyzoval stejný text a prohlásil, že si je na 100 % jistý, že text byl vygenerován AI.

Snímek obrazovky editoru dokumentů na webu Originality.ai skenující stejnou pasáž o nespolehlivosti detektorů AI, přičemž většina odstavců je zvýrazněna červeně/růžově, což značí označený text. Panel výsledků vpravo zobrazuje ukazatel s přečtenou hodnotou „100% Confident That's AI“, poznámku, že to odráží jistotu, že text je generován AI (nikoli že 100 % textu bylo vytvořeno AI), výzvu ke spuštění hloubkového skenování „Run Deep Scan“ pro podrobné vysvětlení a počet znaků 1,704 / 12,000.
Originality hodnotí stejný text jako 100% AI: opačný verdikt se stejnou mírou jistoty.

Na základě tohoto testu se zdá být Originality lepším nástrojem, ale je důležité si uvědomit, že oba nástroje si byly ve své analýze stejně jisté. Pokud jste analyzovaný text napsali Vy, budete vědět, který detektor má pravdu. Pokud ne, pak si nemůžete být nikdy jisti.

Jak detektory AI ohrožují Vaše data

Větším problémem u detektorů AI je ten, který mnoho firem zcela přehlíží: rizika, která představují pro soukromí a bezpečnost Vašich dat. Jedná se o podobná rizika, jaká představuje AI obecně:

  • Rizika související s dodržováním předpisů: Detekční modely dědí předsudky z trénovacích dat, což vytváří potenciál pro diskriminační výsledky a porušování zákonů o rovných příležitostech. Mnoho detektorů funguje jako „černé skříňky“ a rámce, jako je Akt EU o umělé inteligenci(nové okno) a rámec NIST pro řízení rizik spojených s umělou inteligencí(nové okno), vyžadují, aby organizace poskytovaly srozumitelné zdůvodnění výstupů AI.
  • Rizika spojená s IP a trénovacími daty: Mnoho detektorů AI má podmínky služby (ToS), které poskytovateli udělují právo ukládat, analyzovat a používat odeslaná data k trénování budoucích modelů. To může znamenat, že Váš poskytovatel má legální právo použít jakékoli plány produktů, finanční prognózy a vlastní výzkum, které jste odeslali, aniž by měl povinnost zaručit jejich soukromí nebo zabránit jejich zobrazení ve výstupech konkurence.
  • Rizika pro bezpečnost dat: Detektory AI jsou zranitelné vůči kybernetickým útokům a odesláním obsahu detektoru třetí strany rozšiřujete prostor pro případný útok i o systémy Vašeho poskytovatele. Pokud u Vašeho poskytovatele dojde k úniku informací, budou v něm i Vaše data. Bezplatné, neprověřené nástroje – tedy přesně ty, které mohou zaměstnance lákat – Vám neumožní předem provést audit bezpečnostních postupů poskytovatele.
  • Datová suverenita – rizika: Odeslání dokumentu detektoru může znamenat přenos textu na zahraniční servery, což jej potenciálně zbavuje místní ochrany a vystavuje extrateritoriálnímu vládnímu dohledu podle zákona CLOUD Act(nové okno).

Pro většinu firem není otázkou, zda detektory AI fungují, ale zda stojí za to podstupovat rizika spojená s jejich používáním. Pokud pracujete s jakýmikoli citlivými, originálními nebo důvěrnými daty, odpověď zní ne.

Časté dotazy týkající se detektorů AI

Jak detektory AI fungují?

Detektory AI skenují text a hledají vzorce, s nimiž byly natrénovány k asociaci s textem generovaným AI. Tyto vzorce se objevují proto, že AI generuje text na základě algoritmického předpovídání a používání nejpravděpodobnějšího dalšího slova.

Co detektory AI hledají?

Hlavními indikátory textu generovaného AI, které detektory vyhledávají, jsou nízká úroveň „perplexity“ (nepředvídatelná volba slov) a „sekvenčnosti“ (kolísání délky a struktury vět).

Některé modely AI začínají experimentovat s vodoznaky, což znamená vkládání neviditelných (ale detekovatelných) vzorců do textu v okamžiku jeho generování. Vzhledem k tomu, že s tím však začalo jen několik modelů, vodoznaky zatím nepředstavují spolehlivý test pro text generovaný AI.

Fungují detektory AI?

Přesnost závisí na použitém detektoru, typu analyzovaného textu a na tom, jak (pokud vůbec) byla AI k vygenerování textu použita. Detektory vykazují dobré výsledky u surového, neupraveného výstupu AI. U čehokoli složitějšího – upraveného obsahu, lidského psaní rodilými mluvčími jiných jazyků, lehce parafrázovaného výstupu AI – přesnost výrazně klesá.

Bez ohledu na přesnost je větším problémem u detektorů AI hrozba, kterou jejich používání může představovat pro bezpečnost Vašich dat. Odeslání obsahu detektoru třetí strany znamená jeho přenos na externí servery, což jej potenciálně vystavuje kybernetickým útokům, sběru dat, extrateritoriálnímu dohledu a předání legálních práv k odeslanému obsahu poskytovateli.

Pro většinu podniků, zejména pro ty, které pracují s citlivým, originálním nebo důvěrným obsahem, převažují rizika pro data spojená s detekcí AI třetí stranou nad jejími přínosy.