S každým promptem přijímají laboratoře AI každý den další a další vaše firemní data. Vaše jediná ochrana? Vágně formulovaný slib, že na nich nebudou trénovat.
Nedávná analýza Lawfare(nové okno) tvrdí, že když firmy předají svá data několika mocným laboratořím AI, učí je, jak se stát nadbytečnými. Autoři tomu říkají nahrazení prostřednictvím získávání znalostí (RKA).
Ačkoli nelze zjistit, co laboratoře AI s vašimi firemními daty dnes dělají, působí tři sbíhající se síly: do značné míry nekontrolovaná moc stanovovat podmínky, právní systém, který se stále potýká s tím, co vlastně „trénování“ znamená, a jak schopnost, tak i motivace konkurovat vlastním zákazníkům.
Vaše firma možná krmí bestii, která ji nakonec může pohltit celou.
Trénují laboratoře AI na podnikových datech?
Největší laboratoře AI vynaložily společné úsilí, aby obchodním uživatelům zajistily, že jejich data jsou ve výchozím nastavení soukromá:
- OpenAI tvrdí, že netrénuje na vstupech ani výstupech z ChatGPT pro obchodní uživatele.
- Anthropic tvrdí, že obchodní data jsou ve výchozím nastavení z trénování modelu Claude vyloučena.
- Microsoft tvrdí, že prompty, odpovědi ani data se k trénování Copilotu nepoužívají.
- Google tvrdí, že Gemini netrénuje svůj model na obchodních datech bez předchozího svolení nebo pokynu.
- X tvrdí, že interakce v obchodních plánech Grok nezlepšují jeho model, ale zjevně použije vlastní data zaměstnanců SpaceX pro účely trénování.
V praxi jsou jejich sliby chránit soukromí uživatelů záměrně vágní a slabší, než se zdají:
- Klíčové pojmy jsou vágně definované. Lawfare upozorňuje, že podniková smlouva OpenAI definuje obsah zákazníka jako vstup a výstup, a pak je definuje pomocí slov „vstup“ a „výstup“. Podmínky Anthropic vylučují trénování modelů na obsahu zákazníka, aniž by definovaly, co trénování znamená.
- Některá data mohou stát mimo tento slib. Vzory, metadata a souhrny, které AI generuje, ale nikdy vám je nezobrazí, se vůbec nemusí počítat jako vstupy nebo výstupy.
- „Trénování“ je užší pojem, než se zdá. Použití vašich dat k vytváření testovacích měřítek, ladění systémových promptů nebo trénování samostatných bezpečnostních nástrojů se nemusí počítat.
- Podmínky se mohou změnit. Poskytovatelé si obvykle vyhrazují právo je upravovat a každé vydání nového modelu je příležitostí je resetovat.
- Nemůžete si to ověřit. Jen laboratoř ví, co jde do jejího trénování. Únik informací byste jen stěží odhalili. Zakladatel a generální ředitel Protonu Andy Yen varoval, že jakmile informace jednou sdílíte s AI, nemůžete je už vzít zpět. Podle jeho slov by vás AI brzy „mohla znát lépe než vy sami.“(nové okno) Pro firmu je sázka vyšší.
O co může vaše firma přijít
To, co se AI o vaší firmě naučí, je to, co ji činí konkurenceschopnou. Velké technologické firmy to vědí.
V případu, který probíhal od roku 2019 do roku 2022, vyšetřovala Evropská komise Amazon za to, že používal neveřejná data od prodejců třetích stran k informování vlastního maloobchodního podnikání, tedy že používal data samotných prodejců ke konkurenci proti nim. Amazon se zavázal s tím přestat a zákaz byl později zakotven v aktu o digitálních trzích.
V některých odvětvích nejde jen o konkurenční výhodu. V sázce je i soulad s předpisy. Firmy v oblasti medicíny a financí mají zákonnou povinnost chránit citlivé informace podle pravidel, jako jsou HIPAA a GDPR. Tato pravidla jasně stanovují zabezpečení osobních údajů, ale odvětví AI je tak nové, že vzniká stále větší šedá zóna.
A protože je AI nyní zabudována do nástrojů pro zápis z porad, e-mailů a každodenních pracovních postupů, dotýká se vaší firmy mnohem více než tehdy, když sídlila v chatovacím okně.
Co mohou laboratoře AI získat
Laboratoře AI mají finanční i konkurenční motivaci přijímat co nejvíce dat.
Trh s AI bude nadále dramaticky růst; Gartner odhaduje, že se AI do roku 2030 dotkne veškeré práce v IT. Předpověděl také, že výdaje na AI dosáhnou v roce 2026 hodnoty 2,5 bilionu USD, což je o 44 % více než v předchozím roce. Vzhledem k obtížnosti dalšího vývoje inteligentnějších modelů AI bez významných trénovacích materiálů je pravděpodobné, že firmy vyvíjející AI začnou hledat způsoby, jak těžit ze svých podnikových zákazníků.
Explodující poptávka nutí laboratoře AI být stále kreativnější v tom, jak mohou rozvíjet své modely. A obchodní data jsou pro tyto laboratoře zjevně cenná: Google v srpnu vyhrál nabídku ve výši 10 milionů USD na koupi dat od zkrachovalých aerolinek Spirit Airlines. Podle Asociace palubních průvodčích tento datový balík obsahuje citlivá data zaměstnanců. Tato data by mohla být přijata a použita k trénování modelů AI společnosti Google bez souhlasu těchto zaměstnanců.
OpenAI tvrdí, že netrénuje na vstupech ani výstupech ze svých produktů pro obchodní uživatele. Ale když víme, jakou obrovskou hodnotu mají tato data pro firmy, musíme nyní zvážit právní postavení odvětví AI, pokud jde o zpracování dat.
Nemůžeme se spoléhat na směrnice, které možná nikdy nepřijdou
Mohou směrnice ochránit vaše firemní data před největšími laboratořemi AI? Abychom to pochopili, musíme se podívat na finanční a politickou realitu tohoto odvětví.
Spojené státy dominují v oblasti AI. Podle zprávy Artificial Index Report Stanfordovy univerzity funguje v USA 59 významných modelů, což je nejvíce na světě. Tato dominance stojí za zmínku. V březnu zveřejnil Bílý dům národní rámec zásad pro regulaci AI. Vyzývá k tomu, aby byly zákony na úrovni států nahrazeny federálním rámcem zásad pro AI s cílem „chránit americká práva, inovace a zabránit roztříštěnému souboru státních směrnic, který by brzdil národní konkurenceschopnost [USA]“. Rámec uvádí, že zákony na úrovni států regulující AI nesmějí jednat „v rozporu s národní strategií Spojených států dosáhnout globální dominance v oblasti AI“.
Je pravděpodobnější, že americká vláda upřednostní práva jednotlivých firem na soukromí dat, které mohou sídlit mimo USA? Nebo práva na expanzi svého národního impéria AI? Evropské firmy prostě nemohou zaručit, že americké nástroje AI upřednostní svrchovanost jejich dat. Vzhledem k tomu, že největší laboratoře AI působí v USA, se na obzoru rýsuje zlomový bod.
Lepší volba pro podnikovou AI
Namísto spoléhání na směrnice nebo snahy držet krok se zásadami ochrany soukromí mají firmy jednodušší a účinnější možnost: zvolit nástroj AI vytvořený pro soukromí. Je tu prostor pro inovace bez vykořisťování. Nástroj AI, který si vyberete, by měl zůstat právě tím: nástrojem AI, který vám pomáhá, a ne konkurentem, kterého školíte, aby zaujal vaše místo. Měl by se snažit plnit svou funkci a postupem času růst, aniž by kradl obchodní tajemství.
Proton vytvořil Lumo, aby tuto potřebu naplnil. Bez motivace shromažďovat nebo zneužívat data uživatelů může být AI převratným nástrojem pro firmy. Lumo nevede žádné logy obchodních chatů, čímž chrání vaše data před třetími stranami a vládním dohledem. Díky obchodnímu modelu bez reklam a bez financování od velkých technologických firem nebo rizikového kapitálu je jedinou motivací Lumo poskytovat co nejlepší podporu pro firmy. Proton jako firma je spravován nadací Proton Foundation, což znamená, že jednáme v zájmu lidí, a ne průmyslové nadvlády.
Proton sídlí ve Švýcarsku a řídí se také přísnými zákony na ochranu soukromí dat a GDPR. Kód i model jsou dostupné jako otevřený zdrojový kód, takže si každá firma může naše tvrzení ověřit. Lumo je navržen tak, aby dělal přesně to, co by AI měla dělat: poskytovat pomoc bez vykořisťování. Volba evropské alternativy k nástrojům AI velkých technologických firem je pro firmu tím nejlepším způsobem, jak se chránit před neregulovanými a nedůvěryhodnými laboratořemi AI.
