Z każdym poleceniem laboratoria AI pochłaniają codziennie coraz więcej danych twojej firmy. Jedyna ochrona? Niejasno sformułowana obietnica, że nie będą na nich trenować.
Niedawna analiza Lawfare(nowe okno) przekonuje, że gdy firmy przekazują swoje dane kilku potężnym laboratoriom AI, uczą je, jak same siebie uczynić zbędnymi. Autorzy nazywają to zastępowaniem przez zdobywanie wiedzy (RKA).
Choć nie da się ustalić, co laboratoria AI robią dziś z danymi twojej firmy, w grę wchodzą trzy zbiegające się siły: niemal nieograniczona swoboda w ustalaniu warunków, system prawny wciąż zmagający się z tym, co właściwie oznacza „trenowanie”, oraz zarówno możliwość, jak i motywacja, by konkurować z własnymi klientami.
Twoja firma może karmić bestię, która w końcu może ją pochłonąć w całości.
Czy laboratoria AI trenują na danych przedsiębiorstw?
Największe laboratoria AI podejmują wspólne wysiłki, aby zapewnić użytkowników biznesowych, że ich dane są domyślnie prywatne:
- OpenAI twierdzi, że nie trenuje na danych wejściowych ani wyjściowych z ChatGPT w przypadku użytkowników biznesowych.
- Anthropic twierdzi, że dane firmowe są domyślnie wyłączone z trenowania modelu Claude.
- Microsoft twierdzi, że polecenia, odpowiedzi i dane nie są wykorzystywane do trenowania Copilota.
- Google twierdzi, że Gemini nie trenuje swojego modelu na danych firmowych bez uprzedniej zgody lub polecenia.
- X twierdzi, że interakcje w planach biznesowych Grok nie ulepszają jego modelu, ale najwyraźniej wykorzysta do trenowania własne dane pracowników SpaceX.
W praktyce ich obietnice ochrony prywatności użytkowników są celowo niejasne i słabsze, niż się wydają:
- Kluczowe pojęcia są nieprecyzyjnie zdefiniowane. Lawfare zwraca uwagę, że umowa OpenAI dla przedsiębiorstw definiuje treści klienta jako dane wejściowe i wyjściowe, a następnie definiuje je za pomocą słów „dane wejściowe” i „dane wyjściowe”. Warunki Anthropic wykluczają trenowanie modeli na treściach klienta, nie definiując, co oznacza trenowanie.
- Niektóre dane mogą nie być objęte obietnicą. Wzorce, metadane i podsumowania, które AI generuje, ale nigdy ci nie pokazuje, mogą w ogóle nie być uznawane za dane wejściowe ani wyjściowe.
- „Trenowanie” jest węższe, niż się wydaje. Wykorzystanie danych do tworzenia testów porównawczych, dostrajania poleceń systemowych lub trenowania odrębnych narzędzi bezpieczeństwa może się nie liczyć.
- Warunki mogą się zmieniać. Dostawcy zwykle zastrzegają sobie prawo do ich zmiany, a każde wydanie nowego modelu to okazja, by zresetować je od nowa.
- Nie możesz tego sprawdzić. Tylko laboratorium wie, co trafia do jego treningu. Naruszenie byłoby dla ciebie niemal niemożliwe do wykrycia.Proton — jego założyciel i dyrektor generalny Andy Yen — ostrzegał, że gdy raz udostępnisz informacje AI, nie da się ich tak naprawdę cofnąć. Jego zdaniem wkrótce AI „może znać cię lepiej niż ty sam”.(nowe okno) W przypadku firmy stawka jest wyższa.
Co może stracić twoja firma
To, czego AI uczy się o twojej firmie, czyni ją konkurencyjną. Big Tech doskonale o tym wie.
W sprawie prowadzonej w latach 2019–2022 Komisja Europejska badała Amazona za wykorzystywanie niepublicznych danych sprzedawców zewnętrznych do wspierania własnej działalności handlowej — w praktyce używał danych sprzedawców, by z nimi konkurować. Amazon zobowiązał się zaprzestać, a zakaz wpisano później do aktu o rynkach cyfrowych.
W niektórych branżach stawką nie jest tylko przewaga konkurencyjna. Zagrożona jest też zgodność z przepisami. Firmy z sektora medycznego i finansowego mają prawny obowiązek chronić informacje wrażliwe na mocy przepisów takich jak HIPAA i GDPR. Przepisy te jasno określają zasady zabezpieczania danych osobowych, ale branża AI jest tak nowa, że szara strefa stale się powiększa.
A ponieważ AI jest dziś wbudowana w narzędzia do notowania spotkań, pocztę e-mail i codzienne procesy pracy, dotyka znacznie większej części twojej firmy niż wtedy, gdy działała tylko w oknie czatu.
Co mogą zyskać laboratoria AI
Laboratoria AI mają finansową i konkurencyjną motywację, by pochłaniać jak najwięcej danych.
Rynek AI będzie nadal gwałtownie rósł — Gartner przewiduje, że do 2030 r. AI obejmie wszystkie prace w obszarze IT. Prognozuje też, że wydatki na AI osiągną 2,5 biliona USD w 2026 r., czyli wzrosną o 44% w porównaniu z rokiem poprzednim. W obliczu wyzwania, jakim jest dalszy rozwój coraz inteligentniejszych modeli AI bez znaczących materiałów do trenowania, firmy AI najprawdopodobniej zaczną szukać sposobów na czerpanie korzyści od swoich klientów biznesowych.
Eksplodujący popyt zmusza laboratoria AI do coraz większej kreatywności w sposobach rozwijania modeli. Dane firmowe są dla nich wyraźnie cenne: w sierpniu Google wygrało licytację o wartości 10 mln USD na zakup danych od bankrutujących linii lotniczych Spirit Airlines. Według Association of Flight Attendants pakiet tych danych obejmuje dane wrażliwe pracowników. Mogą one zostać pochłonięte i wykorzystane do trenowania modeli AI Google bez zgody tych pracowników.
OpenAI twierdzi, że nie trenuje na danych wejściowych ani wyjściowych ze swoich produktów w przypadku użytkowników biznesowych. Wiedząc jednak, jak ogromną wartość mają te dane dla firm, trzeba teraz rozważyć podstawę prawną przetwarzania danych przez branżę AI.
Nie można polegać na regulacjach, które mogą nie nadejść
Czy regulacje mogą ochronić dane twojej firmy przed największymi laboratoriami AI? Aby to zrozumieć, trzeba przyjrzeć się finansowym i politycznym realiom tej branży.
W dziedzinie AI dominują Stany Zjednoczone. Według Artificial Index Report Uniwersytetu Stanforda 59 znaczących modeli działa w USA — to najwięcej na świecie. Ta dominacja ma znaczenie: w marcu Biały Dom opublikował krajowe ramy polityki regulującej AI. Wzywają one do zastąpienia przepisów stanowych federalnymi ramami polityki dotyczącej AI, aby „chronić amerykańskie prawa, innowacyjność i zapobiec fragmentacji przepisów stanowych, która utrudniałaby [USA] konkurencyjność na arenie międzynarodowej”. W dokumencie zauważono, że przepisy stanowe regulujące AI nie mogą „działać wbrew narodowej strategii Stanów Zjednoczonych, której celem jest osiągnięcie globalnej dominacji w dziedzinie AI”.
Czy bardziej prawdopodobne jest, że rząd USA przedłoży prawo do prywatności danych poszczególnych firm — które mogą znajdować się poza Stanami Zjednoczonymi — czy prawo do ekspansji swojego narodowego imperium AI? Europejskie firmy nie mogą zagwarantować, że amerykańskie narzędzia AI postawią na pierwszym miejscu suwerenność ich danych. Skoro największe laboratoria AI działają w USA, na horyzoncie pojawia się punkt zwrotny.
Lepszy wybór dla AI w przedsiębiorstwie
Zamiast liczyć na regulacje czy próbować nadążać za politykami prywatności, firmy mają łatwiejszą i skuteczniejszą opcję: wybór narzędzia AI stworzonego z myślą o prywatności. Jest miejsce na innowacje bez wyzysku. Wybrane narzędzie AI powinno pozostać właśnie tym — narzędziem, które ci pomaga, a nie konkurentem, którego szkolisz, by zajął twoje miejsce. Powinno dążyć do wypełniania swojej funkcji i rozwijać się z czasem, nie podkradając tajemnic handlowych.
Proton stworzył Lumo, aby odpowiedzieć na tę potrzebę. Bez motywacji do zbierania czy wykorzystywania danych użytkowników AI może być narzędziem przełomowym dla firm. Lumo nie prowadzi logów rozmów biznesowych, chroniąc dane przed stronami trzecimi i nadzorem rządowym. Dzięki modelowi biznesowemu bez reklam i brakowi finansowania od Big Tech czy funduszy venture capital jedyną motywacją Lumo jest zapewnienie jak najlepszego wsparcia dla firm. Proton jako firma podlega Proton Foundation, co oznacza, że działamy w interesie ludzi, a nie dominacji przemysłowej.
Proton ma siedzibę w Szwajcarii i podlega również surowym przepisom o ochronie danych osobowych oraz GDPR. Jego kod źródłowy i model są otwarte, więc każda firma może zweryfikować nasze deklaracje. Lumo zostało zaprojektowane tak, by robić dokładnie to, co powinna robić AI: pomagać bez wyzysku. Wybór europejskiej alternatywy dla narzędzi AI od Big Tech to dla firmy najlepszy sposób na ochronę przed nieuregulowanymi i niewiarygodnymi laboratoriami AI.
