Cu fiecare prompt, laboratoarele de IA absorb zilnic tot mai multe dintre datele dumneavoastră de business. Singura protecție? O promisiune formulată vag că datele nu vor fi folosite pentru antrenare.
O analiză Lawfare(fereastră nouă) recentă susține că, atunci când companiile își predau datele unui număr mic de laboratoare de IA puternice, acestea îi învață pe operatorii lor cum să le facă inutile. Autorii numesc acest fenomen înlocuire prin dobândire de cunoștințe (RKA).
Deși nu există nicio modalitate de a ști ce fac astăzi laboratoarele de IA cu datele dumneavoastră de business, trei forțe convergente sunt în joc: o putere în mare măsură necontrolată de a stabili termenii, un sistem juridic care încă se străduiește să înțeleagă ce înseamnă de fapt „antrenare” și atât capacitatea, cât și stimulentul de a concura cu propriii clienți.
Afacerea dumneavoastră poate hrăni bestia care, în cele din urmă, ar putea să o înghită de tot.
Laboratoarele de IA își antrenează modelele pe datele companiilor?
Cele mai mari laboratoare de IA au depus un efort concertat pentru a-i asigura pe utilizatorii de business că datele lor sunt private în mod implicit:
- OpenAI susține că nu antrenează modele pe intrările sau ieșirile din ChatGPT pentru utilizatorii de business.
- Anthropic susține că datele de business sunt excluse implicit de la antrenarea modelului Claude.
- Microsoft susține că prompturile, răspunsurile și datele nu sunt folosite pentru a antrena Copilot.
- Google susține că Gemini nu își antrenează modelul pe date de business fără o permisiune sau o instrucțiune prealabilă.
- X susține că interacțiunile din planurile de business Grok nu îmbunătățesc modelul, dar se pare că va folosi datele propriilor angajați SpaceX în scopuri de antrenare.
În practică, promisiunile lor de a proteja confidențialitatea utilizatorilor sunt intenționat de vagi și mai fragile decât par:
- Termenii-cheie sunt definiți vag. Lawfare subliniază că acordul enterprise al OpenAI definește conținutul clientului drept intrare și ieșire, apoi le definește pe acestea folosind chiar cuvintele „intrare” și „ieșire”. Termenii Anthropic exclud antrenarea modelelor pe conținutul clienților fără a defini ce înseamnă antrenarea.
- Unele date pot rămâne în afara promisiunii. Tiparele, metadatele și rezumatele pe care IA le generează, dar nu vi le afișează niciodată, pot să nu fie considerate deloc intrări sau ieșiri.
- „Antrenarea” este mai restrânsă decât pare. Folosirea datelor dumneavoastră pentru a construi repere de testare, a regla prompturi de sistem sau a antrena instrumente de siguranță separate poate să nu conteze.
- Termenii se pot schimba. Furnizorii își rezervă de obicei dreptul de a-i modifica, iar fiecare lansare de model nou este o ocazie de a-i reseta.
- Nu puteți verifica. Doar laboratorul știe ce intră în antrenarea sa. O încălcare a datelor ar fi aproape imposibil de depistat pentru dumneavoastră. Fondatorul și CEO-ul Proton, Andy Yen, a avertizat că, odată ce partajați informații cu o IA, nu le mai puteți lua înapoi cu adevărat. În curând, susține el, IA „ar putea să vă cunoască mai bine decât vă cunoașteți chiar dumneavoastră”.(fereastră nouă) Pentru o afacere, miza este mai mare.
Ce riscă să piardă afacerea dumneavoastră
Ce învață o IA despre afacerea dumneavoastră este exact ceea ce o face competitivă. Big Tech știe asta.
Într-un caz desfășurat între 2019 și 2022, Comisia Europeană a investigat Amazon pentru că a folosit date nepublicate de la vânzători terți pentru a-și susține propriul business de retail, folosind în esență datele vânzătorilor pentru a concura împotriva lor. Amazon s-a angajat să renunțe, iar interdicția a fost ulterior inclusă în Regulamentul privind piețele digitale.
În unele industrii, nu este în joc doar un avantaj competitiv. Și conformitatea este pusă în pericol. Afacerile din medicină și finanțe au obligația legală de a proteja informațiile sensibile conform unor reguli precum HIPAA și GDPR. Aceste reguli sunt clare în privința securizării datelor personale, dar industria IA este atât de nouă încât se extinde o zonă gri.
Iar acum, când IA este integrată în aplicații de notițe pentru ședințe, în e-mail și în fluxurile de lucru cotidiene, aceasta atinge mult mai mult din afacerea dumneavoastră decât atunci când exista doar într-o fereastră de chat.
Ce au de câștigat laboratoarele de IA
Laboratoarele de IA au un stimulent financiar și competitiv de a absorbi cât mai multe date posibil.
Piața IA va continua să crească dramatic, Gartner estimând că IA va afecta tot ce ține de IT până în 2030. Compania a prognozat de asemenea că cheltuielile pentru IA vor ajunge la 2,5 trilioane USD în 2026, o creștere de 44 % față de anul precedent. Având în vedere provocarea de a dezvolta în continuare modele de IA mai inteligente fără materiale de antrenare semnificative, firmele de IA vor începe mai probabil să caute modalități de a profita de pe urma clienților lor enterprise.
Cererea explozivă obligă laboratoarele de IA să devină tot mai inventive în privința modalităților de a-și dezvolta modelele. Iar datele de business sunt în mod evident valoroase pentru aceste laboratoare: Google a câștigat o licitație de 10 milioane USD pentru a cumpăra date de la compania aeriană falită Spirit Airlines, în luna august. Potrivit Asociației Însoțitorilor de Bord, acest pachet de date include date sensibile ale angajaților. Datele respective ar putea fi absorbite și folosite pentru a antrena modelele de IA ale Google fără consimțământul acelor angajați.
OpenAI susține că nu antrenează modele pe intrările sau ieșirile din produsele sale pentru utilizatorii de business. Dar, știind cât de valoroase sunt aceste date pentru afaceri, trebuie să luăm acum în considerare poziția juridică a industriei IA în ceea ce privește prelucrarea datelor.
Nu ne putem baza pe reguli care s-ar putea să nu apară
Pot regulile să protejeze datele afacerii dumneavoastră de cele mai mari laboratoare de IA? Pentru a înțelege acest lucru, trebuie să analizăm realitățile financiare și politice ale industriei.
SUA domină domeniul IA. Potrivit raportului Artificial Index al Universității Stanford, 59 de modele notabile funcționează în SUA, cel mai mare număr dintre toate țările lumii. Această dominare merită menționată; în luna martie, Casa Albă a publicat un cadru național de politică pentru reglementarea IA. Acesta cere ca legile de la nivel de stat să fie înlocuite cu un cadru federal de politică privind IA, pentru a „proteja drepturile și inovația americană și a preveni un mozaic fragmentat de reguli de stat care ar împiedica competitivitatea națională [a SUA]”. Cadrul precizează că legile de la nivel de stat care reglementează IA nu trebuie lăsate să „acționeze împotriva strategiei naționale a Statelor Unite de a atinge dominația globală în domeniul IA”.
Este mai probabil ca guvernul SUA să prioritizeze drepturile de confidențialitate a datelor ale unor afaceri individuale, posibil situate în afara SUA? Sau drepturile de expansiune ale imperiului său național de IA? Afacerile europene pur și simplu nu pot garanta că instrumentele americane de IA le vor pune suveranitatea datelor pe primul loc. Cu cele mai mari laboratoare de IA activând în SUA, se conturează un punct de inflexiune.
O alegere mai bună pentru IA în mediul enterprise
În loc să spere la reguli sau să încerce să țină pasul cu politicile de confidențialitate, afacerile au o opțiune mai simplă și mai eficientă: să aleagă un instrument de IA creat pentru confidențialitate. Există loc pentru inovație fără exploatare. Instrumentul de IA pe care îl alegeți ar trebui să rămână exact asta: un instrument de IA care să vă asiste, nu un concurent pe care îl antrenați să vă ia locul. Ar trebui să își îndeplinească funcția, dezvoltându-se în timp, fără a fura secrete comerciale.
Proton a creat Lumo pentru a răspunde acestei nevoi. Fără niciun stimulent de a colecta sau exploata datele utilizatorilor, IA poate fi un instrument care transformă afacerile. Lumo nu păstrează niciun jurnal al conversațiilor de business, protejându-vă datele de terți și de supravegherea guvernamentală. Cu un model de business fără reclame și fără finanțare de la Big Tech sau de la capitalul de risc, singurul stimulent al Lumo este de a oferi cea mai bună asistență pentru afaceri posibilă. Proton, ca afacere, este guvernat de Proton Foundation, ceea ce înseamnă că acționăm în interesul oamenilor, nu al dominației industriale.
Cu sediul în Elveția, Proton este de asemenea supus unor legi stricte privind confidențialitatea datelor și GDPR. Atât codul, cât și modelul său sunt disponibile ca cod sursă public, astfel încât orice afacere ne poate verifica afirmațiile. Lumo este conceput să facă exact ceea ce ar trebui să facă IA: să ofere asistență fără exploatare. Alegerea unei alternative europene la instrumentele de IA ale Big Tech este cea mai bună modalitate prin care o afacere se poate proteja de laboratoarele de IA nereglementate și lipsite de credibilitate.
