Con ogni prompt, i laboratori di IA assimilano ogni giorno sempre più dati della tua azienda. La tua unica protezione? Una promessa dal testo vago di non addestrare i modelli su di essi.
Una recente analisi di Lawfare(nuova finestra) sostiene che, quando le aziende affidano i propri dati a pochi e potenti laboratori di IA, insegnano a quei laboratori come renderle superflue. Gli autori chiamano questo fenomeno sostituzione tramite acquisizione di conoscenze (RKA).
Se da un lato è impossibile sapere cosa fanno oggi i laboratori di IA con i dati della tua azienda, sono in gioco tre forze convergenti: un potere in gran parte incontrollato di stabilire le condizioni, un sistema giuridico che ancora fatica a capire cosa significhi “addestramento” e, insieme, la capacità e l’incentivo a competere con i propri clienti.
La tua azienda potrebbe nutrire la bestia che, alla fine, rischia di divorarla del tutto.
I laboratori di IA addestrano i modelli sui dati aziendali?
I maggiori laboratori di IA si sono impegnati con ogni sforzo per assicurare agli utenti business che i loro dati sono privati per impostazione predefinita:
- OpenAI dichiara di non addestrare i modelli su input o output di ChatGPT per gli utenti business.
- Anthropic dichiara che, per impostazione predefinita, i dati aziendali sono esclusi dall’addestramento del modello di Claude.
- Microsoft dichiara che prompt, risposte e dati non vengono usati per addestrare Copilot.
- Google dichiara che Gemini non addestra il proprio modello sui dati aziendali senza previa autorizzazione o istruzione.
- X dichiara che le interazioni sui piani business di Grok non migliorano il suo modello, ma a quanto pare userà i dati dei propri dipendenti di SpaceX per finalità di addestramento.
In pratica, le loro promesse di proteggere la privacy degli utenti sono volutamente vaghe e più fragili di quanto sembrino:
- I termini chiave sono definiti in modo vago. Lawfare fa notare che il contratto enterprise di OpenAI definisce il contenuto del cliente come input e output, per poi definirli proprio con le parole “input” e “output”. I termini di Anthropic escludono l’addestramento dei modelli sul contenuto dei clienti senza definire cosa significhi addestramento.
- Alcuni dati potrebbero restare fuori dalla promessa. Pattern, metadati e riepiloghi che un’IA genera ma che non ti mostra mai potrebbero non essere affatto considerati input o output.
- Il termine “addestramento” è più limitato di quanto sembri. Usare i tuoi dati per creare benchmark di test, mettere a punto i prompt di sistema o addestrare strumenti di sicurezza separati potrebbe non essere considerato addestramento.
- I termini possono cambiare. I fornitori di solito si riservano il diritto di modificarli e ogni nuova versione di modello è un’occasione per reimpostarli.
- Non puoi verificarlo. Solo il laboratorio sa cosa entra nel suo addestramento. Una violazione sarebbe quasi impossibile da individuare per te.Il fondatore e CEO di Proton Andy Yen ha avvertito che, una volta condivise le informazioni con un’IA, non puoi davvero riprendertele. Secondo lui, presto l’IA “potrebbe conoscerti meglio di quanto ti conosca tu stesso”.(nuova finestra) Per un’azienda, la posta in gioco è più alta.
Cosa rischia di perdere la tua azienda
Ciò che un’IA impara sulla tua azienda è ciò che la rende competitiva. E le Big Tech lo sanno.
In un caso durato dal 2019 al 2022, la Commissione europea ha indagato su Amazon per aver usato dati non pubblici di venditori terzi per orientare la propria attività di vendita al dettaglio, di fatto utilizzando i dati dei venditori stessi per competere contro di loro. Amazon si è impegnata a smettere e il divieto è stato poi inserito nel Digital Markets Act.
In alcuni settori non è in gioco solo un vantaggio competitivo. Anche la conformità è a rischio. Le aziende del settore medico e finanziario hanno l’obbligo di legge di proteggere le informazioni sensibili in base a norme come HIPAA e il GDPR. Queste norme sono chiare su come proteggere i dati personali, ma il settore dell’IA è così nuovo che l’area grigia si sta allargando.
E ora che l’IA è integrata negli strumenti di verbalizzazione delle riunioni, nelle email e nei flussi di lavoro quotidiani, tocca molte più parti della tua azienda rispetto a quando viveva in una finestra di chat.
Cosa hanno da guadagnare i laboratori di IA
I laboratori di IA hanno un incentivo economico e competitivo ad assimilare quanti più dati possibile.
Il mercato dell’IA continuerà a crescere in modo vertiginoso: Gartner ipotizza che entro il 2030 l’IA toccherà ogni ambito del lavoro IT. Ha anche previsto che la spesa in IA raggiungerà 2.500 miliardi di dollari nel 2026, con un aumento del 44% rispetto all’anno precedente. Data la difficoltà di continuare a sviluppare modelli di IA più intelligenti senza materiali di addestramento significativi, è probabile che le aziende di IA inizino a trovare modi per trarre vantaggio dai propri clienti enterprise.
La domanda in rapida crescita sta spingendo i laboratori di IA a diventare sempre più creativi nei modi in cui possono sviluppare i propri modelli. E i dati aziendali hanno chiaramente un grande valore per questi laboratori: ad agosto Google si è aggiudicata per 10 milioni di dollari l’acquisto dei dati della compagnia aerea fallita Spirit Airlines. Secondo l’Association of Flight Attendants, questo pacchetto di dati include dati sensibili dei dipendenti. Quei dati potrebbero essere assimilati e usati per addestrare i modelli di IA di Google senza il consenso di quei dipendenti.
OpenAI dichiara di non addestrare i modelli su input o output dei suoi prodotti per gli utenti business. Ma, sapendo quanto questi dati siano preziosi per le aziende, ora dobbiamo considerare la posizione giuridica del settore dell’IA quando si tratta di trattamento dei dati.
Non possiamo contare su normative che potrebbero non arrivare mai
Le normative possono proteggere i dati della tua azienda dai maggiori laboratori di IA? Per capirlo, dobbiamo esaminare le realtà finanziarie e politiche del settore.
Gli Stati Uniti dominano l’IA. Secondo l’Artificial Index Report di Stanford, 59 modelli di rilievo operano negli Stati Uniti, il numero più alto al mondo. Questo dominio è importante da sottolineare; a marzo la Casa Bianca ha pubblicato un quadro nazionale di policy per regolamentare l’IA. Il documento chiede che le leggi statali siano sostituite da un quadro federale di policy sull’IA per “proteggere i diritti e l’innovazione americani e prevenire un mosaico frammentato di normative statali che ostacolerebbe la competitività nazionale [degli Stati Uniti]”. Il quadro sottolinea che le leggi statali che regolamentano l’IA non devono essere autorizzate ad “agire in contrasto con la strategia nazionale degli Stati Uniti per raggiungere il dominio globale dell’IA”.
È più probabile che il governo degli Stati Uniti dia priorità ai diritti di privacy sui dati delle singole aziende, potenzialmente con sede fuori dagli Stati Uniti? O ai diritti di espansione del proprio impero nazionale dell’IA? Le aziende europee semplicemente non possono avere la garanzia che gli strumenti di IA americani mettano al primo posto la loro sovranità sui dati. Con i maggiori laboratori di IA che operano negli Stati Uniti, all’orizzonte si profila un punto di svolta.
Una scelta migliore per l’IA aziendale
Invece di sperare in nuove normative o di rincorrere le informative sulla privacy, le aziende hanno un’opzione più semplice ed efficace: scegliere uno strumento di IA progettato per la privacy. C’è spazio per l’innovazione senza sfruttamento. Lo strumento di IA che scegli dovrebbe restare tale: uno strumento di IA che ti assiste, non un concorrente che stai addestrando a prendere il tuo posto. Dovrebbe limitarsi a svolgere la propria funzione, crescendo nel tempo, senza rubare segreti commerciali.
Proton ha creato Lumo per rispondere a questa esigenza. Senza alcun incentivo a raccogliere o sfruttare i dati degli utenti, l’IA può essere uno strumento di trasformazione per le aziende. Lumo non conserva alcun log delle chat di lavoro, proteggendo i tuoi dati da terze parti e dalla sorveglianza governativa. Con un modello di business senza pubblicità e nessun finanziamento da Big Tech o dal capitale di rischio, l’unico incentivo di Lumo è offrire il miglior supporto aziendale possibile. Proton, come azienda, è governata dalla Proton Foundation: agiamo nell’interesse delle persone, non del dominio industriale.
Con sede in Svizzera, Proton è inoltre soggetta a severe leggi sulla privacy dei dati e al GDPR. Il suo codice e il suo modello sono entrambi open source, così qualsiasi azienda può verificare le nostre dichiarazioni. Lumo è progettato per fare esattamente ciò che l’IA dovrebbe fare: offrire assistenza senza sfruttamento. Scegliere un’alternativa europea agli strumenti di IA delle Big Tech è il modo migliore per un’azienda di proteggersi da laboratori di IA non regolamentati e non affidabili.
