A cada prompt, os laboratórios de IA absorvem mais dados da sua empresa todos os dias. A sua única proteção? Uma promessa redigida de forma vaga de não treinar com esses dados.
Uma análise recente da Lawfare(nova janela) defende que, quando as empresas entregam os seus dados a alguns laboratórios de IA poderosos, estão a ensinar esses laboratórios a torná-las dispensáveis. Os autores chamam a isto substituição através da aquisição de conhecimento (RKA).
Embora não seja possível saber o que os laboratórios de IA fazem hoje com os dados da sua empresa, há três forças convergentes em jogo: um poder praticamente sem controlo para definir os termos, um sistema jurídico que ainda se debate com o que «treino» significa e, ao mesmo tempo, a capacidade e o incentivo para competir com os seus próprios clientes.
A sua empresa pode estar a alimentar o monstro que pode acabar por a consumir por completo.
Os laboratórios de IA treinam com dados empresariais?
Os maiores laboratórios de IA têm feito um esforço concertado para garantir aos utilizadores empresariais que os seus dados são privados por predefinição:
- A OpenAI afirma que não treina com entradas ou saídas do ChatGPT de utilizadores empresariais.
- A Anthropic afirma que os dados empresariais estão excluídos por predefinição do treino do modelo do Claude.
- A Microsoft afirma que os prompts, as respostas e os dados não são usados para treinar o Copilot.
- A Google afirma que o Gemini não treina o seu modelo com dados empresariais sem autorização ou instrução prévias.
- A X afirma que as interações nos planos empresariais do Grok não melhoram o seu modelo, mas, aparentemente, vai usar os dados dos seus próprios trabalhadores da SpaceX para fins de treino.
Na prática, as suas promessas de proteger a privacidade dos utilizadores são intencionalmente vagas e mais ténues do que parecem:
- Os termos principais estão definidos de forma vaga. A Lawfare assinala que o acordo empresarial da OpenAI define o conteúdo do cliente como a entrada e a saída e, depois, define-os com as palavras «entrada» e «saída». Os termos da Anthropic excluem o treino de modelos com conteúdo do cliente sem definir o que significa treinar.
- Alguns dados podem ficar fora da promessa. Os padrões, os metadados e os resumos que uma IA gera mas nunca lhe mostra podem não contar como entradas ou saídas.
- O «treino» é mais restrito do que parece. Usar os seus dados para criar testes de referência, afinar prompts de sistema ou treinar ferramentas de segurança separadas pode não contar.
- Os termos podem mudar. Os fornecedores reservam-se habitualmente o direito de os alterar, e cada novo lançamento de modelo é uma oportunidade para os repor.
- Não pode verificar. Só o laboratório sabe o que entra no seu treino. Um incidente seria quase impossível de detetar. Andy Yen, fundador e CEO da Proton, avisou que, depois de partilhar informações com uma IA, não é realmente possível recuperá-las. Segundo ele, dentro de pouco tempo a IA «poderá saber mais sobre si do que a própria pessoa»(nova janela). Para uma empresa, o risco é ainda maior.
O que a sua empresa pode perder
O que uma IA aprende sobre a sua empresa é o que a torna competitiva. As grandes tecnológicas sabem disso.
Num processo que decorreu entre 2019 e 2022, a Comissão Europeia investigou a Amazon por usar dados não públicos de vendedores terceiros para orientar o seu próprio negócio de retalho — na prática, usar os dados dos próprios vendedores para competir com eles. A Amazon comprometeu-se a cessar esta prática e a proibição foi posteriormente inscrita no Regulamento dos Mercados Digitais.
Em alguns setores, não está em jogo apenas uma vantagem competitiva. A conformidade também está em risco. As empresas da área da medicina e das finanças têm o dever legal de proteger informações sensíveis ao abrigo de regras como a HIPAA e o GDPR. Essas regras são claras quanto à proteção de dados pessoais, mas a indústria da IA é tão recente que está a crescer uma zona cinzenta.
E, agora que a IA está integrada em ferramentas de transcrição de reuniões, no e-mail e nos fluxos de trabalho diários, toca em muito mais áreas da sua empresa do que quando existia apenas numa janela de conversa.
O que os laboratórios de IA têm a ganhar
Os laboratórios de IA têm um incentivo financeiro e competitivo para absorver o máximo de dados possível.
O mercado da IA vai continuar a crescer de forma acentuada, e a Gartner especula que, até 2030, a IA vai tocar em todo o trabalho de TI. A empresa previu também que os gastos em IA atingiriam 2,5 biliões de dólares em 2026, um aumento de 44% face ao ano anterior. Dado o desafio de continuar a desenvolver modelos de IA mais inteligentes sem materiais de treino significativos, é mais provável que as empresas de IA comecem a encontrar formas de tirar partido dos seus clientes empresariais.
A procura explosiva está a obrigar os laboratórios de IA a tornarem-se cada vez mais criativos nas formas de desenvolver os seus modelos. E os dados empresariais são claramente valiosos para estes laboratórios: a Google ganhou um leilão de 10 milhões de dólares para comprar dados da companhia aérea falida Spirit Airlines, em agosto. Segundo a Associação de Assistentes de Voo, este pacote de dados inclui dados sensíveis de trabalhadores. Esses dados podem ser absorvidos e usados para treinar os modelos de IA da Google sem o consentimento desses trabalhadores.
A OpenAI afirma que não treina com entradas ou saídas dos seus produtos para utilizadores empresariais. Mas, sabendo do enorme valor destes dados para as empresas, é agora necessário considerar a posição jurídica da indústria da IA no que respeita ao tratamento de dados.
Não podemos contar com uma regulamentação que pode nunca chegar
Pode a regulamentação proteger os dados da sua empresa dos maiores laboratórios de IA? Para o compreender, temos de analisar as realidades financeira e política do setor.
Os Estados Unidos dominam a IA. Segundo o Artificial Index Report da Universidade de Stanford, 59 modelos relevantes operam a partir dos Estados Unidos, o maior número de qualquer país do mundo. Vale a pena assinalar esta dominância; em março, a Casa Branca publicou um quadro nacional de políticas para regulamentar a IA. Nele se apela à substituição das leis estatais por um quadro federal de políticas de IA, para «proteger os direitos e a inovação dos americanos e evitar um mosaico fragmentado de regulamentos estatais que prejudicaria a competitividade nacional [dos Estados Unidos]». O quadro observa que não se pode permitir que as leis estatais que regulam a IA «atuem em contradição com a estratégia nacional dos Estados Unidos para alcançar a dominância global da IA».
É mais provável que o governo dos Estados Unidos dê prioridade aos direitos de privacidade de dados de empresas individuais, potencialmente localizadas fora do país? Ou aos direitos de expansão do seu império nacional de IA? As empresas europeias simplesmente não podem garantir que as ferramentas americanas de IA coloquem a sua soberania de dados em primeiro lugar. Com os maiores laboratórios de IA a operar nos Estados Unidos, há um ponto de inflexão no horizonte.
Uma escolha melhor para a IA empresarial
Em vez de esperar por regulamentação ou de tentar acompanhar as políticas de privacidade, as empresas têm uma opção mais fácil e mais eficaz: escolher uma ferramenta de IA concebida para a privacidade. Há espaço para inovar sem explorar. A ferramenta de IA que escolher deve continuar a ser exatamente isso: uma ferramenta de IA para a ajudar, e não um concorrente que está a treinar para ocupar o seu lugar. Deve procurar cumprir a sua função, evoluindo ao longo do tempo, sem roubar segredos comerciais.
A Proton criou o Lumo para responder a esta necessidade. Sem qualquer incentivo para recolher ou explorar dados dos utilizadores, a IA pode ser uma ferramenta transformadora para as empresas. O Lumo não guarda registos das conversas empresariais, protegendo os seus dados de terceiros e da vigilância governamental. Com um modelo de negócio sem publicidade e sem financiamento das grandes tecnológicas nem de capital de risco, o único incentivo do Lumo é prestar o melhor apoio possível às empresas. Enquanto empresa, a Proton é regida pela Proton Foundation, o que significa que agimos no interesse das pessoas e não da dominação industrial.
Com sede na Suíça, a Proton está também sujeita a rigorosas leis de privacidade de dados e ao GDPR. O seu código e o seu modelo são ambos de código aberto, pelo que qualquer empresa pode verificar as nossas afirmações. O Lumo foi concebido para fazer exatamente o que a IA deve fazer: prestar assistência sem exploração. Escolher uma alternativa europeia às ferramentas de IA das grandes tecnológicas é a melhor forma de uma empresa se proteger de laboratórios de IA sem regulação e pouco fiáveis.
