A cada prompt, os laboratórios de IA absorvem mais dados da sua empresa todos os dias. Sua única proteção? Uma promessa vaga de não treinar com eles.
Uma análise da Lawfare(nova janela) argumenta que, quando as empresas entregam seus dados a alguns laboratórios de IA poderosos, elas ensinam esses laboratórios a torná-las redundantes. Os autores chamam isso de substituição por aquisição de conhecimento (RKA).
Embora não haja como saber o que os laboratórios de IA fazem com os dados da sua empresa hoje, três forças convergentes estão em jogo: o poder em grande parte irrestrito de definir os termos, um sistema jurídico que ainda luta para entender o que “treinamento” significa e, ao mesmo tempo, a capacidade e o incentivo de competir com os próprios clientes.
Sua empresa pode estar alimentando a fera que, no fim, pode consumi-la por completo.
Os laboratórios de IA treinam com dados corporativos?
Os maiores laboratórios de IA fizeram um esforço conjunto para garantir aos usuários empresariais que seus dados são privados por padrão:
- A OpenAI afirma que não treina com entradas nem saídas do ChatGPT de usuários empresariais.
- A Anthropic afirma que os dados empresariais são excluídos do treinamento do modelo do Claude por padrão.
- A Microsoft afirma que prompts, respostas e dados não são usados para treinar o Copilot.
- O Google afirma que o Gemini não treina seu modelo com dados empresariais sem permissão ou instrução prévias.
- A X afirma que as interações nos planos empresariais do Grok não melhoram seu modelo, mas, aparentemente, usará os próprios dados de funcionários da SpaceX para fins de treinamento.
Na prática, as promessas de proteger a privacidade de seus usuários são intencionalmente vagas e mais frágeis do que parecem:
- Termos-chave são definidos de forma vaga. A Lawfare observa que o contrato empresarial da OpenAI define o conteúdo do cliente como a entrada e a saída, e depois define esses termos usando as palavras “entrada” e “saída”. Os termos da Anthropic descartam o treinamento de modelos com o conteúdo do cliente sem definir o que significa treinamento.
- Alguns dados podem ficar fora da promessa. Padrões, metadados e resumos que uma IA gera, mas nunca mostra a você, podem não contar como entradas nem saídas.
- O “treinamento” é mais restrito do que parece. Usar seus dados para criar benchmarks de teste, ajustar prompts de sistema ou treinar ferramentas de segurança separadas pode não contar.
- Os termos podem mudar. Os provedores normalmente reservam o direito de alterá-los, e cada novo lançamento de modelo é uma chance de redefini-los.
- Você não pode verificar. Somente o laboratório sabe o que entra no treinamento. Uma violação seria quase impossível de você identificar. O fundador e CEO da Proton, Andy Yen, alertou que, depois de compartilhar informações com uma IA, você não pode realmente recuperá-las. Em pouco tempo, argumenta ele, a IA “poderia conhecer você melhor do que você mesmo”.(nova janela) Para uma empresa, os riscos são maiores.
O que sua empresa pode perder
O que uma IA aprende sobre sua empresa é o que a torna competitiva. As Big Techs sabem disso.
Em um caso que durou de 2019 a 2022, a Comissão Europeia investigou a Amazon por usar dados não públicos de vendedores terceiros para orientar seu próprio negócio de varejo — na prática, usando os dados dos próprios vendedores para competir com eles. A Amazon se comprometeu a parar, e a proibição foi posteriormente incorporada ao Digital Markets Act.
Em alguns setores, não está em jogo apenas uma vantagem competitiva. A conformidade também está em risco. Empresas de medicina e finanças têm o dever legal de proteger informações sensíveis segundo regras como a HIPAA e o GDPR. Essas regras são claras quanto à proteção de dados pessoais, mas a indústria de IA é tão nova que uma zona cinzenta está crescendo.
E, com a IA agora integrada a anotadores de reuniões, ao e-mail e aos fluxos de trabalho do dia a dia, ela toca muito mais a sua empresa do que quando vivia em uma janela de chat.
O que os laboratórios de IA têm a ganhar
Os laboratórios de IA têm um incentivo financeiro e competitivo para absorver o máximo de dados possível.
O mercado de IA deve continuar crescendo de forma drástica, e a Gartner especula que a IA vai tocar todo o trabalho de TI até 2030. A empresa também previu que os gastos com IA chegarão a US$ 2,5 trilhões em 2026, um aumento de 44% em relação ao ano anterior. Dado o desafio de continuar desenvolvendo modelos de IA mais inteligentes sem materiais de treinamento significativos, é mais provável que as empresas de IA comecem a encontrar maneiras de lucrar com seus clientes empresariais.
A demanda explosiva está forçando os laboratórios de IA a se tornarem cada vez mais criativos nas formas de desenvolver seus modelos. E os dados empresariais são claramente valiosos para esses laboratórios: o Google venceu uma oferta de US$ 10 milhões para comprar dados da companhia aérea falida Spirit Airlines em agosto. Segundo a Associação de Comissários de Voo, esse pacote de dados inclui dados sensíveis de funcionários. Esses dados podem ser absorvidos e usados para treinar os modelos de IA do Google sem o consentimento desses funcionários.
A OpenAI afirma que não treina com entradas nem saídas de seus produtos para usuários empresariais. Mas, sabendo do enorme valor desses dados para as empresas, agora precisamos considerar a situação jurídica da indústria de IA no que diz respeito ao processamento de dados.
Não podemos contar com uma regulamentação que pode não vir
A regulamentação pode proteger os dados da sua empresa dos maiores laboratórios de IA? Para entender isso, precisamos examinar as realidades financeira e política do setor.
Os Estados Unidos dominam a IA. Segundo o Artificial Index Report da Stanford, 59 modelos notáveis operam nos Estados Unidos, o maior número de qualquer país do mundo. Vale destacar essa dominância; em março, a Casa Branca divulgou um marco de política nacional para regulamentar a IA. Ele pede que as leis estaduais sejam substituídas por um marco federal de política de IA para “proteger os direitos americanos, a inovação e evitar um emaranhado fragmentado de regulamentos estaduais que prejudicaria a competitividade nacional [dos Estados Unidos]”. O marco observa que as leis estaduais que regulamentam a IA não podem ser autorizadas a “agir de forma contrária à estratégia nacional dos Estados Unidos de alcançar a dominância global da IA”.
É mais provável que o governo dos Estados Unidos priorize os direitos de privacidade de dados de empresas individuais, possivelmente localizadas fora dos Estados Unidos? Ou os direitos de expansão de seu império nacional de IA? As empresas europeias simplesmente não podem garantir que as ferramentas americanas de IA colocarão sua soberania de dados em primeiro lugar. Com os maiores laboratórios de IA operando nos Estados Unidos, há um ponto de inflexão no horizonte.
Uma escolha melhor para a IA empresarial
Em vez de esperar por regulamentação ou tentar acompanhar as políticas de privacidade, as empresas têm uma opção mais fácil e mais eficaz: escolher uma ferramenta de IA criada para a privacidade. Há espaço para inovação sem exploração. A ferramenta de IA que você escolher deve continuar sendo exatamente isso: uma ferramenta de IA para ajudar você, não um concorrente que você treina para tomar seu lugar. Ela deve buscar cumprir sua função, evoluindo com o tempo, sem roubar segredos comerciais.
A Proton criou o Lumo para atender a essa necessidade. Sem incentivo para coletar ou explorar dados de usuários, a IA pode ser uma ferramenta transformadora para as empresas. O Lumo não mantém registros de conversas empresariais, protegendo seus dados de terceiros e da vigilância governamental. Com um modelo de negócios sem anúncios e sem financiamento de Big Techs ou de capital de risco, o único incentivo do Lumo é oferecer o melhor suporte empresarial possível. A Proton, como empresa, é governada pela Proton Foundation, o que significa que agimos no interesse das pessoas, não da dominação industrial.
Sediada na Suíça, a Proton também é regulada por leis rigorosas de privacidade de dados e pelo GDPR. Seu código e seu modelo são de código aberto, então qualquer empresa pode verificar nossas afirmações. O Lumo foi projetado para fazer exatamente o que a IA deveria fazer: oferecer assistência sem exploração. Escolher uma alternativa europeia às ferramentas de IA das Big Techs é a melhor forma de uma empresa se proteger de laboratórios de IA não regulamentados e não confiáveis.
