Con cada prompt, los laboratorios de IA absorben cada día más datos de tu negocio. ¿Tu única protección? Una promesa redactada de forma ambigua de no entrenar con ellos.
Un reciente análisis de Lawfare(ventana nueva) sostiene que, cuando las empresas entregan sus datos a unos pocos laboratorios de IA poderosos, les están enseñando cómo volverlas prescindibles. Los autores llaman a esto «sustitución mediante la adquisición de conocimiento» (RKA).
Aunque no hay forma de saber qué hacen hoy los laboratorios de IA con los datos de tu negocio, hay tres fuerzas convergentes en juego: un poder en gran medida sin control para fijar las condiciones, un sistema jurídico que todavía se pregunta qué significa «entrenamiento» y la capacidad y el incentivo para competir con sus propios clientes.
Puede que tu negocio esté alimentando a la bestia que podría acabar devorándolo por completo.
¿Los laboratorios de IA entrenan con datos empresariales?
Los mayores laboratorios de IA se han esforzado por asegurar a los usuarios empresariales que sus datos son privados por defecto:
- OpenAI afirma que no entrena con las entradas o salidas de ChatGPT para usuarios empresariales.
- Anthropic afirma que los datos empresariales quedan excluidos por defecto del entrenamiento del modelo de Claude.
- Microsoft afirma que los prompts, las respuestas y los datos no se utilizan para entrenar Copilot.
- Google afirma que Gemini no entrena su modelo con datos empresariales sin permiso o instrucción previos.
- X afirma que las interacciones en los planes de empresa de Grok no mejoran su modelo, pero al parecer utilizará datos de sus propios empleados de SpaceX con fines de entrenamiento.
En la práctica, sus promesas de proteger la privacidad de sus usuarios son intencionadamente vagas y más frágiles de lo que parecen:
- Los términos clave están definidos de forma vaga. Lawfare señala que el acuerdo empresarial de OpenAI define el contenido del cliente como la entrada y la salida, y luego define estas con las palabras «entrada» y «salida». Las condiciones de Anthropic descartan entrenar modelos con el contenido de los clientes sin definir qué significa entrenar.
- Algunos datos pueden quedar fuera de la promesa. Los patrones, los metadatos y los resúmenes que genera una IA pero que nunca te muestra puede que no cuenten como entradas o salidas en absoluto.
- El «entrenamiento» es más limitado de lo que parece. Usar tus datos para crear pruebas de referencia, ajustar prompts del sistema o entrenar herramientas de seguridad independientes puede que no cuente.
- Las condiciones pueden cambiar. Los proveedores suelen reservarse el derecho de modificarlas, y cada nuevo lanzamiento de un modelo es una oportunidad para restablecerlas.
- No puedes comprobarlo. Solo el laboratorio sabe qué entra en su entrenamiento. Una vulneración sería casi imposible de detectar para ti.El fundador y consejero delegado de Proton, Andy Yen, ha advertido de que, una vez compartes información con una IA, en realidad no puedes recuperarla. Dentro de poco, sostiene, la IA «podría conocerte mejor que tú mismo».(ventana nueva) Para una empresa, lo que está en juego es mayor.
Lo que tu negocio puede perder
Lo que una IA aprende sobre tu negocio es lo que la hace competitiva. Las grandes tecnológicas lo saben.
En un caso que se desarrolló entre 2019 y 2022, la Comisión Europea investigó a Amazon por usar datos no públicos de vendedores de terceras partes para orientar su propio negocio minorista, es decir, por usar los datos de los propios vendedores para competir contra ellos. Amazon se comprometió a dejarlo y la prohibición se incorporó después a la Ley de Mercados Digitales.
En algunos sectores no solo está en juego una ventaja competitiva. El cumplimiento normativo también corre riesgo. Las empresas de medicina y finanzas tienen el deber legal de proteger la información sensible conforme a normas como HIPAA y el GDPR. Esas normas son claras en cuanto a proteger los datos personales, pero la industria de la IA es tan nueva que cada vez crece más una zona gris.
Y, ahora que la IA está integrada en las herramientas que toman notas en las reuniones, en el correo electrónico y en los flujos de trabajo diarios, afecta a una parte mucho mayor de tu negocio que cuando vivía en una ventana de chat.
Lo que los laboratorios de IA pueden ganar
Los laboratorios de IA tienen un incentivo económico y competitivo para absorber la mayor cantidad de datos posible.
El mercado de la IA seguirá creciendo de forma espectacular, y Gartner calcula que la IA tocará todo el trabajo de TI en 2030. También pronosticó que el gasto en IA alcanzará los 2,5 billones de dólares en 2026, un 44 % más que el año anterior. Dado el reto que supone seguir desarrollando modelos de IA más inteligentes sin materiales de entrenamiento significativos, es probable que las empresas de IA empiecen a buscar formas de sacar provecho de sus clientes empresariales.
La demanda desbordante está obligando a los laboratorios de IA a ser cada vez más creativos a la hora de desarrollar sus modelos. Y los datos empresariales son claramente valiosos para estos laboratorios: Google ganó en agosto una puja de 10 millones de dólares para comprar datos de la aerolínea en quiebra Spirit Airlines. Según la Asociación de Auxiliares de Vuelo, este paquete de datos incluye datos sensibles de empleados. Esos datos podrían absorberse y usarse para entrenar los modelos de IA de Google sin el consentimiento de esos empleados.
OpenAI afirma que no entrena con las entradas o salidas de sus productos para usuarios empresariales. Pero, dado el enorme valor que tienen estos datos para las empresas, ahora hay que considerar la situación jurídica de la industria de la IA en lo que respecta al tratamiento de datos.
No podemos confiar en una normativa que puede que nunca llegue
¿Puede la normativa proteger los datos de tu negocio de los mayores laboratorios de IA? Para entenderlo, hay que examinar las realidades económicas y políticas del sector.
Estados Unidos domina la IA. Según el informe Artificial Index Report de Stanford, 59 modelos destacados operan desde Estados Unidos, la cifra más alta de cualquier país del mundo. Conviene señalar este dominio: en marzo, la Casa Blanca publicó un marco de política nacional para regular la IA. En él se pide sustituir las leyes estatales por un marco federal de política de IA para «proteger los derechos y la innovación de los estadounidenses, y evitar un mosaico fragmentado de normativas estatales que obstaculizaría la competitividad nacional [de Estados Unidos]». El marco señala que no se debe permitir que las leyes estatales que regulan la IA «actúen en contra de la estrategia nacional de Estados Unidos para lograr el dominio global de la IA».
¿Es más probable que el Gobierno de Estados Unidos dé prioridad a los derechos de privacidad de los datos de empresas individuales, que además pueden estar fuera del país? ¿O a los derechos de expansión de su imperio nacional de IA? Las empresas europeas sencillamente no pueden garantizar que las herramientas de IA estadounidenses antepongan su soberanía de datos. Con los mayores laboratorios de IA operando en Estados Unidos, se vislumbra un punto de inflexión en el horizonte.
Una mejor opción para la IA empresarial
En lugar de esperar a que llegue una normativa o intentar seguir el ritmo de las políticas de privacidad, las empresas tienen una opción más sencilla y eficaz: elegir una herramienta de IA diseñada para la privacidad. Hay espacio para innovar sin explotar a nadie. La herramienta de IA que elijas debe seguir siendo eso, una herramienta de IA que te ayude, no una competidora a la que entrenas para que ocupe tu lugar. Debe aspirar a cumplir su función y mejorar con el tiempo, sin robar secretos comerciales.
Proton creó Lumo para responder a esta necesidad. Sin ningún incentivo para recopilar o explotar datos de usuarios, la IA puede ser una herramienta transformadora para las empresas. Lumo no guarda registros de los chats de empresa, lo que protege tus datos de terceras partes y de la vigilancia gubernamental. Con un modelo de negocio sin anuncios y sin financiación de las grandes tecnológicas ni de capital riesgo, el único incentivo de Lumo es ofrecer el mejor soporte empresarial posible. Proton, como empresa, se rige por la Proton Foundation, lo que significa que actuamos en interés de las personas, no de la dominación industrial.
Con sede en Suiza, Proton también está sujeto a estrictas leyes de privacidad de datos y al GDPR. Tanto su código como su modelo son de código abierto, así que cualquier empresa puede verificar nuestras afirmaciones. Lumo está diseñado para hacer exactamente lo que debería hacer la IA: ofrecer ayuda sin explotación. Elegir una alternativa europea a las herramientas de IA de las grandes tecnológicas es la mejor forma que tiene una empresa de protegerse frente a laboratorios de IA sin regular y poco fiables.
