Con cada instrucción, los laboratorios de IA consumen más datos de su empresa cada día. ¿Su única protección? Una promesa ambigua de no entrenar con ellos.
Un reciente análisis de Lawfare(nueva ventana) sostiene que, cuando las empresas entregan sus datos a unos pocos laboratorios de IA muy poderosos, les están enseñando cómo volverlas prescindibles. Los autores llaman a esto reemplazo mediante adquisición de conocimiento (RKA).
Si bien no hay forma de saber qué hacen hoy los laboratorios de IA con los datos de su empresa, hay tres fuerzas convergentes en juego: un poder prácticamente ilimitado para fijar los términos, un sistema legal que todavía lidia con lo que significa «entrenar» y la capacidad y el incentivo de competir con sus propios clientes.
Su empresa podría estar alimentando a la bestia que, a la larga, podría devorarla por completo.
¿Los laboratorios de IA entrenan con datos empresariales?
Los laboratorios de IA más grandes han hecho un esfuerzo concertado por asegurar a los usuarios empresariales que sus datos son privados por defecto:
- OpenAI afirma que no entrena con las entradas ni las salidas de ChatGPT de los usuarios empresariales.
- Anthropic afirma que, por defecto, los datos empresariales quedan excluidos del entrenamiento del modelo de Claude.
- Microsoft afirma que las instrucciones, las respuestas y los datos no se usan para entrenar a Copilot.
- Google afirma que Gemini no entrena su modelo con datos empresariales sin permiso o instrucción previos.
- X afirma que las interacciones en los planes empresariales de Grok no mejoran su modelo, pero al parecer usará los datos de sus propios empleados de SpaceX con fines de entrenamiento.
En la práctica, sus promesas de proteger la privacidad de sus usuarios son intencionalmente vagas y más endebles de lo que parecen:
- Los términos clave están definidos de manera ambigua. Lawfare señala que el acuerdo empresarial de OpenAI define el contenido del cliente como la entrada y la salida, y luego define esos conceptos con las palabras «entrada» y «salida». Los términos de Anthropic descartan entrenar modelos con contenido de clientes sin definir qué significa entrenar.
- Algunos datos pueden quedar fuera de la promesa. Los patrones, los metadatos y los resúmenes que una IA genera pero nunca le muestra podrían no contar como entradas o salidas en absoluto.
- El «entrenamiento» es más limitado de lo que parece. Usar sus datos para crear parámetros de referencia de prueba, ajustar las instrucciones del sistema o entrenar herramientas de seguridad independientes podría no contar.
- Los términos pueden cambiar. Por lo general, los proveedores se reservan el derecho de modificarlos, y cada nuevo lanzamiento de un modelo es una oportunidad para restablecerlos.
- Usted no puede verificarlo. Solo el laboratorio sabe qué entra en su entrenamiento. Una vulneración sería casi imposible de detectar para usted. El fundador y CEO de Proton, Andy Yen, ha advertido que, una vez que comparte información con una IA, en realidad no puede recuperarla. En poco tiempo, sostiene, la IA «podría conocerlo mejor que usted mismo».(nueva ventana) Para una empresa, lo que está en juego es mayor.
Lo que su empresa puede llegar a perder
Lo que una IA aprende sobre su empresa es lo que la hace competitiva. Las grandes tecnológicas lo saben.
En un caso que abarcó de 2019 a 2022, la Comisión Europea investigó a Amazon por usar datos no públicos de vendedores terceros para orientar su propio negocio minorista; en efecto, usaba los datos de los propios vendedores para competir contra ellos. Amazon se comprometió a detenerlo y la prohibición se incorporó después a la Ley de Mercados Digitales.
En algunas industrias, lo que está en juego no es solo una ventaja competitiva. El cumplimiento normativo también está en riesgo. Las empresas de medicina y finanzas tienen el deber legal de proteger información sensible conforme a normas como HIPAA y el GDPR. Esas normas son claras en cuanto a proteger los datos personales, pero la industria de la IA es tan nueva que la zona gris no deja de crecer.
Y ahora que la IA está integrada en las herramientas que toman notas en reuniones, el correo electrónico y los flujos de trabajo cotidianos, toca mucho más de su empresa que cuando vivía en una ventana de chat.
Lo que los laboratorios de IA pueden llegar a ganar
Los laboratorios de IA tienen un incentivo financiero y competitivo para consumir la mayor cantidad de datos posible.
Se prevé que el mercado de la IA siga creciendo de forma vertiginosa, y Gartner especula que la IA tocará todo el trabajo de TI para 2030. También pronosticó que el gasto en IA alcanzaría los $2,5 billones en 2026, un aumento del 44 % respecto al año anterior. Dado el desafío de seguir desarrollando modelos de IA más inteligentes sin materiales de entrenamiento significativos, es más probable que las empresas de IA empiecen a buscar formas de sacar provecho de sus clientes empresariales.
La demanda en auge está obligando a los laboratorios de IA a ser cada vez más creativos en las formas de desarrollar sus modelos. Y los datos empresariales son claramente valiosos para estos laboratorios: Google ganó en agosto una puja de $10 millones para comprar datos de la aerolínea en quiebra Spirit Airlines. Según la Asociación de Auxiliares de Vuelo, este paquete de datos incluye datos sensibles de empleados. Esos datos podrían ingerirse y usarse para entrenar los modelos de IA de Google sin el consentimiento de esos empleados.
OpenAI afirma que no entrena con las entradas ni las salidas de sus productos para usuarios empresariales. Pero, dado el enorme valor que estos datos tienen para las empresas, ahora debemos considerar la situación legal de la industria de la IA en lo que respecta al procesamiento de datos.
No podemos depender de una regulación que quizá nunca llegue
¿Puede la regulación proteger los datos de su empresa de los laboratorios de IA más grandes? Para entenderlo, debemos examinar las realidades financieras y políticas de la industria.
Estados Unidos domina la IA. Según el Informe del Índice de IA de Stanford, 59 modelos destacados operan desde Estados Unidos, la cifra más alta de cualquier país del mundo. Vale la pena señalar este dominio: en marzo, la Casa Blanca publicó un marco de política nacional para regular la IA. En él se pide sustituir las leyes estatales por un marco federal de política de IA para «proteger los derechos y la innovación de los estadounidenses y evitar un mosaico fragmentado de regulaciones estatales que obstaculizaría la competitividad nacional [de Estados Unidos]». El marco señala que no se debe permitir que las leyes estatales que regulan la IA «actúen en contra de la estrategia nacional de Estados Unidos para lograr el dominio global de la IA».
¿Es más probable que el gobierno de Estados Unidos priorice los derechos de privacidad de datos de empresas individuales, que además podrían estar ubicadas fuera de Estados Unidos? ¿O los derechos de expansión de su imperio nacional de IA? Las empresas europeas simplemente no pueden garantizar que las herramientas de IA estadounidenses pongan primero su soberanía de datos. Con los laboratorios de IA más grandes operando en Estados Unidos, se vislumbra un punto de inflexión.
Una mejor opción para la IA empresarial
En lugar de esperar una regulación o intentar seguir el ritmo de las políticas de privacidad, las empresas tienen una opción más sencilla y eficaz: elegir una herramienta de IA diseñada para la privacidad. Hay espacio para la innovación sin explotación. La herramienta de IA que elija debe seguir siendo eso: una herramienta de IA que la asista, no un competidor al que usted entrena para que ocupe su lugar. Debe procurar cumplir su función y evolucionar con el tiempo, sin robar secretos comerciales.
Proton creó Lumo para satisfacer esta necesidad. Sin incentivos para recopilar o explotar los datos de los usuarios, la IA puede ser una herramienta transformadora para las empresas. Lumo no guarda registros de los chats empresariales, lo que protege sus datos de terceros y de la vigilancia gubernamental. Con un modelo de negocio sin publicidad y sin financiamiento de grandes tecnológicas ni capital de riesgo, el único incentivo de Lumo es ofrecer el mejor soporte empresarial posible. Proton, como empresa, se rige por la Proton Foundation, lo que significa que actuamos en interés de las personas, no de la dominación industrial.
Con sede en Suiza, Proton también está regulada por estrictas leyes de privacidad de datos y el GDPR. Su código y su modelo son de código abierto, por lo que cualquier empresa puede verificar nuestras afirmaciones. Lumo está diseñada para hacer exactamente lo que debería hacer la IA: brindar asistencia sin explotación. Elegir una alternativa europea a las herramientas de IA de las grandes tecnológicas es la mejor manera que tiene una empresa de protegerse de laboratorios de IA sin regulación y poco confiables.
