Cuando los empleados usan herramientas de IA que usted no ha aprobado, crean cuentas que no puede ver, proteger ni cerrar, y cada una tiene un historial de chat repleto de datos de su empresa.
Una nueva investigación publicada por SOCRadar(nueva ventana) encontró que los inicios de sesión de IA de empleados de más de 80 000 organizaciones en todo el mundo aparecieron en registros de infostealer. Los infostealers son un tipo de malware que recopila contraseñas, cookies de sesión, datos financieros y personales, y registros de chat de dispositivos infectados, y los envía de vuelta al atacante. Esos datos hacen que los ataques de suplantación o ransomware sean mucho más efectivos.
Según la investigación, los registros fueron capturados por un conocido malware infostealer que está a la venta en Telegram desde 2022. Como el malware lleva años a la venta, es imposible saber cuántos delincuentes lo han usado y cómo infectaron los dispositivos de las personas: lo que sí sabemos es que han estado atacando dispositivos con acceso corporativo y secuestrando sus sesiones de Claude. Los usuarios empresariales notaron que su uso pago se había agotado de la noche a la mañana una vez que los ciberdelincuentes obtuvieron acceso.
La investigación de SOCRadar sostiene que las credenciales de sesión de IA son extremadamente valiosas para los atacantes. Un solo inicio de sesión de IA puede desbloquear «un archivo consultable, un motor de ejecución, un recurso facturable y una identidad, y la sesión robada entrega todos ellos sin solicitar la contraseña», como señala el informe. Para un delincuente, esto es una mina de oro.
La conclusión preocupante para las empresas que adoptan la IA hoy es que estas credenciales no se filtran por la seguridad de las propias plataformas de IA. Se filtran por dos factores menos evidentes: la enorme cantidad de empleados que usan herramientas de IA y la creciente proporción de ese uso que ocurre fuera del control de TI.
¿Qué revela la investigación?
En general, el informe señala que las credenciales de servicios de IA aparecen en registros de infostealers en cantidades significativas. Los puntos clave son:
- Se revelaron más de 1 000 000 de registros conectados a servicios de IA en 80 000 dominios corporativos únicos.
- De ese conjunto, se verificó una muestra representativa de 482 organizaciones identificadas como grandes empresas, en su mayoría de Norteamérica: el 68 % de ellas son organizaciones multimillonarias.
- Las empresas de tecnología son el grupo más grande, con 144 compañías y el 40 % de los registros.
- Esas 482 organizaciones representan 5 434 registros vinculados a 1 500 direcciones de correo electrónico corporativas.
- La exposición es reciente: en 295 de esas 482 organizaciones aparecieron registros de infostealers en los últimos 90 días.
- ChatGPT apareció en los registros de 358 de las 482 organizaciones y en cerca del 90 % de los registros, seguido de Zapier, Notion, Hugging Face, Replit, Lovable y ElevenLabs.
Esa última cifra plantea una pregunta obvia: ¿por qué ChatGPT? La explicación de SOCRadar tiene menos que ver con las herramientas que con la forma en que los empleados las usan.
La IA en la sombra genera riesgos
La IA en la sombra es cualquier herramienta de IA que los empleados usan sin la aprobación o el conocimiento de su empresa. Los empleados llevan la IA en la sombra a las redes de su empresa cuando sus cuentas corporativas son limitadas o las herramientas que tienen no son efectivas para la tarea que realizan.
Un investigador de SOCRadar comenta:
«Leemos el dominio casi total de ChatGPT como una señal de IA en la sombra, no como un veredicto sobre la seguridad de ningún proveedor. La ventaja de ChatGPT por ser el primero en el mercado significa que probablemente tiene un orden de magnitud más de usuarios corporativos, muchos de los cuales se registran con un correo electrónico de trabajo en un dispositivo personal, al margen de cualquier política. Esa es exactamente la población que los infostealers extraen. Claude y Gemini apenas aparecen porque muchos menos empleados han creado cuentas en ellos en silencio hasta ahora, no porque esas credenciales sean más seguras de robar. A medida que la adopción empresarial de otros asistentes se equipare, esperamos que este gráfico se equilibre.»
Entonces, la seguridad de ChatGPT no es la culpable de la prominencia de la herramienta en los registros de infostealers. ChatGPT encabeza la lista porque tiene la mayor cantidad de usuarios corporativos y porque muchos de ellos la usan al margen de las políticas de la empresa.
Los empleados también pueden intentar evadir políticas restrictivas de TI que les impiden tomar la opción más rápida o sencilla, pero también es posible que realmente no sepan qué políticas o restricciones existen. Su empresa no puede proteger cuentas que no sabe que existen, ni consultas realizadas fuera de una cuenta empresarial.
Independientemente de la intención, cuando los trabajadores combinan el uso personal y empresarial de la IA, infringen las políticas de uso de datos de su empresa y quedan sujetos a los términos para consumidores de OpenAI.
OpenAI afirma que no entrena con datos empresariales, pero cuando un empleado opera fuera de las directrices de uso aceptable para empresas o usa una cuenta personal con fines empresariales, pierde el control de esos datos: su archivo de chat (incluidos datos empresariales sensibles o información de identificación personal (PII)) se recopila, se registra y posiblemente se usa para entrenar los modelos de OpenAI.
OpenAI puede compartir datos empresariales con terceros o a través de integraciones de aplicaciones: en 2025, los piratas informáticos lograron vulnerar a un proveedor de OpenAI y robar datos de clientes empresariales, incluidos nombres, correos electrónicos, ubicaciones y detalles del sistema. Como empresa estadounidense, también puede verse obligada a compartir datos con el gobierno de EE. UU. en virtud de la Ley Patriota o la FISA, incluso sin notificárselo.
Cómo proteger su empresa de la IA en la sombra
La IA en la sombra ocurre cuando los empleados no tienen una herramienta que se les permita usar, o una lo suficientemente buena. Así que la primera solución es darles una.
Lumo, creado por Proton, ofrece a su equipo una alternativa autorizada a las cuentas personales y mantiene privados los datos de la empresa. No guarda registros ni entrena con conversaciones empresariales o personales. Todo el historial de chat guardado está protegido con encriptación de acceso cero, por lo que nadie (ni siquiera Proton) puede leerlo.
La encriptación protege los datos almacenados, pero no sirve de nada si un atacante ya está en el dispositivo del empleado. Para cerrar esa brecha, siga estos pasos:
- Encuentre las cuentas que no conoce. Compruebe si los dominios de su empresa ya aparecen en registros de stealer y pregunte a los equipos qué herramientas de IA usan realmente.
- Trate una aparición en registros de stealer como un incidente en el punto final. Si las credenciales de un empleado aparecen en un registro, el dispositivo está infectado. Restablecer solo la contraseña deja activa la sesión robada del atacante, así que revoque las sesiones activas y limpie o reemplace el equipo.
- Coloque cada herramienta de IA autorizada detrás de SSO con sesiones de corta duración. Una cookie robada que expira en horas vale mucho menos que una que dura semanas.
- Proteja las claves de API. Limítelas a lo que necesitan, rótelas con regularidad y nunca las guarde en aplicaciones de notas o documentos compartidos.
- Mantenga el trabajo fuera de los dispositivos no administrados. Si el personal necesita IA en dispositivos personales, exíjale iniciar sesión con cuentas de la empresa que usted pueda monitorear y revocar.
- Configure el Monitoreo de la Dark Web. Le avisa cuando las credenciales de los empleados aparecen en filtraciones, para que pueda actuar antes que un atacante.
Sus empleados usarán IA de todas formas. Ofrézcales una alternativa a ChatGPT que no guarda registros, nunca entrena con sus datos y protege cada chat guardado con una encriptación que ni siquiera Proton puede abrir.
