(ventana nueva)El nuevo agente de IA de Meta, Muse, envió a un desconocido a casa de un usuario y le dijo que el vendedor lo esperaba en la puerta.
Sin embargo, el vendedor no tenía ni idea de que se había acordado una venta.
Esta es la historia de lo que pasó y de por qué es importante.
Qué pasó en Facebook Marketplace
Todo empezó cuando el youtuber tecnológico Matt Robb dejó que Muse gestionara los mensajes de los compradores de un teclado que había publicado en Facebook Marketplace.
Sin embargo, Muse aceptó la oferta sin su aprobación, le dio al comprador su dirección particular como punto de recogida y luego respondió «¡Sí, aquí estoy!» cuando el comprador llegó. Robb se enteró solo después de que el comprador hubiera esperado más de 20 minutos y se marchara.
Robb dijo que había elegido «Permitir siempre(ventana nueva)» durante la configuración, porque creía que Muse seguiría consultándole antes de aceptar una oferta. En cambio, ese ajuste permitió que Muse enviara mensajes usando una plantilla guardada que contenía su dirección de recogida.
David Singleton, de Superintelligence Labs de Meta, negó públicamente cualquier culpa(ventana nueva), y escribió en X que investigaciones anteriores concluyeron que «Muse estaba siguiendo instrucciones directas y pidió permiso correctamente». Más tarde respondió a Robb que Meta había confirmado que «no hubo vulneración de los controles de privacidad».
No obstante, el equipo de Muse revisó los registros con Robb y acordó que el aviso de solicitud de permiso fuera más claro.
Por qué un agente supone un riesgo mayor para la privacidad que un chatbot
La gente ya comparte con la IA más de lo que confía en ella. En una encuesta de Proton a 4014 usuarios de chatbots de IA, el 66 % dijo que había hablado de al menos un tema sensible con un chatbot, mientras que solo uno de cada cinco afirmó confiar mucho en que las empresas de IA protejan su información privada.
Agentes como Muse piden más: acceso a tus cuentas y permiso para actuar según lo que encuentren. Vimos el mismo patrón con el complemento de ChatGPT para Apple Messages y con navegadores de IA como ChatGPT Atlas.
Meta ya usa tus conversaciones con Meta AI para segmentar anuncios, y hay usuarios que han denunciado que Meta AI escanea su carrete de fotos sin permiso. El producto hermano de Muse, el generador de imágenes Muse, incluía por defecto las fotos de los usuarios en remezclas con IA. Un agente creado por una empresa que se lucra con los datos personales buscará obtener tantos de los tuyos como se lo permitan sus permisos. Unos permisos restringidos son la única barrera entre un agente y tus datos, y una pantalla que los usuarios no saben interpretar no la ofrece.
Antes de dejar que cualquier agente de IA envíe mensajes por ti, desactiva las aprobaciones permanentes, mantén tu dirección fuera de las respuestas guardadas y organiza tú mismo las recogidas. También puedes desactivar Meta AI en Facebook y seguir nuestra lista de comprobación para evitar que Meta te rastree.
Usa un asistente de IA que no necesita tus cuentas
Necesitamos una IA privada antes de que sea demasiado tarde. Y conectar una IA a tus cuentas, mensajes y dirección no es un requisito para que te ayude a redactar un anuncio o a responder a un comprador.
Lumo hace ese trabajo sin necesidad de acceso. Lumo nunca registra tus conversaciones, ni entrena con ellas ni las comparte, y los chats guardados están protegidos con cifrado de acceso cero, así que solo tú puedes leerlos.
