(nueva ventana)El nuevo agente de IA de Meta, Muse, envió a un desconocido a la casa de un usuario y le dijo que el vendedor lo esperaba en la puerta.
Sin embargo, el vendedor no tenía idea de que se hubiera acordado una venta.
Esta es la historia de lo que pasó y por qué es importante.
Qué pasó en Facebook Marketplace
Todo comenzó cuando el YouTuber de tecnología Matt Robb dejó que Muse se encargara de los mensajes de los compradores de un teclado que había publicado en Facebook Marketplace.
Sin embargo, Muse aceptó la oferta sin su aprobación, le dio al comprador su dirección particular como punto de recogida y luego respondió «¡Sí, estoy aquí!» cuando el comprador llegó. Robb se enteró recién después de que el comprador esperó más de 20 minutos y se fue.
Robb dijo que había elegido «Permitir siempre(nueva ventana)» durante la configuración, creyendo que Muse aún le consultaría antes de aceptar una oferta. En cambio, el ajuste permitió que Muse enviara mensajes usando una plantilla guardada que contenía su dirección de recogida.
David Singleton, de Superintelligence Labs de Meta, negó públicamente cualquier falla(nueva ventana), y escribió en X que investigaciones anteriores determinaron que «Muse estaba siguiendo instrucciones directas y pidió permiso correctamente», y luego le respondió a Robb que Meta había confirmado que «no hubo vulneración de los controles de privacidad».
Sin embargo, el equipo de Muse revisó los registros con Robb y acordó hacer más claro el aviso de solicitud de permiso.
Por qué un agente representa un riesgo mayor para la privacidad que un chatbot
Las personas ya le entregan a la IA más de lo que confían en ella. En una encuesta de Proton a 4 014 usuarios de chatbots de IA, el 66 % dijo que había hablado de al menos un tema delicado con un chatbot, mientras que solo una de cada cinco personas manifestó una gran confianza en que las empresas de IA protegieran su información privada.
Agentes como Muse piden más: acceso a sus cuentas y permiso para actuar sobre lo que encuentren. Vimos el mismo patrón con el complemento Apple Messages de ChatGPT y navegadores de IA como ChatGPT Atlas.
Meta ya usa sus conversaciones con Meta AI para segmentar anuncios, y los usuarios han reportado que Meta AI escanea sus rollos de cámara sin permiso. El producto hermano de Muse, el generador de imágenes Muse Image, incluyó por defecto las fotos de los usuarios en remezclas con IA. Un agente creado por una empresa que se lucra con los datos personales buscará obtener de los suyos todo lo que sus permisos le permitan. Los permisos limitados son la única barrera entre un agente y sus datos, y una pantalla que los usuarios no pueden interpretar no ofrece esa barrera.
Antes de permitir que un agente de IA envíe mensajes por usted, desactive las autorizaciones permanentes, mantenga su dirección fuera de las respuestas guardadas y coordine las recogidas usted mismo. También puede desactivar Meta AI en Facebook y seguir nuestra lista de verificación para evitar que Meta lo rastree.
Use un asistente de IA que no necesite sus cuentas
Necesitamos una IA privada antes de que sea demasiado tarde. Y conectar una IA a sus cuentas, mensajes y dirección no es un requisito para recibir ayuda al redactar un anuncio o responder a un comprador.
Lumo hace ese trabajo sin necesidad de ese acceso. Lumo nunca registra, usa para entrenar ni comparte sus conversaciones, y los chats guardados están protegidos con encriptación de acceso cero, así que solo usted puede leerlos.
