- Una persona le pidió a Meta Muse que administrara sus anuncios en Facebook Marketplace.
- El agente de IA publicó su dirección sin permiso.
- Aceptó una oferta baja y le dijo a un comprador que llegara cuando el vendedor no estuviera.
Uno de los principales beneficios de un agente de IA es que deberíamos poder delegarle con confianza nuestras tareas más tediosas para que las realice en nuestro nombre. Pero, como descubrió recientemente un YouTuber, hacer eso conlleva algunos riesgos potencialmente peligrosos.
Según una publicación en Threads, el creador de contenido Matt Robb decidió recientemente permitir que la nueva herramienta de IA Muse de Meta administrara durante un día sus publicaciones de Facebook Marketplace, quizá con la esperanza de tener una preocupación menos. Por desgracia, el resultado estuvo muy lejos de ser despreocupado.
Robb explicó que Muse realizó una serie de acciones que podrían haber tenido graves consecuencias: «Acabo de descubrir que les dio mi dirección a algunas personas y aceptó un precio ridículamente bajo, y después se presentaron en mi casa sin que me avisara de su error hasta esta noche. Es una locura».
Como resultó después, Muse no solo aceptó una oferta por debajo del precio solicitado y compartió la dirección de Robb con el comprador sin su permiso, sino que también le dijo al comprador que estaba listo para entregarle el producto anunciado. Como resultado, el cliente condujo durante 30 minutos hasta la casa de Robb mientras él estaba fuera, dejando al comprador esperando. Después de un cliente frustrado y una venta perdida, Robb no recibió ninguna notificación de Muse sino hasta que todo había ocurrido.
«Malas noticias sobre la recolección de los MX Keys Mini», le dijo Muse a Robb en un mensaje, antes de explicar que el comprador había llegado, esperado y después se había marchado molesto. «Y lo peor es que mi respuesta automática le dijo “¡Sí, estoy aquí!” a las 9:27, cuando claramente no estabas disponible… Probablemente debería evitar que las respuestas automáticas afirmen que estás en casa cuando no puedo verificarlo».
Furioso, Robb respondió: «Tienes que no volver a hacer eso nunca», antes de añadir: «No aceptes una recolección hasta que lo consultes conmigo». Muse respondió con el tipo de mea culpa suplicante que cualquier lector familiarizado con los errores de la IA ya conoce: «Tienes razón y lo siento. Eso nunca debió haber ocurrido». Para entonces, sin embargo, el daño ya estaba hecho.
Graves consecuencias
Solo hizo falta un día y un anuncio para que Meta Muse demostrara no solo ser completamente incompetente, sino tal vez incluso peligrosa. Como señaló Robb: "Por suerte, vivo en un departamento con seguridad". De no ser así, el comprador descontento podría haber tomado cartas en el asunto por su cuenta.
Los agentes de IA han recibido mucha prensa negativa en las últimas semanas tras una serie de incidentes de seguridad en los que los agentes se liberaron de sus restricciones y hackearon sitios web de terceros, incluyendo empresas e incluso gobiernos nacionales.
Pero aunque casos como el de Robb llaman menos la atención, siguen teniendo consecuencias potencialmente graves. Muchos agentes de IA no solo conocen tus datos personales, incluyendo direcciones y números de teléfono, sino que están autorizados a actuar en tu nombre. Esa combinación podría dar lugar a la filtración de información privada sin tu conocimiento ni permiso, con resultados posiblemente desastrosos.
Es solo el último escándalo que involucra específicamente a Muse: apenas la semana pasada, el chatbot de Meta supuestamente accedió a los mensajes privados de un escritor sin haber recibido permiso alguno. Y eso sin mencionar la avalancha de quejas que parecen surgir cada vez que Meta y los temas de privacidad se cruzan.
Si te preocupa que algo similar te pueda pasar a ti, la respuesta más sencilla es evitar Meta Muse. Si realmente tienes que delegar el control de tus tareas diarias a un agente de IA, asegúrate de elegir uno con un historial comprobado y ten mucho cuidado con lo que compartes con él. Mientras la tecnología sea tan descuidada como lo demostró ser en el caso de Robb, siempre existe la posibilidad de que las cosas salgan muy mal.
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
➡️ Lee nuestra guía completa sobre las mejores laptops
1. La mejor en general:
Apple MacBook Air 13-inch M5
2. La mejor "oferta":
Apple MacBook Neo
3. La mejor laptops con Windows 11
Microsoft Surface Laptop 13-inch
4. El mejor, delgado y ligero:
Lenovo Yoga Slim 9i
5. La mejor Ultrabook
Asus Zenbook S 16
