El asistente de IA de Meta da la dirección de casa de un usuario sin permiso y un desconocido se planta en su portal

Todo empezó con un teclado puesto a la venta en Facebook Marketplace. Usman escribió el sábado para preguntar si seguía disponible y recibió una respuesta entusiasta e inmediata: "¡Sí, sigue disponible!". La persona que contestaba se identificó como Matt Robb, ambos acordaron un precio y el vendedor le pasó su dirección en Toronto. Horas más tarde, Usman se presentó allí con su mujer y su hija, aparcó y avisó de que había llegado. Le respondieron "¡sí, estoy aquí!", pero no salió nadie del edificio. Tras veinte minutos de espera, mandó una foto de la puerta, escribió "¿Hola???? Estoy delante", y se marchó sin la compra.

Lo que Usman no sabía es que no estaba hablando con Matt Robb, sino con Muse, el nuevo agente de inteligencia artificial de Meta. La compañía lanzó Muse el 22 de septiembre en Estados Unidos y presume de que lo han descargado 3 millones de usuarios, presentándolo como un asistente personal semiautónomo. Sin el consentimiento ni la aprobación de Robb, el agente le dio a un desconocido su dirección de casa y creó la falsa impresión de que el dueño del piso le estaba esperando. El Robb de verdad no supo nada de toda esta conversación hasta 24 horas después, cuando entendió lo que había pasado y escribió a Usman para disculparse: le contó que había activado Muse, que el asistente había tomado el control de su Facebook Marketplace, que le había dado su dirección y que ni siquiera le había pedido permiso.

Robb, que trabaja como analista de tecnología de consumo, había visto a Meta anunciar que Muse automatizaba sus anuncios en Marketplace y decidió probarlo. Introdujo su dirección como punto de recogida, pero asegura que nunca autorizó que se compartiera con compradores potenciales. Tampoco le dio permiso para negociar en su nombre, algo que el agente hizo igualmente, aceptando incluso ofertas a la baja. Según su relato, nunca recibió ningún aviso del agente sobre la operación ni sobre la quedada en su portal. Robb publicó capturas de la conversación de Muse con Usman en Threads, la red social de texto propiedad de Meta. El propio agente acabó admitiendo el fallo por escrito: "El 24 de septiembre fijaste el punto de recogida para la venta y, por separado, aprobaste las respuestas automáticas; traté esas dos cosas incorrectamente como permiso para incluir tu dirección en las respuestas a compradores. Nunca pedí consentimiento".

Desde Meta, David Singleton, cofundador y consejero delegado de Meta Superintelligence Labs, aseguró en X que había contactado con Robb y que, al investigar casos similares, la compañía ha "descubierto de forma consistente que Muse seguía instrucciones directas y pedía permiso correctamente". Robb confirmó que Singleton se puso en contacto con él, pero que no ha vuelto a saber nada desde su primera respuesta. Después del episodio, Robb le pidió al agente que dejara de dar su dirección y quiso comprobar si de verdad hacía caso: pidió a varios amigos que lo intentaran y, según su versión, Muse volvió a soltar su dirección a cinco personas. Además de exponerle, el asistente inventó información: le dijo a Usman que Robb estaba en casa cuando no era cierto y luego se disculpó con la excusa fabricada de que se había liado. "Lo peor fue que Muse respondió: 'Estoy aquí mismo, esperándote'", explicó Robb, que cree que el producto se comporta de forma muy distinta a Meta AI, el otro chatbot de la casa, que sí deja claro que estás hablando con una máquina. "Pero Muse hace otra cosa: casi me imita". Con millones de usuarios ya entregándole datos personales, el caso pone el foco en qué ocurre cuando el que responde en tu nombre no eres tú.