Amazon ha encontrado otra forma de formar parte de nuestra vida cotidiana con sus nuevos dispositivos de IA Bee. Estos dispositivos pueden grabar conversaciones y se presentan como una herramienta para recordar detalles importantes y convertir planes en acciones. Naturalmente, esas acciones pueden incluir comprar productos en Amazon, lo que convierte cualquier conversación casual en una posible oportunidad de compra. Puedes pagar $75 o $100 por el privilegio, dependiendo de si eliges el Bee Frontier, que se sujeta a una correa de muñeca o a la ropa, o el Bee Eclipse, un accesorio magnético para el smartphone.
Hay aplicaciones prácticas para un dispositivo que recuerda detalles de conversaciones que, de otro modo, podrías olvidar. Un asistente que recuerde una cita, prepare un correo electrónico de seguimiento o te recuerde una promesa podría ahorrarte bastante tiempo. Sin embargo, el anuncio de Amazon también promete recomendaciones de compra personalizadas basadas en lo que Bee aprenda sobre ti, algo que me parece un destino deprimente, aunque inevitable, para las herramientas de IA.
Por supuesto, podrías argumentar que muchas personas ya han invitado a Amazon a sus hogares mediante dispositivos Alexa. Además, Amazon ya cuenta con una cantidad potencialmente enorme de datos de sus clientes a partir de sus historiales de compra, lo que le permite recomendar productos tan bien que ya es un chiste recurrente sentir que basta con mencionar un tema en voz alta para que aparezcan artículos relacionados entre tus recomendaciones.
Ese chiste se convierte en una función explícita de los nuevos dispositivos Bee. La idea de transformar las conversaciones habladas en otra fuente de asistencia personalizada pretende atraer a posibles compradores. La pregunta es si esto va demasiado lejos al permitir que Amazon escuche a escondidas nuestras vidas para influir en nuestras compras.
Una charla sin sentido se convierte en una lista de compras
La idea de que un asistente de IA recuerde lo que dices y evite que se te escape algo importante resulta atractiva por la comodidad que promete. Pero imagina que mencionas casualmente que te duele la espalda, que tu auto hace un ruido extraño o que a tu hijo le han empezado a interesar los dinosaurios. No se trata únicamente de situaciones que darían pie a un recordatorio para agendar una cita con el médico, llevar el auto al taller o comprar boletos para el museo que te recomendará. También son datos que pueden revelar posibles intereses de compra que, de otro modo, quizá nunca habrían llegado a oídos de un vendedor.
Amazon no ha dicho que Bee convertirá automáticamente cada queja que escuche en una recomendación de productos, pero la integración con las compras abre un camino evidente para hacerlo. Sin embargo, quizá sea demasiada personalización. Sumar la información de las conversaciones habladas a todo lo que Amazon ya sabe podría ofrecer una imagen mucho más íntima de la vida de una persona, tanto de lo bueno como de lo malo, independientemente de las promesas de Amazon de mantener los datos bajo el control del usuario.
Según la compañía, el sistema sí cuenta con medidas reales de protección de la privacidad. La IA de Bee procesa el audio en tiempo real y lo elimina en lugar de conservar las grabaciones, mientras que las transcripciones de las conversaciones están cifradas y los usuarios pueden borrarlas. Los dispositivos también incluyen controles físicos y luces que indican cuándo están escuchando. Además, la conexión con las compras de Amazon es opcional y requiere que el usuario la active.
Sin embargo, eliminar el audio original no resuelve todas las preocupaciones sobre la privacidad cuando un dispositivo está diseñado específicamente para recordar e interpretar lo que dicen las personas. La información extraída de una conversación puede revelar tanto como la propia grabación.
Abejas espía
El problema de la privacidad se vuelve aún más complicado cuando otras personas participan en la conversación. Alguien que lleva un dispositivo Bee puede sentirse perfectamente cómodo con que sus conversaciones sean analizadas, pero sus amigos y compañeros de trabajo no necesariamente han aceptado participar. Un pequeño indicador de grabación difícilmente sustituye al consentimiento informado, sobre todo cuando las personas podrían no reconocer el dispositivo ni entender para qué sirve.
Ya hemos visto cómo se desarrolla esta controversia con los lentes inteligentes Ray-Ban de Meta. Algunas personas han reportado grabaciones inesperadas e incluso videos tomados sin que lo esperaran. Bee no tiene las mismas preocupaciones relacionadas con una cámara, pero grabar conversaciones también genera sus propios problemas. Un amigo que hable en confianza sobre un diagnóstico médico o un conflicto laboral quizá no se sienta tan dispuesto a hacerlo si sabe que llevas un Bee. No necesariamente ha aceptado que un sistema de IA conectado con la tienda en línea más grande del mundo convierta sus comentarios en datos que puedan consultarse mediante búsquedas.
También hay cuestiones prácticas sobre los lugares y las situaciones en los que es apropiado grabar. Las conversaciones privadas pueden incluir información confidencial, y las leyes sobre grabaciones pueden variar enormemente según la ubicación y las circunstancias. Quien utilice Bee debe tener en cuenta el consentimiento de las personas que hablan a su alrededor, independientemente de que Amazon elimine el audio original.
El hecho de que las compras personalizadas formen parte de las ambiciones del producto revela algo sobre cómo imagina la compañía el futuro de la IA personal. Amazon y Meta parecen convencidas de que el futuro implica dispositivos que observen una mayor parte de nuestra vida para anticiparse a lo que necesitaremos después. Es fácil encontrar motivos para desarrollar estas capacidades. Las personas con dificultades de memoria, los profesionales con agendas ocupadas y cualquiera que tenga problemas para organizar horarios complicados podrían beneficiarse de recordatorios confiables y conversaciones que puedan consultar mediante búsquedas. Sin embargo, convertir los dispositivos de grabación en accesorios cotidianos podría tener consecuencias de gran alcance, y no todas serían agradables.
Para mí, la integración con las compras es el aspecto que vuelve particularmente poco atractiva la visión de Amazon. Puedo apreciar que un asistente recuerde que prometí llamar a alguien o me avise de una cita. Tengo mucho menos entusiasmo por un dispositivo que podría convertir un comentario casual sobre la necesidad de comprar zapatos nuevos en otra oportunidad para que Amazon me sugiera algo que debería adquirir.
Llevamos años enseñándoles a las empresas tecnológicas cuáles son nuestros intereses mediante búsquedas, compras, clics e historiales de navegación. Los asistentes de IA portátiles como Bee podrían extender esa relación a las conversaciones que tenemos con otras personas. Sin embargo, no me entusiasma especialmente la idea de que mis conversaciones se conviertan en otra fuente de recomendaciones de compra. Si algo es tan importante, quizá baste con anotarlo.
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
