Skip to main content

La nueva tecnología de Google Photos da miedo y es problemática

Google Photos
(Image credit: Google)

Google es un gigante de la inteligencia artificial y el "machine learning". De hecho, es su mayor ventaja sobre la competencia. Así que no es de extrañar que la empresa lo aplique a todos los datos que le proporcionamos, incluyendo las fotos. Por desgracia.

El Google I/O 2021 de hoy ha chirriado mucho en ocasiones. Por ejemplo, su celebración de los "Principios de la IA" y la orden a sus científicos para que "sean más positivos" con respecto a esta tecnología.

Sin embargo, la presentación de la directora de Google Photos Shimrit Ben-Yair fue especialmente inquietante. Ben-Yair mostró cómo la tecnología de aprendizaje automático de Google es capaz de analizar todas las fotos, identificar las similitudes más recónditas en toda tu colección de fotos y agruparlas en álbumes automáticos. Ya no son sólo caras o eventos. Son cosas de las que ni tú te darías cuenta.

Google Demonstrates Its Little Patterns Google Photos Algorithm

(Image credit: Google)

El resultado es que Google aprende detalles muy concretos de tu vida, como el hecho de que te gusta viajar por el mundo con una mochila naranja determinada, por ejemplo.

Google reconoce que esto podría ser problemático porque planeta problemas éticos y psicológicos que pueden afectar a la vida de las personas y tu estado anímico. La compañía te da la opción de borrar estos álbumes automáticos, pero el mero hecho de que los realice y presente sin permiso previo es bastante prepotente y potencialmente ofensivo.

Crea memorias que no existen

La otra parte problemática es la creación automática de videos generando fotogramas sintéticos entre una serie de fotografías. Google Photos será ahora capaz tomar esas fotos seguidas y crear un GIF animado con de una manera que es un facsímil del evento. Y la clave aquí es lo de que sea un facsímil.

Google Photos Cinematic moment

(Image credit: Google)

Google presenta esta función como una ayuda para recordar momentos es justo lo contrario. Es el principio del fin del recuerdo tal y como lo conocemos. ¿Por qué usar la memoria cuando Google puede generar una por ti? 

Obviamente, Google no se está inventando una memoria desde cero. Pero sí está incluyendo fotogramas que nunca existieron. Es una reproducción de tu vida que, al contrario que un video, no es real en su mayoría aunque utilice puntos intermedios que sí son reales.

Y esto es preocupante porque, si hay algo que deberíamos haber aprendido en la última década es que, primero, no debemos confiar ciegamente en los algoritmos de aprendizaje automático y, segundo, que la realidad se puede deformar muy fácilmente. Y hasta negar por completo. 

QAnon es tan producto del aprendizaje automático como lo es Netflix. Ahora, Google espera que pongamos nuestros álbumes de fotos en manos de la IA y que llamemos "Memorias" a lo que salga de ella. Y todo ello mientras gasta una enorme cantidad de energía eléctrica en centros de cálculo de IA mientras el cambio climático avanza inexorablemente.

Con cada nuevo avance en la plataforma de IA de Google, se hace más y más evidente que deberíamos escuchar a los expertos en ética. Y decirle a Google que  no, no todo necesita ser pasado por el filtro del "machine learning".

John Loeffler

John (He / Him / His) is a writer, programmer, gamer, activist, metal head, and Brooklyn College alum currently living in Brooklyn, NY. When not multi-boxing Linux installs for his computer science graduate program, you can find him online at all hours of the night retweeting cute animal photos or gaming. Find him online on Twitter at @thisdotjohn


Currently playing: Valheim, Elite Dangerous Odyssey, World of Warcraft: Burning Crusade Classic, Mass Effect Legendary Edition