Google es un gigante de la inteligencia artificial y el "machine learning". De hecho, es su mayor ventaja sobre la competencia. Así que no es de extrañar que la empresa lo aplique a todos los datos que le proporcionamos, incluyendo las fotos. Por desgracia.
El Google I/O 2021 de hoy ha chirriado mucho en ocasiones. Por ejemplo, su celebración de los "Principios de la IA" y la orden a sus científicos para que "sean más positivos" con respecto a esta tecnología.
Sin embargo, la presentación de la directora de Google Photos Shimrit Ben-Yair fue especialmente inquietante. Ben-Yair mostró cómo la tecnología de aprendizaje automático de Google es capaz de analizar todas las fotos, identificar las similitudes más recónditas en toda tu colección de fotos y agruparlas en álbumes automáticos. Ya no son sólo caras o eventos. Son cosas de las que ni tú te darías cuenta.
El resultado es que Google aprende detalles muy concretos de tu vida, como el hecho de que te gusta viajar por el mundo con una mochila naranja determinada, por ejemplo.
Google reconoce que esto podría ser problemático porque planeta problemas éticos y psicológicos que pueden afectar a la vida de las personas y tu estado anímico. La compañía te da la opción de borrar estos álbumes automáticos, pero el mero hecho de que los realice y presente sin permiso previo es bastante prepotente y potencialmente ofensivo.
Crea memorias que no existen
La otra parte problemática es la creación automática de videos generando fotogramas sintéticos entre una serie de fotografías. Google Photos será ahora capaz tomar esas fotos seguidas y crear un GIF animado con de una manera que es un facsímil del evento. Y la clave aquí es lo de que sea un facsímil.
Google presenta esta función como una ayuda para recordar momentos es justo lo contrario. Es el principio del fin del recuerdo tal y como lo conocemos. ¿Por qué usar la memoria cuando Google puede generar una por ti?
Obviamente, Google no se está inventando una memoria desde cero. Pero sí está incluyendo fotogramas que nunca existieron. Es una reproducción de tu vida que, al contrario que un video, no es real en su mayoría aunque utilice puntos intermedios que sí son reales.
Y esto es preocupante porque, si hay algo que deberíamos haber aprendido en la última década es que, primero, no debemos confiar ciegamente en los algoritmos de aprendizaje automático y, segundo, que la realidad se puede deformar muy fácilmente. Y hasta negar por completo.
QAnon es tan producto del aprendizaje automático como lo es Netflix. Ahora, Google espera que pongamos nuestros álbumes de fotos en manos de la IA y que llamemos "Memorias" a lo que salga de ella. Y todo ello mientras gasta una enorme cantidad de energía eléctrica en centros de cálculo de IA mientras el cambio climático avanza inexorablemente.
Con cada nuevo avance en la plataforma de IA de Google, se hace más y más evidente que deberíamos escuchar a los expertos en ética. Y decirle a Google que no, no todo necesita ser pasado por el filtro del "machine learning".
