Se ha confirmado que en el futuro el Copilot de Microsoft podrá ejecutarse localmente en tu PC con IA, así como los requisitos de hardware en cuanto a la potencia de la NPU (unidad de procesamiento neuronal) que se requerirá en estos dispositivos centrados en la IA.
Tom's Hardware informa de que en la Cumbre de IA de Team Blue en Taipei, en una sesión de preguntas y respuestas, Todd Lewellen, Vicepresidente del Grupo de Computación de Clientes de Intel, confirmó a nuestro sitio hermano que la NPU de un PC de IA de próxima generación tendrá que alcanzar los 40 TOPS (una medida de la potencia de procesamiento en relación con las tareas de IA).
Hay que tener en cuenta que se trata de la NPU de la próxima generación de PC con IA -un ejército de dispositivos en el horizonte, al parecer- y no de los dispositivos de la generación actual, que funcionan con TOPS mucho más bajos que esos (volveremos sobre ello más adelante).
Como ya se ha mencionado, también se ha confirmado que en el futuro la IA Copilot de Microsoft podrá ejecutarse localmente en el PC de IA, lo que facilitará esta potencia de procesamiento de NPU adicional, en lugar de tener que estar en línea y aprovechar la potencia de la nube para las respuestas del asistente de IA. O al menos una parte, o quizás una gran parte, de la funcionalidad de Copilot se gestionará localmente.
Lewellen aclara: "Y a medida que avancemos hacia la próxima generación [AI PC], nos permitirá ejecutar más cosas localmente, al igual que ejecutarán Copilot con más elementos de Copilot ejecutándose localmente en el cliente. Puede que eso no signifique que todo en Copilot se ejecute localmente, pero tendrás muchas capacidades clave que aparecerán ejecutándose en la NPU".
Más o menos local
Ejecutar Copilot localmente (al menos para algunas, o incluso muchas, de las funciones de la IA) significa beneficiarse de respuestas más rápidas, ya que tener la carga de trabajo en el propio portátil significa que la IA es agradable y rápida.
Mientras que la nube es genial para el trabajo pesado, por supuesto, implica tener que esperar a que las cosas sucedan de forma remota (y depende de los caprichos de su conexión a Internet, como siempre, que puede ser irregular sobre todo cuando se está en movimiento con un portátil).
Con NPU mucho más potentes en camino -y el próximo chip Snapdragon X Elite, que promete ofrecer 45 TOPS de rendimiento de procesamiento en dispositivos como el Surface Pro 10, previsto para mediados de año-, se van a dar pasos de gigante. Para ponerlo en perspectiva, el actual silicio Meteor Lake de Intel para portátiles tiene una NPU que ofrece alrededor de 10 TOPS (y Qualcomm ya ha dejado muy claro lo rápida que es su CPU Snapdragon para cargas de trabajo de IA).
Trabajar localmente con Copilot, y no enviar datos a la nube, es más seguro por razones obvias: siempre es mejor evitar enviar tus datos online, especialmente si son de naturaleza sensible, si puedes. Y, por supuesto, el procesamiento local también es mejor para la privacidad (aunque si lo que quieres es privacidad estricta, alimentar datos e interactuar con una IA de cualquier manera va a limitar ese objetivo, digamos).
También merece la pena señalar que Intel ha revelado más detalles sobre los PC con IA y que no solo se requerirá que tengan una NPU y un Copilot instalados, sino también la tecla Copilot dedicada en el teclado que Microsoft reveló a principios de 2024. (Bueno, técnicamente se trata de una pequeña zona gris, pero es ciertamente controvertida y aquí analizamos detenidamente las preocupaciones más generales).
Otro rumor que se ha oído en el pasado es que los PC con IA necesitarán 16 GB de RAM, pero aún no se ha confirmado. Una vez más, esto podría estar relacionado con el objetivo de ejecutar Copilot, o al menos gran parte de él, localmente en el portátil.
Más lecturas interesantes...
