La IA ha llegado, está en pleno apogeo, y es imparable. Suerte para todo aquel que pretenda frenar el desarrollo de la inteligencia artificial aunque sea durante 6 minutos, y ya ni te cuento si lo quieren parar 6 meses (que es lo que ha firmado el controvertido Elon Musk).
Hay una llamada a la acción (o a la inacción) llamada "Pause Giant AI Experiments: An Open Letter", que en español significa "Pausa a los experimentos gigantes de IA: Una carta abierta", que ha sido, irónicamente, firmada por Elon Musk (que no olvidemos que fundó OpenAI, a quien pertenece ChatGPT, con Sam Altman en 2015 antes de alejarse del proyecto).
La petición principal de esta llamada a la acción es bastante simple: "Hacemos un llamamiento a todos los laboratorios de IA para que pausen inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4". Esto significa que un número creciente de expertos están aterrorizados por lo que han visto de GPT-4 de OpenAI (y tal vez de IAs anteriores y competidoras como Google Bard, y Bing AI, que utiliza una mezcla personalizada de ChatGPT).
Lo entiendo. Aunque en la nota no se afirma que estos sistemas sean sensibles, los firmantes se refieren a ellos como si tuvieran una inteligencia "humana-competitiva". No me cabe duda de que cualquiera de estos chatbots puede ser más inteligente que un ser humano en lo que se refiere a la recuperación de datos e incluso a la elaboración de contenidos que se ajusten a la realidad. Por otro lado, todos hemos visto lo imperfectas que pueden llegar a ser incluso las mejores de estas IA. Siguen teniendo la costumbre de presentar información falsa como verdadera.
En todo caso, lo que estas IAs necesitan ahora mismo es más entrenamiento, y no menos.
Lo que quiero decir es que incluso si interrumpimos el entrenamiento de los grandes modelos lingüísticos (LLM) durante seis meses, nadie dejará de utilizar Bing, Bard y ChatGPT. Gracias a cosas como los nuevos plugins de ChatGPT, formarán parte de muchos de los servicios y aplicaciones que utilizamos a diario. La capacidad de estos sistemas para entendernos, responder de la manera adecuada y tener las cosas claras será más importante que nunca.
Una carrera que ya no se puede parar
Should we pause AI development?March 29, 2023
Musk y compañía parecen temer a las IA descontroladas cuando la realidad es que todos las controlaremos a diario. La cuestión es qué hacemos con la información que nos dan.
Esta carta tendría que haber sido una advertencia de que no se debe tener confianza ciega en las IA, independientemente de su potencia de cálculo y competitiva actual y futura, en vez de hablar de una pausa en el entrenamiento.
Digamos, por un momento, que Google, OpenAI y varios socios acuerdan hacer una pausa en este entrenamiento. ¿Debemos suponer que todo el mundo hará lo mismo? ¿Debemos esperar que China o Rusia pongan en pausa sus propios esfuerzos en el campo de la IA?
Por supuesto que no. Se trata oficialmente de una carrera armamentística, y salirse de ella, incluso temporalmente, podría ser desastroso para la posición de los países implicados en la carrera de la inteligencia artificial.
No es que esté totalmente en desacuerdo con la carta. Por ejemplo, esta parte tiene sentido: "implementar un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos externos independientes".
También asume que nada de esto ha estado ocurriendo, pero OpenAI se desarrolló con ese propósito expreso.
¿Tengo miedo de la IA? La verdad es que no. ¿Creo que la IA debe desarrollarse y gestionarse de forma responsable? Por supuesto que sí.
¿Creo que detener el entrenamiento de las IA durante 6 meses acabará con los riesgos y ayudará a mejorar el control sobre ellas y su regularización? En absoluto.
