- Sam Altman instó al gobierno y a Anthropic a rebajar las tensiones y a colaborar en la regulación de la IA
- Sostuvo que los gobiernos deberían tener el control sobre las decisiones relativas a la IA y la seguridad nacional
- Afirmó que, en general, sigue confiando en el gobierno, aunque reconoce que muchos no lo hacen
Las relaciones entre Anthropic y el Gobierno de Estados Unidos se han convertido en un punto de fricción inusualmente candente en la lucha más amplia por la regulación y el control de la IA. Esta escalada de tensiones comenzó cuando las negociaciones con el Pentágono sobre el uso del modelo de IA «Claude» de Anthropic se rompieron debido a la negativa de la empresa a eliminar las medidas de seguridad contra las armas totalmente autónomas o la vigilancia masiva a nivel nacional.
Las respuestas de Washington, incluida una directiva ejecutiva que prohíbe a las agencias federales utilizar la tecnología de Anthropic y califica a la empresa como un «riesgo para la cadena de suministro», dieron lugar a demandas por presuntas violaciones constitucionales, y desde entonces un juez federal ha bloqueado temporalmente las acciones del Pentágono.
El director ejecutivo de OpenAI, Sam Altman, aparentemente considera que la armonía es necesaria en ambos extremos del debate.
El artículo continúa a continuación."Encontrar una forma de trabajar juntos. Como, deténganse, detengan lo que están haciendo ambos, detengan la escalada de ambos lados y encuentren una forma de trabajar juntos", dijo Altman en una entrevista con Laurie Segall.
Requisitos de seguridad de la IA
Las empresas de IA han exagerado el potencial de esta tecnología en ámbitos como la seguridad nacional, al tiempo que presionan para que la regulación sea menos estricta. Al parecer, Altman ha llegado a la conclusión de que las empresas no pueden tenerlo todo. Si la IA tiene tantas repercusiones geopolíticas como todo el mundo insiste en afirmar, entonces los gobiernos querrán tener el control.
«No creo que le sirva a nuestra industria decir: “Oigan, esta es la tecnología más poderosa que la humanidad haya construido jamás”, dijo Altman. “Va a ser el factor más importante en la geopolítica. Va a ser el arma cibernética más poderosa que el mundo haya construido jamás. Va a ser, ya saben, el factor determinante de las guerras y la protección futuras. Y no se la vamos a dar”.
Por supuesto, si la gente se siente cómoda con que el gobierno controle una tecnología tan trascendental es otra cuestión. Altman dijo que sigue confiando en gran medida en el sistema de controles y contrapesos, aunque reconoció que mucha gente actualmente «realmente no confía en que el gobierno respete la ley».
Es una postura que destaca en comparación con la de algunos líderes de la IA que se muestran más recelosos del gobierno. No obstante, cree que sería un error no ayudar al gobierno en materia de seguridad nacional, especialmente en la infraestructura cibernética.
«Creo que tenemos que trabajar con el gobierno, pero me equivoqué al calibrar la intensidad del actual clima de desconfianza y ahora entiendo algo al respecto», dijo.
Trust in AI control
En esencia, Altman y quienes comparten su postura quieren colaborar con los gobiernos, a pesar de que crece la desconfianza de la ciudadanía ante el uso indebido de la IA.
«Una de las preguntas más importantes que el mundo tendrá que responder el próximo año es: ¿quién tiene más poder, las empresas de IA o los gobiernos? Y creo que es muy importante que los gobiernos tengan más poder», afirmó Altman. «El futuro del mundo y las decisiones sobre los elementos más importantes de la seguridad nacional deben tomarse a través de un proceso elegido democráticamente. Y deben tomarlas las personas que han sido designadas como parte de ese proceso, no yo, ni el director ejecutivo de algún otro laboratorio».
Altman volvió una y otra vez al tema de que el poder de la IA está llegando más rápido de lo que las instituciones, los gobiernos o la mayoría de los seres humanos pueden adaptarse. Los sistemas son cada vez más capaces, y su potencial de uso indebido crece a la par.
Lo que está en juego es cada vez mayor y más serio. Las grandes disputas entre quienes se supone que deben diseñar regulaciones seguras y las empresas que, al menos en teoría, intentan orientar la tecnología en una dirección ética, representan un problema enorme.
Un encogimiento de hombros diplomático que insta a partes diametralmente opuestas a «encontrar una manera de trabajar juntas» probablemente no resolverá el asunto. Aun así, al menos significa que Altman sabe que la respuesta no será obvia, aunque la haya formulado como una solicitud a ChatGPT.
Sigue a TechRadar en Google News y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds. ¡No olvides hacer clic en el botón "Seguir"!
Y, por supuesto, también puedes seguir a TechRadar en TikTok para ver noticias, reseñas y unboxings en formato de video, además de recibir actualizaciones periódicas de nuestra parte en WhatsApp.
