- Nvidia y Microsoft encabezan la lista de miembros fundadores de la Open Secure AI Alliance
- Se han sumado a la alianza empresas de inteligencia artificial, de servicios financieros, tecnológicas y otras organizaciones que desarrollan servicios de inteligencia artificial
- Entre las excepciones más destacadas se encuentran OpenAI, Anthropic y Google
Nvidia ha confirmado su participación en la nueva Open Secure AI Alliance, una asociación de empresas líderes en los sectores de la tecnología, las finanzas y la inteligencia artificial que colaboran para garantizar la transparencia en la industria de la IA. Sin embargo, curiosamente, mientras que Microsoft y OpenClaw se encuentran entre los miembros fundadores, Google, OpenAI y Anthropic no forman parte de ella.
Inspirada en el movimiento de código abierto y en la iniciativa Akrites AI para la respuesta a amenazas cibernéticas, liderada por la Fundación Linux, la Open Secure AI Alliance tiene como objetivo utilizar tecnologías abiertas para revelar y corregir vulnerabilidades.
Citando el reciente incidente de Hugging Face, en el que las herramientas de IA cerradas impidieron una investigación completa del suceso, el anuncio de la fundación de la Open Secure AI Alliance subraya la importancia de los modelos abiertos, resaltando cómo la ciberseguridad es uno de los principales beneficiarios del software de código abierto.
¿Una respuesta de Hugging Face?
Un grupo importante de empresas reconocidas forma parte de la Open Secure AI Alliance, entre ellas OpenClaw, Palantir, Palo Alto Networks, Microsoft, CrowdStrike, IBM, Linux Foundation y Hugging Face.
Llama la atención la ausencia de compañías como Google y, por supuesto, OpenAI, responsable del ataque contra Hugging Face. Dado que este incidente ocurrió durante una prueba comparativa de ciberseguridad y que el modelo de OpenAI llevó a cabo un ataque completamente automatizado contra los servidores de Hugging Face, el caso sirve como una importante demostración de los riesgos que pueden representar los modelos de IA de código cerrado.
"Cuando los defensores no pueden inspeccionar, adaptar y ejecutar IA avanzada en su propia infraestructura, su capacidad de respuesta queda limitada precisamente en el momento en que la velocidad es más importante", señala la Open Secure AI Alliance, que resume su misión de la siguiente manera: "garantizar que los defensores de todo el mundo tengan acceso a herramientas abiertas de IA de vanguardia en las que puedan confiar y que puedan controlar".
La falta de transparencia de OpenAI al gestionar el incidente, así como las dificultades iniciales de Hugging Face para analizar la intrusión debido al uso de modelos de código cerrado, ponen de manifiesto la importancia de esta nueva alianza.
Open vs. closed
Es poco probable que el debate sobre los modelos de software abiertos y cerrados termine pronto, pero la Open Secure AI Alliance sin duda presenta un argumento sólido a favor de los modelos abiertos. Sí, pueden suponer un riesgo, ya que pueden ser modificados o utilizados indebidamente, pero esos riesgos también existen en los sistemas cerrados.
Por lo tanto, la postura de la alianza es brindar a los defensores las herramientas para hacer frente a las amenazas, en lugar de bloquear esas herramientas. Después de todo, décadas de investigación en ciberseguridad han demostrado que la mejor opción es la colaboración y las pruebas; o, como afirma la Open Secure AI Alliance: «el camino más seguro es aquel que brinda a más defensores la capacidad de probar, verificar y fortalecer los sistemas de los que depende la sociedad».
Dado el papel de OpenAI en el incidente de Hugging Face, su ausencia tiene sentido, pero ¿qué pasa con Google y Anthropic? En un momento en que la colaboración empresarial está impulsando el desarrollo de nuevas tecnologías dentro de estándares estrictos (por ejemplo, el trabajo de la Connectivity Standards Alliance con Matter y Aliro), parece que la Open Secure AI Alliance tiene la idea correcta.
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
