Durante años, el progreso de la IA se ha medido por su escala: modelos más grandes, conjuntos de datos más amplios, ventanas de contexto más largas. Cada nuevo avance promete que, si simplemente alimentamos los sistemas con más datos, obtendremos información más precisa.
Sin embargo, al menos fuera del ámbito del entrenamiento, esa suposición está encontrando dificultades. A medida que los modelos absorben indicaciones más largas, a menudo se vuelven menos confiables. El modelo tiene más opciones entre las que elegir, lo que hace que sea más probable que se centre en lo incorrecto.
Fundador y director ejecutivo de Neo4j
Los investigadores denominan a este fenómeno «corrupción del contexto»: a medida que un sistema de IA procesa más información, los detalles irrelevantes saturan su memoria de trabajo. El resultado puede ser respuestas menos precisas, mayores costos y una erosión gradual de la confianza.
El artículo continúa a continuaciónUn experimento reciente de Microsoft para crear un "Magentic Marketplace" dirigido por IA demostró cómo la IA puede fallar en este aspecto. La directora general del laboratorio, Ece Kamar, explicó: "Estamos viendo que los modelos actuales se ven realmente abrumados por tener demasiadas opciones".
Cómo se infiltra la corrupción del contexto
La mayoría de los datos empresariales residen en documentos (PDF, informes y archivos internos) que se dividen en fragmentos para su generación aumentada por recuperación (RAG). Cuando un usuario formula una pregunta, el sistema recupera los pasajes que parecen semánticamente similares y los envía al modelo de lenguaje grande (LLM) como contexto.
El problema es que la similitud no es lo mismo que la relevancia. Un fragmento puede parecer una coincidencia, pero omitir definiciones o excepciones clave. Sin contexto adicional, un fragmento puede ser solo ruido.
La IA termina manejando demasiada información, sin comprender qué partes son realmente importantes y cuáles solo crean más ruido en el sistema.
La solución no es incluir más texto, sino encontrar el texto que sea más relevante para la pregunta comercial en cuestión. Esto significa dotar a la IA de una capa de conocimiento que refleje cómo funciona realmente el mundo, como una red de entidades y relaciones, y no como puntos de datos inconexos.
Pensar en conexiones, no en documentos
Los seres humanos no razonan en documentos, sino en relaciones. Un gráfico de conocimiento captura esas conexiones de manera explícita: personas, lugares, productos y los vínculos entre ellos.
Cuando los datos se almacenan y se buscan en forma de gráfico, la recuperación pasa de ser la «coincidencia más aproximada» a la «respuesta mejor respaldada». Por ejemplo, un asistente legal podría preguntar sobre una cláusula de un contrato.
Una búsqueda por palabra clave o vector podría devolver una cláusula que parezca relevante, mientras que un sistema basado en gráficos entiende que la cláusula pertenece a una definición más amplia y recupera todas las secciones relacionadas. La respuesta es más completa y contextualizada, lo que evita el problema de intentar conectar información de diferentes fragmentos.
El resultado final es que el modelo necesita muchos menos tokens para generar una respuesta relevante.
Por qué los gráficos generan confianza
La transparencia es otra ventaja importante de los gráficos. Las incrustaciones vectoriales, el proceso matemático que utiliza la IA para vincular palabras similares, son muy útiles para las máquinas, pero completamente ilegibles para los humanos.
Por el contrario, un gráfico es fácil de ver y comprender. Registra la cadena exacta de hechos que el sistema utilizó para llegar a una conclusión, junto con las fuentes y los permisos involucrados. Se puede visualizar de una manera que tenga sentido para los humanos.
Esa trazabilidad es muy valiosa en entornos regulados. Es mucho más fácil justificar una decisión cuando se puede mostrar el camino a través de los datos y por qué se tomó una decisión, en lugar de limitarse a señalar un conjunto de números opacos. La gobernanza y la explicabilidad integradas hacen que la IA basada en grafos sea apta para las empresas y fiable.
No esperes a GPT-6
Algunos líderes se preguntan por qué deben preocuparse por el contexto cuando los modelos futuros serán más inteligentes. Es cierto que los modelos de lenguaje grandes están mejorando rápidamente. Pero, por muy capaces que lleguen a ser, nunca se entrenarán con los datos privados de su empresa.
Un modelo básico también funciona de forma similar a un motor de búsqueda con extraordinarias capacidades de razonamiento, pero sin un índice de la información de su empresa. Puede generar respuestas, pero sin el contexto adecuado, no puede saber qué partes de su conocimiento son fidedignas, están actualizadas o son más relevantes para la pregunta.
Incluso cuando los LLM alcancen versiones de dos dígitos, seguirán necesitando una forma estructurada y segura de acceder a lo que es exclusivo de una empresa.
Por eso, el cuello de botella para la adopción de la IA está pasando de la potencia de cálculo a la organización de los datos. La pregunta clave ya no es "¿qué modelo debo utilizar?", sino "¿cómo de bien está organizado mi conocimiento?".
Facilitar el uso de los gráficos
Las bases de datos gráficas tenían fama de ser difíciles de aprender. Eso era cierto hace una década, cuando los equipos tenían que inventar sus propios esquemas desde cero. Dos cambios las han hecho mucho más accesibles.
En primer lugar, el lenguaje de consulta de grafos (GQL) es ahora una norma internacional ISO. Es el primer lenguaje de datos nuevo que se estandariza desde el SQL hace décadas. El GQL ofrece a los ingenieros un lenguaje declarativo compartido para trabajar con datos de grafos, que complementa al SQL en lugar de competir con él.
La estandarización conduce a una mejor interoperabilidad, una documentación más clara y un conjunto de habilidades bien definido para fines de contratación.
En segundo lugar, gracias a la IA, las plataformas gráficas modernas ahora automatizan el trabajo que antes requería conocimientos especializados. El modelado asistido, las plantillas de dominio y la búsqueda híbrida, que combina a la perfección consultas vectoriales y gráficas, ahora funcionan con IA y se aceleran con agentes.
Se trata de un cambio radical que facilita el uso y la implementación de la tecnología. Los equipos dedican menos tiempo a crear manualmente estructuras de datos y más tiempo a plantear preguntas empresariales reales.
La ventaja de la capa de conocimiento
Las organizaciones inteligentes se están dando cuenta de que los mejores resultados de IA se obtienen al combinar modelos potentes con conocimientos bien organizados, conectados y contextualizados. El modelo es el motor del razonamiento; el gráfico es el andamiaje que mantiene los datos correctos en su lugar.
Cuando la recuperación se guía por conexiones, se produce un contexto de mayor calidad y mejores resultados. Los LLM pueden dedicar menos esfuerzo a llenar vacíos y más a ofrecer un razonamiento preciso y explicable. Las respuestas mejoran, la latencia disminuye y los costos se reducen. Y lo más importante, los usuarios comienzan a confiar en las respuestas.
Estamos pasando de una era definida por la computación bruta a otra definida por el contexto organizado. Las indicaciones más largas y los modelos más grandes seguirán siendo importantes, pero la estructura, la claridad y la conectividad serán aún más importantes.
Si quieres una IA coherente, rápida y confiable, el camino a seguir no es «más grande», sino mejor organizado.
Hemos destacado el mejor creador de sitios web con IA.
Este artículo se ha elaborado como parte del canal Expert Insights de TechRadarPro, donde presentamos a las mentes más brillantes y destacadas del sector tecnológico actual. Las opiniones expresadas aquí son las del autor y no reflejan necesariamente las de TechRadarPro o Future plc. Si está interesado en colaborar, obtenga más información aquí: https://www.techradar.com/news/submit-your-story-to-techradar-pro