El bombo de la IA fue implacable en 2023/24. Aunque el frenesí inicial se ha calmado un poco, ejecutivos y profesionales se enfrentan ahora a la realidad de desplegar Inteligencia Artificial (IA), en concreto IA Generativa (GenAI), dentro de su organización.
Los LLM (Large Language Models), la tecnología que subyace a los populares chatbots GenAI, son potentes, pero sigue habiendo una importante desconexión entre la percepción de lo que pueden hacer y su aplicación práctica para la redacción empresarial.
Diferencias fundamentales
La diferencia fundamental radica en cómo funciona GenAI en comparación con el software tradicional.
1. El software tradicional es determinista
Sigue una lógica y algoritmos fijos, produciendo exactamente el mismo resultado, 100% preciso y por tanto repetible, cada vez que se le da la misma entrada. Piensa en pulsar CTRL+F en Word: obtienes un recuento preciso y repetible de un término.
2. La IA generativa no es determinista
Los LLM predicen la siguiente palabra basándose en las probabilidades de sus datos de entrenamiento. Esto significa que hacer la misma pregunta dos veces suele dar respuestas diferentes. Están diseñados para ser variables.
Características esenciales
Esta diferencia fundamental se traduce en dos características críticas que las empresas deben comprender:
1. Alucinaciones: GenAI puede generar con confianza información incorrecta o inventarse cosas. No se trata de un error, sino de cómo funciona la tecnología. Está adivinando basándose en patrones, no verificando hechos. Copilot, por ejemplo, puede calcular erróneamente las puntuaciones de legibilidad o pasar por alto la mayoría de los casos de un término de búsqueda.
2. Falta de repetibilidad: No se puede garantizar que se obtenga el mismo resultado con la misma solicitud.
Esto es lo más importante: si su tarea de escritura o revisión de documentos requiere un 100% de precisión o un 100% de repetibilidad, debe utilizar software determinista, no GenAI. Utilizar GenAI para tareas que exigen precisión es un caso clásico de empuñar un "martillo GenAI" y ver cada problema como un clavo.
Fallos y errores en la práctica
Considera las posibles consecuencias. He utilizado MS Copilot para buscar cada instancia de "ciberseguridad" en un contrato con fines de cumplimiento, y resultó que la herramienta GenAI lo pasó por alto 23 de 27 veces. Intentar "desmenuzar" un documento línea por línea en una matriz de Excel para el cumplimiento, una tarea que requiere una repetibilidad perfecta, es otro caso de uso inadecuado en el que GenAI falla.
Para las empresas, especialmente en los sectores regulados, es peligroso utilizar GenAI para tareas en las que la exactitud de los hechos es primordial. Los usuarios pueden confiar en los resultados debido a la credibilidad de la marca, sin darse cuenta de los riesgos de la inexactitud.
Los fracasos en el mundo real, como el chatbot de Air Canada que proporcionó información falsa que dio lugar a una demanda judicial, ponen de relieve el importante daño a la marca y a la confianza que puede causar una GenAI inexacta.
Entonces, ¿dónde es útil GenAI para la redacción empresarial?
GenAI es ideal para tareas en las que la variabilidad, la creatividad o una respuesta "suficientemente buena" son aceptables o deseadas.
Los casos de uso apropiados incluyen:
- Creación del primer borrador: Generación de versiones iniciales de documentos como planes de gestión, resúmenes ejecutivos o secciones de propuestas basadas en el contexto. Esto puede ahorrar mucho tiempo.
- Asistencia creativa: Reescritura de contenidos en un tono o estilo diferentes.
- Resumir: Condensación de documentos extensos.
- Simplificación/Reflexión: Hacer más accesible un texto complejo o refinar párrafos.
- Investigación y análisis: Uso de datos públicos para el análisis de la competencia o la investigación de ventas cuando no se requiere una precisión perfecta en cada detalle para generar ideas. Utilización de PNL (otro tipo de IA) para el análisis temático de comunicaciones con el fin de comprobar la coherencia del mensaje.
Más allá de los simples chatbots, el verdadero valor reside a menudo en las aplicaciones especializadas. Estas incorporan GenAI en flujos de trabajo para tareas específicas, combinando de forma inteligente GenAI para tareas creativas/de redacción con software determinista para funciones críticas de precisión como la puntuación de legibilidad o las comprobaciones de conformidad.
Entienden el "trabajo que hay que hacer" y aplican la tecnología adecuada. NotebookLM, que genera resúmenes sonoros de documentos, es un gran ejemplo de aplicación centrada.
Basura dentro, basura fuera: la verdad poco sexy de la gestión del conocimiento
La IA generativa, incluso cuando se combina con técnicas como la Generación Aumentada de Recuperación (RAG) para acceder a datos propios, no es una varita mágica que pueda superar la mala calidad de los datos. El viejo adagio "basura entra, basura sale" es más pertinente que nunca. Si sus bases de conocimiento internas son un caos de contenidos obsoletos, múltiples revisiones y documentos mal etiquetados, el resultado de la IA reflejará ese caos.
Como señala Harvard Business Review, "las empresas deben abordar la integración y el dominio de los datos antes de intentar acceder a ellos con IA generativa". Una buena higiene de los datos -estructuras de carpetas claras, convenciones de nomenclatura y procesos para mantener el contenido- es crucial, pero es fundamentalmente un problema de comportamiento humano, no sólo tecnológico. Invertir ahora en una gestión adecuada del conocimiento reportará beneficios cuando se implante cualquier solución de GenAI.
Seguridad de los datos: el talón de Aquiles de las empresas
Muchos chatbots de IA populares se basan en LLM públicos basados en la nube. Para las empresas, especialmente las de sectores regulados como la defensa, las finanzas y la sanidad, introducir datos confidenciales o PII (Personally Identifiable Information, información de identificación personal) en estos modelos públicos supone un riesgo de seguridad importante. Los responsables de seguridad de la información (CISO, por sus siglas en inglés) desconfían, y a menudo bloquean por completo las interacciones con estos modelos.
El camino más seguro para las empresas pasa por alojar los LLM en una nube privada o en las propias instalaciones, totalmente bloqueados tras el cortafuegos. El auge de potentes modelos de código abierto como Llama 4 o Mistral Nemo, que pueden desplegarse de forma segura dentro de la empresa, es una tendencia bienvenida. Este cambio es tan significativo que una encuesta realizada el año pasado a los CIO de Barclays indicó que el 83% planea repatriar algunas cargas de trabajo de la nube pública, en gran parte impulsado por consideraciones de IA.
El verdadero motor: personas y procesos
La mayoría de los proyectos de IA fracasan no por la tecnología, sino por problemas relacionados con las personas, los procesos, la seguridad y los datos. La falta de compromiso, una estrategia deficiente, unos datos inadecuados y una gestión del cambio y formación de los usuarios insuficientes son escollos habituales.
Implantar chatbots de IA sin formar a los usuarios sobre:
- Alucinaciones
- Necesidad de verificar los resultados
- Indicaciones eficaces
- Tareas cruciales para las que no se debe utilizar GenAI
...conducirá a la frustración y al fracaso del proyecto.
Empiece por el problema empresarial que necesita resolver y, a continuación, asigne la tecnología adecuada a esa tarea. No se limite a buscar la "nueva tecnología brillante". Defina sus objetivos, mida el éxito (cuantitativo y cualitativo) e implique a los usuarios finales desde el principio.
Cuando evalúe a los proveedores, vaya más allá de las demostraciones cautivadoras. Haga preguntas concretas sobre la precisión, la repetibilidad, el manejo de datos, la postura de seguridad y su comprensión de los casos de uso específicos y las necesidades del sector. Pruebe siempre antes de comprar e investigue cuidadosamente a los proveedores. Desconfíe de los proveedores que prometen demasiado o afirman que la GenAI puede hacerlo todo.
En resumen, los chatbots de IA populares ofrecen capacidades interesantes, pero no son mágicos. Son herramientas potentes con limitaciones significativas. Las empresas de éxito adoptarán un enfoque pragmático y reflexivo: comprenderán la naturaleza no determinista de la GenAI, la aplicarán estratégicamente a las tareas adecuadas (como la redacción creativa), aprovecharán las aplicaciones híbridas, invertirán en la calidad y seguridad de los datos y, lo que es más importante, se centrarán en las personas y los procesos necesarios para una adopción y una gestión del cambio eficaces.
Este es el camino para liberar realmente el valor de la IA.
