- Una nueva investigación reveló que los principales chatbots de IA proporcionaban con frecuencia información electoral incorrecta
- Los investigadores afirman que sistemas como ChatGPT, Gemini, Claude y Grok siguen teniendo dificultades para verificar las fuentes y garantizar la precisión política
- Los chatbots de IA se están convirtiendo en herramientas de información de confianza incluso antes de que sean fiables en lo que respecta a las elecciones
Las empresas de IA están muy interesadas en convertir a sus chatbots en una fuente de información. Sin embargo, un nuevo estudio sugiere que la información electoral sigue siendo un ámbito en el que esa confianza podría estar superando la madurez de la tecnología.
NewsBench, un proyecto creado por Forum AI que estudia cómo los sistemas de IA manejan el periodismo y la información noticiosa, descubrió que los principales chatbots de IA tuvieron dificultades repetidas veces cuando se les hicieron preguntas relacionadas con las elecciones. Los hallazgos se suman a la creciente evidencia de que los sistemas de IA conversacional siguen siendo poco confiables en una de las categorías de mayor importancia: ayudar a las personas a comprender la democracia misma.
«Si le haces una pregunta a uno de los principales chatbots de IA sobre las próximas elecciones de mitad de mandato, hay un 90 % de probabilidades de que la respuesta tenga algún error sustancial: un dato incorrecto, una clara inclinación partidista, una cita de un medio extranjero controlado por el Estado, o una combinación de los tres», escribió Forum en un resumen del estudio.
La preocupación general va más allá de un solo chatbot o una sola empresa. ChatGPT, Gemini, Claude, Grok y otros chatbots importantes tienen problemas.
Los investigadores de NewsBench se centraron específicamente en cómo los sistemas de IA recuperan y presentan información factual de fuentes periodísticas. Sus hallazgos apuntan a una debilidad recurrente. El problema a menudo no es el razonamiento. Es la recuperación.
Problemas de confianza
Los sistemas de IA suelen fallar porque recurren a fuentes poco fiables, información incompleta o material incorrecto antes incluso de empezar a generar una respuesta. Los investigadores descubrieron que los fallos en la recuperación de información fueron la causa de más del 70 % de los errores observados. Cuando los sistemas lograban recuperar información confiable, a menudo respondían correctamente. Sin embargo, acceder a la información adecuada de manera consistente seguía siendo el mayor desafío.
Ese problema se vuelve especialmente incómodo durante las elecciones. El chatbot suena seguro de sí mismo independientemente de su precisión. Las respuestas están redactadas de forma clara, con citas y un lenguaje autoritario. Incluso la información incorrecta puede parecer confiable cuando se presenta con suficiente seguridad.
Los estudios relacionados con las elecciones muestran cada vez más lo peligrosa que puede llegar a ser esa combinación. Los chatbots a menudo mezclan detalles precisos con inexactitudes de una manera que a los usuarios les parece natural. El resultado no se parece a los sitios web de desinformación de épocas anteriores de Internet. Se asemeja a la experiencia.
Esa distinción es importante porque la gente trata cada vez más a los chatbots no como software experimental, sino como infraestructura. OpenAI, Google, Anthropic y otros desarrolladores animan habitualmente a los usuarios a verificar la información importante de forma independiente. Las empresas siguen firmando acuerdos de licencia con los editores, en parte con la esperanza de mejorar la calidad de las fuentes y reducir los errores fácticos.
Presión electoral
Incluso los modelos más avanzados tuvieron dificultades cuando fallaba la selección de fuentes. La precisión solía reducirse aún más cuando las preguntas contenían imprecisiones sutiles o suposiciones engañosas, de forma similar a como suelen formular las preguntas los usuarios reales en Internet.
El momento actual genera una presión adicional. Las empresas de IA están lanzando al mercado herramientas de información cada vez más sofisticadas, mientras que los reguladores siguen avanzando a ritmos desiguales en los distintos países. Europa ha sido más estricta en cuanto a los requisitos de transparencia. Otros gobiernos se encuentran en una fase más temprana del proceso. Mientras tanto, la adopción sigue creciendo.
La solución a largo plazo podría implicar una atribución de fuentes más sólida, sistemas de recuperación más transparentes, una mejor tecnología de procedencia y una infraestructura editorial más sólida que sustente los productos de IA. El reto es que las elecciones no esperan a que las empresas tecnológicas terminen de mejorar sus sistemas. Los votantes utilizan las herramientas disponibles hoy en día, y está claro que estas herramientas necesitan mejoras.
Sigue a TechRadar en Google Noticias y añádenos como fuente preferida para recibir nuestras noticias, reseñas y opiniones de expertos en tus feeds.
