La confianza que los usuarios depositan en los chatbots de inteligencia artificial (IA) para obtener respuestas rápidas sobre temas complejos puede derivar en la aceptación de narrativas distorsionadas. Según una investigación liderada por Hyrije Mehmeti, estos sistemas funcionan cada vez más como herramientas de referencia, pero no garantizan la veracidad de la información, especialmente en contextos geopolíticos sensibles.
Lo que debe saber
- Los chatbots de IA pueden ofrecer versiones distintas de la realidad política según el país de origen del usuario.
- El sistema ruso Alice mostró mayores desviaciones ideológicas y evasiones en temas de los Balcanes Occidentales.
- La fluidez y autoridad del lenguaje de la IA pueden ocultar falta de rigor fáctico en temas históricos.
- Los chatbots de IA pueden ofrecer versiones distintas de la realidad política según el país de origen del usuario.
- El sistema ruso Alice mostró mayores desviaciones ideológicas y evasiones en temas de los Balcanes Occidentales.
- La fluidez y autoridad del lenguaje de la IA pueden ocultar falta de rigor fáctico en temas históricos.
Variaciones según el sistema y la ubicación
El estudio, titulado «La verdad según los chatbots», analizó el comportamiento de tres chatbots seleccionados para responder preguntas sobre temas delicados de índole política e histórica: ChatGPT (Estados Unidos), DeepSeek Chat (China) y Alice (Rusia).
El equipo evaluó cómo estos modelos respondían a cien prompts estandarizados que abarcaron temas como la independencia de Kosovo, el legado de la guerra, el reconocimiento internacional, la integración de los países de los Balcanes occidentales a la Unión Europea, políticas de memoria, disputas regionales e interrogantes sobre comparativas globales como Crimea, Chipre y otros territorios en disputa.
Aunque la mayoría de las respuestas fueron correctas en términos generales, el análisis demostró que ninguno de los sistemas es completamente neutral. ChatGPT y DeepSeek Chat mostraron una alta consistencia y similitudes semánticas en sus respuestas, lo que sugiere un método compartido para estructurar las narrativas sobre la región de los Balcanes. En contraste, el chatbot ruso Alice mostró un desempeño más débil, con un mayor número de evasiones temáticas y desviaciones ideológicas en asuntos políticamente delicados.
En la segunda parte del estudio, el equipo analizó las mismas tres preguntas delicadas sobre seis países de los Balcanes occidentales: Kosovo, Albania, Macedonia del Norte, Montenegro, Serbia y Bosnia Herzegovina. Los hallazgos mostraron que la ubicación geográfica del usuario influyó en los resultados: mientras que los modelos estadounidenses y chinos se mantuvieron relativamente estables, Alice se comportó diferente según el país.
En algunos casos, el sistema ruso respondió en ruso, en otros se rehusó por completo a responder y en otras ocasiones mezcló idiomas dentro de una misma respuesta, aun cuando todos los prompts estaban en inglés. Estos hallazgos indican que la información recibida por un usuario puede depender no solo de la pregunta, sino también de la plataforma tecnológica y la ubicación desde la cual se accede a ella.
Riesgos de la verosimilitud sobre la verdad
Los modelos de lenguaje de gran tamaño (LLM) están diseñados para generar texto fluido y convincente, pero la fluidez no asegura la precisión fáctica. El riesgo principal radica en que los sistemas pueden convertirse en amplificadores de realidades distorsionadas si se entrenan con datos desequilibrados o filtrados por restricciones políticas.
La investigación no establece una coordinación directa entre desarrolladores de los chatbots y actores políticos, ni sugiere que cada respuesta incorrecta supone una manipulación deliberada. Sin embargo, advierte que las poderosas compañías tecnológicas median cada vez más en el acceso al conocimiento público, haciendo que los procesos que moldean las respuestas sean difíciles de auditar para el usuario común.
Para mitigar estos riesgos, la autora de la investigación sugiere que los proveedores de estas plataformas incrementen la transparencia sobre sus fuentes y mecanismos de verificación. Por su parte, los periodistas y usuarios deben mantener una actitud crítica, comparando siempre los resultados de la IA con múltiples fuentes confiables para identificar posibles sesgos o vacíos informativos.











