Cómo las salas de redacción utilizan chatbots para apoyar sus propios reportajes y construir confianza

Pregúntale a alguno de los principales chatbots de IA o a un motor de búsqueda una pregunta de este estilo: “¿Cómo afectó a los precios mundiales del petróleo el bombardeo de Irán por parte de los Estados Unidos?”. Recibirás una serie de cifras que parecen confiables, hipervínculos para portales y tendencias. La larga respuesta de ChatGPT, por ejemplo, comienza: “El crudo Brent subió más de 3 por ciento durante un periodo breve, llegando a rondar los 81 a 82 dólares por barril, el precio más alto desde enero”.

Hazle la misma pregunta al chatbot IA interno de una sala de redacción, como “Ask The Post AI” del Washington Post, y probablemente recibirás una respuesta con información clave, más simple y cuidadoso, con hipervínculos a los artículos que cita como fuentes: “Hasta el momento los precios del petróleo han fluctuado, con una reducción de aproximadamente 1 por ciento en el crudo mundial, pero la situación sigue siendo incierta”.

La principal diferencia es la confiabilidad de las fuentes de información de estas respuestas. Los chatbots IA de los grandes modelos de lenguaje (LLM, por sus siglas en inglés) realizan búsquedas en casi todo el internet, incluyendo fuentes no confiables. Entretanto, durante los últimos años, varias grandes salas de redacción, de las Filipinas al Reino Unido, han introducido chatbots IA generativos internos que se supone responden preguntas de los lectores sólo con base en los reportajes de su portal y las bases de datos de fuentes confiables, usando unas estrictas salvaguardas en sus códigos, diseñadas para impedir que se filtre desde fuera la desinformación o el sesgo.

Algunos ejemplos de estas interfaces de noticias inteligentes que están a la vanguardia son la herramienta Rai de Rappler en las Filipinas, Ask FT  del Financial Times, el chat  Adelaide de Forbes, y Ask The Post AI.

(Nota: Estas son diferentes a las herramientas IA para resumir noticias, creadas por medios como The Wall Street Journal, Bloomberg y Yahoo News, las cuales no responden preguntas de los lectores, sino que dan a los lectores que tienen poco tiempo libre  la opción de presionar una pestaña para obtener resúmenes de las historias en viñetas).

Todas estas herramientas de chabots son experimentales y pueden presentar errores, en parte porque están diseñadas sobre la base de LLMs, que son notoriamente propensos al sesgo, los errores y las “alucinaciones”.

No obstante, dados los problemas de la desinformación, la falsa atribución, las opiniones no sustentadas y los sesgos que afectan a las búsquedas más amplias en internet, estos chatbots IA comparten el noble propósito de ofrecer a los lectores información sólida, en la que pueden confiar por su lealtad hacia los medios que la respaldan. Las respuestas se generan a partir de historias en el archivo del medio, que están plenamente reportadas y editadas. A pesar de las potenciales fallas de los chatbots de IA, los expertos son cautamente optimistas de que pueden ofrecer a las salas de redacción algunas soluciones para tener más lectores y participación, llegar a más jóvenes, e incluso lograr potenciales fuentes de ingresos basadas en suscripciones.

Imagen: Toma de pantalla, Rappler / Rai

Rai, de Rappler, comenzó como un experimento de bajo riesgo: un “moderador” IA para un grupo de foco que discutía dentro del espacio relativamente seguro del chatroom de Rappler. En octubre de 2024, creció para convertirse en una herramienta más ambiciosa dentro del app de Rappler: un bot de conversaciones, y no una herramienta de resúmenes. El chatbot sólo responde preguntas sobre los hechos que se encuentran en 400.000 historias publicadas por Rappler y bases de datos verificadas. Según Gemma Mendoza, directora de servicios digitales de Rappler, las fuentes del bot incluyen más de 350.000 artículos publicados desde el inicio de Rappler en 2011, más 10 años de historias investigativas y a profundidad de su predecesor, Newsbreak Magazine, y bases de datos sobre los resultados, candidatos y listas de votantes de las últimas cinco elecciones nacionales y locales en Filipinas.

Mendoza dice que uno de los principales propósitos para lanzar Rai fue incentivar a los lectores a descargar y usar la app para móvil, Rappler Communities.

“Las redes sociales realmente han reducido la priorización de las noticias, ¿así que cómo puedes estar conectado con tu audiencia?, ¿cómo puedes tener un tráfico sostenible e involucrar a tu audiencia con tu contenido?”, pregunta Mendoza. “Una forma de hacerlo es mediante newsletters, que no se usan mucho aquí en Filipinas. Tenemos objetivos ambiciosos de participación con nuestra app, y Rai introduce más formas de presentar nuestro contenido e interactuar con él”.

Se supone que cada 15 minutos, la base de datos de ‘gráficos de conocimiento’ tras el sistema debería añadir los reportajes e investigaciones más recientes a su arsenal archivado de historias y bases de datos verificadas, y Rai entonces ofrece a los usuarios del app respuestas informadas y relativamente actualizadas, junto con vínculos a varias historias.

“El problema en general con la IA es que obtiene su información de todas partes, y básicamente trata todas las fuentes como si fueran igualmente válidas”, dijo Mendoza. “En Rappler estamos seguros de la solidez de nuestras historias y verificamos los hechos, y esa es entonces la base de Rai”.

Sin embargo, los medios no tienen equipos de ingeniería de datos tan grandes como los proveedores comerciales, para mantener estos complejos sistemas. Por ello, aún es común que se presenten errores en esta fase experimental de los medios con sus chatbots. Por ejemplo, durante varias semanas en julio, Rai no incluyó las más recientes historias a causa de un problema con su función de actualización, así que algunas respuestas estaban desactualizadas.

A pesar de tener bases en la infraestructura de los LLM, Mendoza dice que la versión más reciente y personalizada de Rai incluye protecciones innovadoras y extremadamente estrictas, para impedir que la información de fuera contamine los resultados.

Como dice la nota explicativa en la app: “Con este chatbot no sucede lo mismo que con otros, que usan portales aleatorios como fuentes de información, cuyo contenido no puedes necesariamente verificar, y que finalmente se convierten en recicladores de basura”.

“Es muy conversacional, pues creamos una infraestructura sobre LLMs actuales. Además, es agnóstico, así que podemos moverlo a otros LLMs si lo deseamos”, explicó Mendoza. “Las respuestas se toman de historias publicadas y datos estructurados”.

Mendoza añadió: “Nos enfocamos en temas en los que Rappler es muy bueno, comenzando con la política”.

Limitaciones de los chatbots

La herramienta de IA generativa, Ask FT, sólo está disponible para suscriptores de nivel “FT Professional”, y obtiene sus respuestas de archivos del Financial Times que se remontan a 2004.

En mayo, Bill Grueskin, profesor de prácticas profesionales en la Escuela de Periodismo de Columbia, puso a prueba este chatbot, y notó que si bien sus datos están verificados periodísticamente, algunas respuestas rápidamente revelan las limitaciones de la base de datos de la herramienta. Por ejemplo, “no puede responder preguntas como ‘¿cuántos automóviles vendió Tesla en 2024?’”.

No obstante, a pesar de no ser un usuario frecuente de IA, Grueskin encontró varias ventajas en el chatbot.

“La interfaz es sencilla”, dijo. “Hay una caja en la que escribes tu pregunta, como ‘¿Qué es lo más reciente sobre la guerra comercial entre China y Estados Unidos?’, y en segundos arroja una respuesta cierta, inteligente y resumida, con notas a pie de página y vínculos a historias del FT que sustentaron su respuesta”.

En una entrevista con GIJN, Grueskin dice que el modelo IA del medio ofrece una promesa modesta de interacción con las noticias, un público mejor informado y mucha mejor búsqueda de archivo.

Ask FT obtiene sus repuestas de archivos del Financial Times que se remontan a 2004. Imagen: Shutterstock

“En general me gusta la idea”, explica. “En primer lugar, porque la mayoría de los motores de búsqueda de los portales periodísticos son terribles. Incluso los de los grandes medios te dan resultados malos y no te dejan organizarlos según la fecha. Recibo resultados mucho mejores cuando por ejemplo pongo los términos en Google junto con ‘site:nytimes.com’, por ejemplo. Es genial si la IA logra mejorar la experiencia y las respuestas son de una base de datos subyacente que involucra historias editadas que ya están publicadas, y que incluye las correcciones posteriores cuando el periodista cometió algún error”.

Añadió: “Todo asumiendo que esto puede hacerse sin que la IA introduzca citas y datos alucinados”.

La doctora Latanya Sweeney, directora del Public Interest Tech Lab del Harvard Kennedy School, dijo que un posible problema con los chatbots en los medios, además de sus limitadas bases de datos, es que los programas IA pueden inadvertidamente arrojar respuestas equivocadas, basadas en cubrimientos anteriores. Por ejemplo, las respuestas sobre un sector del gobierno pueden verse afectadas por datos que surgieron de controversias en torno a ese tema que suscitaron un cubrimiento periodístico. Dice que algunas herramientas de interfaz de los medios pueden al final buscar un punto medio entre los rígidos límites de datos de un único archivo de noticias y el internet más amplio, con colaboraciones de archivos entre distintos medios.

“Si los artículos de tu archivo son muy limitados en cuanto a la especificidad con que tratan un tema, entonces podría sólo responder a preguntas desde esa perspectiva”, explica. “Podría haber una mejor respuesta con fuentes más adecuadas. Usar sólo tu archivo genera mucha rigidez, así que podría ser maravilloso tener un ecosistema de archivos periodísticos confiables [que alimenten las respuestas de la IA]”.

Los expertos dicen que su firewall digital contra portales externos reduce mucho el riesgo de que estos chatbots internos arrojen datos falsos, pero no lo eliminan.

Las respuestas de Rai caen bajo la usual política editorial de correcciones de Rappler, y piden a los lectores que indiquen por correo electrónico cualquier posible error. El medio dice: “Nos esforzamos por eliminar el origen del error y corregir el material fuente si hace falta”.

Para muchos usuarios, una de las características más refrescantes y que más confianza inspira en los chatbots es que a veces contestan a una pregunta con “no lo sé”. Si preguntas “¿Quién dio la orden de asesinar a Sir Henry Wilson en Londres en 1922?”, el chatbot del Post admite: “Lo siento, no pudimos generar una respuesta”. Sin embargo, ChatGPT responde confiado, “probablemente fue orden de Michael Collins, el líder del gobierno provisional del Estado Libre Irlandés”, a pesar de que esta es una afirmación muy contenciosa, que genera muchas divisiones en torno al evento que detonó la Guerra Civil Irlandesa.

“Un problema con la IA es que tiende a  responder preguntas incluso si no tiene los datos verificados para hacerlo, así que debe haber salvaguardas”, advierte Mendoza. “Rai sabe cómo decir, ‘no sé esto’, a menudo porque no cree que pueda interpretar bien la pregunta”.

En el lanzamiento de Rai, el director de datos e innovaciones de Rappler, Don Kevin Hapal, dijo que la inciativa podría ser un modelo que los medios sin ánimo de lucro podrían imitar: “Con Rai no estamos simplemente lanzando otra herramienta IA, sino definiendo cómo los medios pueden aprovechar los datos y la IA para generar confianza dentro del público. Al anclar Rai en la honestidad del periodismo de rigor de Rappler, estamos demostrando que la IA puede integrarse de forma responsable y apoyar la verdad frente a la desinformación”.

Antes de que surgiera la IA generativa, algunos portales de investigación ofrecían interfaces de preguntas sobre noticias basados en árboles de decisión interactivos.

Un famoso ejemplo es LaBot, de Chile, en el que entre 2017 y 2023 los usuarios podían usar pestañas para encontrar respuestas sobre los reportajes publicados en su propio medio, en un estilo conversacional, mediante Telegram o Facebook Messenger, al elegir una serie de preguntas ya anticipadas y diseñadas por los periodistas.

Francisca Skoknic, una cofundadora de LaBot, dijo que la popularidad del chatbot experimental ilustra el apetito general de los lectores por tener conversaciones cortas y confiables sobre los hechos.

“Pienso que estos chatbots [IA para medios] tienen sentido porque, muchas veces, la gente no tiene el tiempo para leer artículos enteros, pero queremos respuestas específicas de una marca en la que confiamos, en especial si, al igual que Rappler, es un medio con información comprehensiva y verificada sobre temas de actualidad en un país”, dijo Skoknic. “Pero es importante que estas herramientas puedan decir ‘no lo sé’, en lugar de forzosamente dar respuestas. Los chatbots pueden generar una conexión emocional, lo cual es muy distinto que las noticias”.

Imagen: Toma de Pantalla / LaBot, de Chile

Uso interno y desarrollo

Mendoza dice que el chatbot también le ha ayudado a los periodistas de Rappler a prepararse para historias periodísticas.

“Nuestro equipo editorial lo ha usado mucho”, señaló. “Por ejemplo,aunque nuestro periodista en temas religiosos hace su propia reportería de base para sus historias, como un apoyo adicional hace búsquedas de contexto con Rai para facilitarle sintetizar lo que Rappler ya sabe”.

Añadió: “Una forma de usar Rai es recibir ayuda sobre temas que no siempre estás siguiendo. Hay muchas audiencias judiciales muy extensas sobre los fondos confidenciales del [ex] presidente Duterte, y dado que debes estar al día, puedes pedirle las más recientes actualizaciones. Por ejemplo: ‘¿cuáles fueron las preocupaciones sobre los fondos de seguros de salud?, ¿por qué se recortó el presupuesto?, ¿quién es este personaje que sale en las noticias? Puedes preguntarle a Rai”.

Para otros medios que estén considerando lanzar sus propios chatbots IA, Mendoza advierte que es crucial que los periodistas estén completamente involucrados con los objetivos de diseño.

“Sí, necesitas ingenieros de datos y desarrolladores, y debes desplegar estas herramientas en fases”, explicó. “Es importante que los ingenieros no estén solos. Debes tener una integración muy estrecha entre la ingeniería y el contenido. Necesitas una mentalidad editorial que guíe cómo se diseñan los bots”.

Mendoza añadió que las salas de redacción deberían comenzar definiendo el propósito de un posible chatbot, y tener una clara comprensión de qué puede y qué no puede hacer la tecnología.

“Los resúmenes pueden ser fáciles de instalar y usar, pero los chatbots conversacionales no”, explica. “Es importante que haya una arquitectura de salvaguardas allí. De lo contrario hay posibilidades de que invente cosas”.

Rowan Philp es reportero global y editor de impacto de GIJN. Anteriormente fue jefe de reporteros en el Sunday Times en Sudáfrica. Como corresponsal extranjero, ha informado sobre noticias, política, corrupción y conflictos de más de dos docenas de países alrededor del mundo.