"La IA es muy potente, pero se equivoca mucho": nuestro equipo presenta en COPE Trustbrief, la herramienta contra las fake news generadas con IA
Malen Aguirre, Mencía González-Haba y Luis Bravo pasaron por 'Lo que viene', el programa de COPE con José Ángel Cuadrado, para contar cómo funciona Trustbrief, la solución contra la desinformación que nació del hackathon del Gobierno de España y les llevó a representar a nuestro país en la ONU. Aquí tienes la entrevista en vídeo.
Madrid. La inteligencia artificial tiene una paradoja incómoda — la misma tecnología que multiplica el acceso al conocimiento también amplifica los bulos. Y quien mejor lo explicó fue nuestro propio equipo en 'Lo que viene', el programa de COPE con José Ángel Cuadrado, donde Malen Aguirre, Mencía González-Haba y Luis Bravo presentaron Trustbrief, la herramienta que han creado para verificar la fiabilidad de la información. Como resume el titular que eligió la propia COPE, "la IA es muy potente, es muy buena, pero se equivoca mucho".
También puedes escuchar el audio original en la web de COPE.
Del hackathon del Gobierno de España a la ONU
Trustbrief no nació en un despacho. Como contó Mencía en antena, la idea surgió tras ganar el primer premio del hackathon organizado por el Gobierno de España, a través de la SEDIA, en Zaragoza — el 'Reto IA Responsable y Abierta en Industria'. Aquel premio les llevó a representar a España en la sede de Naciones Unidas en Nueva York, dentro de la Semana del Código Abierto, donde el proyecto siguió creciendo en el reto de UNICEF 'From data to action'.
Una IA preparada para no alucinar
La clave de Trustbrief está en algo que suena simple y no lo es. Antes de dar una respuesta por válida, verifica que el artículo o la fuente coinciden — fundamental en un momento en el que, como se dijo en el programa, "muchos estudiantes y mucha gente está aprendiendo de la IA". Malen explicó que el sistema está preparado "para no poder alucinar": no genera afirmaciones sin respaldo, sino que se apoya en fuentes verificadas de UNICEF, una base de datos europea y otra de la ONU que estará disponible en septiembre.
Es la misma filosofía que aplicamos en todo lo que construimos en Logixs — la potencia de la IA solo vale si va acompañada de trazabilidad, fuentes y supervisión. Lo dijimos al analizar los riesgos del código generado por IA y lo repetimos aquí: el problema no es la inteligencia artificial, sino usarla sin mecanismos de verificación.
Jóvenes, y en guerra contra los bulos
Hay algo más en esta historia que nos llena de orgullo. Malen, Mencía y Luis son la prueba del talento joven en el que llevamos años invirtiendo — dos desarrolladoras de GenAI de 26 y 21 años y nuestro responsable de Seguridad de la Información, sentados en una radio nacional explicando cómo se doma a la IA para que diga la verdad. El mismo equipo que ganó un hackathon nacional, representó a España en la ONU y ahora le ha declarado la guerra a las fake news.
Dale al play y escucha cómo lo cuentan ellos. Y si quieres explorar qué puede hacer la IA con verificación y criterio en tu organización, hablemos.
Claves de la noticia
Una herramienta creada por el equipo de Logixs que verifica la fiabilidad de la información antes de dar una respuesta por válida, apoyándose en fuentes verificadas de UNICEF, una base de datos europea y otra de la ONU.
El sistema está diseñado para no poder alucinar: contrasta que el artículo o la fuente coinciden antes de validar cualquier afirmación, en lugar de generar respuestas sin respaldo.
Del primer premio en el hackathon de IA Responsable organizado por el Gobierno de España (SEDIA) en Zaragoza, que llevó a sus creadores a representar a España en la sede de la ONU en Nueva York.