Santiago Ferrís Gil es jefe del servicio de Telecomunicaciones de la Generalitat Valenciana. Miembro fundador del capítulo de ISACA (Information Systems and Control Association) de la Comunidad Valenciana.
“El debate sobre si conseguiremos o no producir una Inteligencia Artificial General comparable a la de los seres humanos y de ser capaces, cuál será su impacto, es una de las cuestiones más importantes que debemos afrontar en nuestro tiempo”
Una entrevista de Alberto Martínez Díaz para Divulgadores de la Historia.
Santiago Ferrís Gil es jefe del servicio de Telecomunicaciones de la Generalitat Valenciana. Miembro fundador del capítulo de ISACA (Information Systems and Control Association) de la Comunidad Valenciana.
Experto en el sector de las telecomunicaciones y las tecnologías de la información. Ingeniero de Telecomunicación y Máster en Higiene Industrial y en Ergonomía y Psicosociología aplicada, ambos por la Universidad Politécnica de Valencia. Máster en Administración de Empresas (MBA) y en Industria 4.0, por PEAKS Business School. Experto generalista en Machine Learning e Inteligencia Artificial, le ha interesado sobre todo las cuestiones en relación con la ética de la IA y su impacto en la Sociedad.
Ha colaborado con artículos sobre la IA y su impacto en la Sociedad y la economía, con la revista online “Economía Digital”, con el Anuario de la Educación sobre el uso de medios digitales en las aulas durante la pandemia de COVID-19. Es profesor de “Inteligencia Artificial” en el Máster de industria 4.0 de Peaks Business School y también en el máster del mismo nombre de la Cámara de Comercio de Valladolid. También es coordinador del módulo de “Inteligencia Artificial” del curso de posgrado “responsabilidad patrimonial y nuevas formas de gestión de los servicios públicos”, de la Universidad Cardenal Herrera. Colabora asimismo con AUTELSI (Asociación de Usuarios de las Telecomunicaciones y Sistemas de Información, con artículos sobre IA en su revista digital “AutelsIinsights” y como miembro del grupo de expertos en las tecnologías 5G. Pueden leerse artículos suyos en su sitio web: https://santiferris.com/
Muchas gracias, Santiago por dedicarnos tu tiempo a un tema tan interesante y controvertido que además está de plena actualidad como es la aplicación de la inteligencia artificial en determinadas tareas que en nuestro caso sería la divulgación histórica. ¿Podrías resumirnos para nuestros lectores, brevemente y de manera sencilla, que es la inteligencia artificial?
Existen múltiples definiciones cada una de las cuales es adecuada para determinados propósitos, por ejemplo, en el ámbito empresarial en relación con los problemas que nos permite abordar, en el filosófico, en relación con si la inteligencia es suficiente como actuar como un ser humano o si debe incluir los procesos de pensamiento humanos, o incluso definiciones apropiadas basadas en los “principios básicos”, que nos permiten a los ingenieros construir los sistemas de inteligencia artificial como más propiamente lo deberíamos denominar- y las restricciones a las que nos hemos de sujetar en ese proceso.
La definición de tipo general que mejor captura a mi juicio lo que es la Inteligencia Artificial (IA), es la de “sistemas computacionales que llevan a cabo tareas que cuando las realiza un ser humano, requieren inteligencia”. Y es que, aunque es muy difícil definir la inteligencia, su naturaleza es tal que es mucho más fácil reconocerla detrás de una acción o de un pensamiento.
En todo caso, por inteligencia entiendo la definición, muy general, independiente de un dominio o tarea concreta, no antropocéntrica y sin vinculación con el substrato físico en que tiene lugar, firmada en 1994 por un grupo de 52 psicólogos reunidos para definir la “ciencia de la inteligencia”: “una capacidad mental muy general que entre otras cosas, involucra la capacidad de razonar, planear, pensar de forma abstracta, entender ideas complejas, aprender rápidamente y aprender de la experiencia”.
Personalmente, creo que cuando haces divulgación histórica debes someterte a unas estrictas reglas similares a las utilizadas en la publicación académica, al menos deben contemplar la rigurosidad en la información y la cita de fuentes empleadas. Una de las pegas que tienen las aplicaciones de I.A más difundidas entre el gran público como chat GPT es que se cuela información errónea que no parece importar a gente con pocos escrúpulos que solo le interesa fabricar mucho contenido para aumentar su audiencia en redes sociales o páginas web monetarizadas ¿Qué opinión tienes al respecto?
Bueno, estoy de acuerdo en que la divulgación histórica debe ser rigurosa y si no lo es, debe indicarlo para que los textos no sean tomados por la gente como fuente de autoridad o precisión. Pero, claro que lo hagan o no, es una consideración ética de la persona que pretende divulgar un contenido haciéndolo pasar como lo que no es y no sé si tiene una solución más allá de la exposición constante de estas prácticas, como ya se viene haciendo con las noticias engañosas producidas de forma artificial o no, conocidas como “fake news”. Las medidas coercitivas, me parecen como poner puertas al campo. Creo que aquí aplica el viejo adagio de “todas las tecnologías son neutras, lo que no lo es nuestra intención a la hora de utilizarlas”. Esta afirmación, que es universalmente cierta para cualquier tecnología, es dolorosamente evidente en el caso de la IA, dado que se trata de una tecnología absolutamente transversal con el potencial para transformar la Sociedad más incluso de lo que supuso en su día la invención de la electricidad y al mismo nivel que el descubrimiento del fuego, sino más.
ChatGPT y otros Modelos Grandes de Lenguaje -que es el nombre técnico- de esta nueva generación de IA que nos está disrumpiendo, salen directamente de la “lectura” sin ningún tipo de supervisión humana, de grandes porciones de Internet y como tal contiene información que no siempre está contrastada y mucho menos curada por expertos o por ser más precisos, también existe esta información, pero sólo es una fracción del total con el que la IA ha sido entrenada. En el fondo son gigantescos modelos probabilísticos que en esencia son capaces de predecir la continuación de un texto más probable con la novedad de que en sus últimas versiones son capaces de entender también bastante bien el contexto en el que se produce una pregunta o se da una frase o un párrafo en particular gracias a un “mecanismo de atención”, que no es muy distinto del utilizado en nuestros cerebros biológicos y que nos permite saber qué parte de una frase son importantes para resumir o completar un texto.
Como consecuencia de todo ello, estos “modelos de base” tal cual se ponen a disposición del público, todavía no son capaces de realizar una comprobación rigurosa de hechos, sino que simplemente a partir de los hechos que han aprendido son capaces de escribir sobre ellos de forma sintácticamente correcta -como lo habría un ser humano- pero no necesariamente fácticamente ajustada. En la divulgación histórica no sólo has de tener los hechos correctos, sino que la exacta secuencia temporal en que estos hechos se despliegan es tan importante como los hechos mismos.
Arqueólogos e historiadores nos advierten de los riesgos de la reconstrucción artificial del patrimonio histórico de manera virtual especialmente con la creación de imágenes carentes de rigor o directamente anacrónicas ¿crees que debe existir una regulación en la publicación de imágenes creadas con IA o que al menos debe mencionarse la procedencia al igual que sucede con las obras de pintores y otro tipo de artistas? ¿Qué medidas se deben tomar para garantizar un uso responsable de la IA en la divulgación histórica?
En otros campos de conocimiento ya existe legislación que obliga, por ejemplo, a una IA conversacional a identificarse como tal de manera que el interlocutor humano sepa que no está manteniendo una conversación con otro ser humano. Y es que con el nivel de desarrollo que han alcanzado estos sistemas, sin esta advertencia y para una conversación relativamente corta, ya hay IA que nos engañarían completamente. Esto sería una versión libre del denominado test de Turing, que el genial matemático definió en 1950 cuando trató de dar respuesta a la pregunta “¿pueden ser las máquinas inteligentes?”.
Por otro lado, de acuerdo con el Reglamento General de Protección de Datos (RGPD), cualquier sistema de toma de decisiones automatizadas de carácter personal, además de identificarse debe permitir la inspección algorítmica de cómo la IA llegó a una determinada decisión (conocido como el “derecho a una explicación”).
En cuanto al tema de las imágenes generadas por IA, creo que debería indicarse si han sido generadas de esta manera y cuál ha sido la IA que lo ha generado (o si es una propia o un trabajo derivado de IA de generación de imágenes). Esto es especialmente importante cuando de la imagen quiera inferirse una representación que pretenda ser ajustada a una realidad histórica. De la misma manera, si en la generación de las imágenes ha habido un trabajo intenso por parte del historiador o del aficionado a la historia, en forma de ir haciendo progresivamente las preguntas adecuadas a la IA para obtener una imagen mucho más ajustada a lo que se pretende representar (esto se conoce como prompt engineering o ingeniería de resultados inmediatos, interactivos), o si posteriormente se han realizado retoques con otros programas de edición de imágenes que pueden o no incorporar una IA, entonces nos encontramos ante un trabajo conjunto entre la IA y el divulgador, por lo que en mi opinión ambos deberían aparecer citados y si hay espacio para ello incluir al pie una brevísima contribución de cada parte a la obra, no tanto en la cuantificación del esfuerzo de cada parte (que es difícil de valorar), sino especialmente, desde el punto de vista cualitativo (quien ha hecho qué, o como se ha llegado al resultado final).
¿Cómo puede la IA ayudar a preservar la veracidad y la objetividad en la presentación de la historia?
La forma en que se me ocurre sería haciendo lo que se conoce como un “entrenamiento fino” de los modelos de base, con información histórica curada y contrastada. De esta manera las IA así entrenadas nos permitirían hacer un chequeo fiable de datos, fechas, lugares y personajes.
Dado que la historia y la arqueología están sujetos a un error de interpretación de los hechos, la IA debería darnos una indicación de la fiabilidad de la información generada, teniendo presente que, como decía Popper, como toda teoría sobre el conocimiento, siempre puede ser falsada con un contraejemplo que nos obligue a revisar toda o parte de la interpretación histórica predominante o “generalmente aceptada”. Como ejemplo de lo que quiero decir, si apareciera de repente un libro sobre un tema determinado, en la casa de un personaje histórico importante, podríamos inferir que estaba influenciado por este tema o cualquier otra cosa parecida. Sin embargo, pudiera ser que alguien le regalara ese libro y que nunca llegara a leerlo (como a muchos nos ha sucedido). La IA podría ayudarnos a establecer si existen algunos otros indicios de ese personaje histórico que pudieran corroborar la afirmación de que fue un libro que ejerció una influencia sobre este personaje o se trata, más probablemente, de un suceso aislado sin correlación alguna, o débil en todo caso, con otros hechos.
De esta manera, si se pusieran a disposición de los divulgadores e investigadores históricos estos modelos mejorados con un profundo conocimiento, simplemente ante un texto determinado, escrito por un ser humano o por una IA, simplemente se le podría preguntar al sistema de “inspección” una serie de preguntas para valorar la calidad de la información contenida, por ejemplo, “comprueba si existen discrepancias en los datos históricos del texto, con los datos generalmente aceptados por la comunidad de historiadores”. A continuación, se le podrían preguntar cosas como: “indícame si los ambientes, olores y sonidos descritos en el texto se corresponden bien con lo que se sabe de dicha época y lugar”, etc.
¿Cuáles son las tendencias futuras que esperas en la aplicación de la IA en la divulgación histórica?
Bueno, un poco en la línea con lo que acabo de describir, creo que empezarán a proliferar modelos de IA mejorados específicos por diversas sociedades de historiadores y divulgadores históricos para determinados periodos de tiempo, integrando herramientas como por ejemplo el proyecto Orbis de la universidad de Standford (EEUU), una maravillosa herramienta cartográfica que nos permite calcular viajes, a pie a caballo o en barco y sus costes asociados, a través de las vías que tenían creadas los romanos allá por el siglo III d.C. Esta integración nos permitiría valorar mejor la velocidad de los cambios, movimientos de gente y conocimiento de la información por parte de las autoridades política so religiosas de la época.
De esta manera los divulgadores podrán contrastar sus textos para dotarlos de la máxima precisión y verosimilitud. Creo incluso que es posible que se desarrolle un uso específico, más académico, para cotejar la información y otro, más permisivo para ficciones históricas noveladas, en la que lo más importante será la coherencia de los ambientes y la existencia de los hechos y se preste menos atención a su ubicación completamente precisa o a la secuencia temporal exacta, porque será decisión del autor, respetar más o menos los hechos históricos. En todo caso, entiendo que en el segundo caso debería figurar alguna frase (que muchos autores ya ponen previo a la parición de las últimas IA generativas), del tipo “Los lugares, personajes y tramas son ficticios, aunque basados en hechos reales”, quizás añadiendo: “Han sido comprobados con el modelo de IA de la Sociedad Histórica XX (p.ej.) medievo español [nombre del modelo, versión YYY], arrojando una verosimilitud del ZZ% con respecto a la realidad histórica descrita”.
Creo que las capacidades generativas de las nuevas IA les permite “rellenar” los huecos de conocimiento que tenemos sobre la historia, lo que es tanto más relevante cuanto más pretérito es el periodo y menos fuentes escritas nos han quedado, lo que significa un mayor nivel de interpretación y por lo tanto una fragilidad mayor en las inferencias sobre hechos, ambientes, etc.
¿Cuál es tu mensaje final para aquellos interesados en explorar más sobre la IA aplicada a la divulgación histórica?
Bueno, en realidad todos estamos aprendiendo sobre las capacidades de las últimas IA basadas en modelos grandes del lenguaje. Así que, a falta de referencias, lo mejor es experimentar, interaccionando con ellas. La manera más simple, que no requiere de ningún conocimiento de programación, es suscribiéndose a ChatGPT y probar a “jugar” un poco con ella. Por ejemplo, pidiéndole que nos haga un resumen de un periodo que conozcamos bien y luego entrando a preguntarle detalles de este resumen proporcionándole información más precisa de lo que queremos que nos conteste. Con ello y a lo largo de diversas sesiones de “trabajo” podremos evaluar la calidad de las fuentes y del conocimiento que tiene a IA sobre un periodo determinado.
Después podemos explorar sus capacidades generativas, proporcionándole textos de una época y pidiéndole que nos describa, no sé…algo como “un día de mercado en el burgo, en la alta Edad Media”, o una receta de cocina de la época romana, en el estilo de la época, en estilo actual, o en un texto para lectores jóvenes o en forma de poema. También puedes pedirle que te de ideas de relatos distintos que se atengan a una secuencia temporal de hechos, lugares y personajes (reales o imaginarios).
Aunque, no lo he probado directamente, creo que también es posible incluir las fuentes de información que ha usado la IA, porque una característica de estos sistemas es que, si le pasas un programa de control del plagio, no lo detectan porque generan realmente un texto nuevo, así que no te queda otra que preguntarle por las fuentes en que se ha inspirado para hacer ciertas afirmaciones del texto (aquellas en las que normalmente incluiríamos una referencia).
Para terminar, el campo que abre las últimas IA a la divulgación histórica va a ser muy grande y aún es muy pronto para calibrarlo. Asimismo, creo que se va a avanzar mucho más rápido en la producción de estos modelos específicos de lo que muchos imaginan. ¡Se avecinan tiempos apasionantes para la divulgación histórica! Los divulgadores responsables van a poder producir textos rigurosos con un tiempo de gestación e investigación mucho menor que el actual.
Gracias por tu tiempo Santiago, ha sido un auténtico placer entrevistarte.
Divulgadores de la Historia 
Deja una respuesta