El centro promueve en la Fundación Ramón Areces (Madrid) una reunión con expertos nacionales e internacionales en la materia para reflexionar sobre las implicaciones de la tecnología en el contexto actual, poniendo el foco en el uso responsable de la Inteligencia Artificial (IA) y en cómo cuantificar su impacto en la vida cotidiana.

La Fundación Ramón Areces, una institución conocida por su decidido apoyo a la investigación científica como motor de progreso y modernidad, fue escenario los pasados jueves y viernes de las jornadas ‘Social Impact of AI’, un encuentro promovido con el propósito de abrir un debate serio sobre los valores humanistas y principios éticos que deben guiar el desarrollo de la Inteligencia Artificial.

El evento tuvo lugar a propuesta del CiTIUS (Centro Singular de Investigación en Tecnologías Inteligentes de la USC), que ha reunido a expertos nacionales e internacionales para discutir sobre el impacto social de la Inteligencia Artificial a lo largo de un foro organizado por el investigador del centro José María Alonso, coordinador de la Red Nacional en Inteligencia Artificial Fiable, una alianza de 12 grupos de investigación de reconocido prestigio en el área, conocida por el acrónimo anglosajón ‘Technological, Ethical, Legal, Social, Economical, and Cultural issues for Trustworthy AI’ (TELSEC4TAI).

TELSEC4TAI tuvo un especial protagonismo en las jornadas, introduciendo desde distintas perspectivas los detalles de su estrategia común para crear conciencia social sobre la importancia de avanzar hacia una nueva generación de dispositivos inteligentes y ‘responsables’. Toda una serie de nuevos sistemas y tecnologías diseñados para respetar y fomentar los principios de no discriminación y equidad, y que deberán ser, también, capaces de explicar sus decisiones de manera comprensible para la ciudadanía. En TELSEC4TAI se aúnan las capacidades de expertos de diversas disciplinas, con el objetivo de investigar y desarrollar tecnologías que promuevan la seguridad, la cohesión social y la transparencia en el uso de la Inteligencia Artificial.

Asimismo, el encuentro sirvió también para presentar ejemplos de uso del protocolo definido por Z-Inspection®, la primera herramienta independiente diseñada para evaluar la fiabilidad y ética de las tecnologías basadas en IA. La propuesta, una iniciativa sin ánimo de lucro creada en el año 2020 en Finlandia por el investigador Roberto Zicari, cuenta ya con un total de 37 entes asociados en todo el mundo (26 laboratorios, 9 instituciones, y 2 proyectos de investigación); entre ellos el CiTIUS, que en 2023 se convirtió en la primera institución española en adherirse a este nuevo protocolo.

Z-Inspection® se presenta como «un sistema holístico para evaluar la confiabilidad de los sistemas inteligentes», y ha sido desarrollado conforme a los estándares de la Unión Europea, a modo de “lista de verificación” (o ‘checklist’). La herramienta se basa en las contribuciones de un grupo multidisciplinar de expertos en distintos campos, cuyo cometido es identificar y debatir cuestiones y tensiones éticas en escenarios sociotécnicos complejos.

El investigador del CiTIUS José M. Alonso, co-organizador de las jornadas ‘Social Impact of AI’ junto con el Profesor Ramón López de Mántaras, quiso destacar la importancia del encuentro «para integrar el trabajo de la red TELSEC4TAI con Z-Inspection® y abordar el impacto de la IA en diversos ámbitos, incluyendo la educación, la economía y la sanidad». Alonso, que en otoño de 2023 impulsaba la adhesión del CiTIUS a esta nueva puesta en común a nivel global (el centro se convirtió en la primera institución reconocida por Z-Inspection® en España), insistió en presentar estas jornadas como «un hito en la promoción de una IA ética y responsable, que acabará beneficiando a toda la sociedad». Actualmente hay 3 instituciones españolas adheridas a Z-Inspection®: CiTIUS y UPCUniversitat Politècnica de Catalunya (ambas, parte de la red TELSEC4TAI); y el Instituto Ramón y Cajal de Investigación Sanitaria (IRYCIS). Todas ellas participaron en las jornadas ‘Social Impact of AI’.

Reflexión y debate sobre la IA

Las jornadas transcurrieron en torno al debate sobre cómo la IA puede beneficiar a la ciudadanía sin crear una sociedad más dividida e insolidaria. Además de representantes de todos los grupos de investigación de la red española TELSEC4TAI y la iniciativa internacional Z-Inspection®, el encuentro contó también con la participación de miembros del proyecto ‘Interactive Natural Language for Explainable Aritificial Intelligence’ (NL4XAI), un proyecto pionero en la formación de nuevos doctores y/o doctoras en el campo.

Liderado por el CiTIUS y financiado por el programa Horizon2020 de la UE, esta red en ‘IA Explicable’ se centra en mejorar la explicabilidad de los sistemas inteligentes; o, dicho de otro modo, en cómo mejorar la capacidad de las máquinas para informar sobre “el por qué” de sus decisiones, en un lenguaje siempre comprensible para los seres humanos.

Por su parte, los representantes de la iniciativa Z-Inspection® explicaron los detalles del nuevo proceso para evaluar la fiabilidad de las tecnologías basadas en IA, en el que se han seguido las directrices del Grupo de Expertos de Alto Nivel de la Unión Europea (HLEG) con el objetivo de alcanzar una IA digna de confianza. Esta metodología ha sido incluida ya en el Catálogo de herramientas y métricas de IA de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), y se distribuye bajo la modalidad de licencia Creative Commons.

Un programa intenso para abordar una temática crucial

El evento comenzó el 30 de mayo con la apertura de Miguel Jerez, consejero de la Fundación Ramón Areces. A continuación, el investigador del CiTIUS José María Alonso presidía la primera mesa de las jornadas, que incluyó presentaciones sobre el impacto económico de la IA, la regulación de la Inteligencia Artificial y la desinformación, con ponentes como Luis Moreno Izquierdo, profesor titular de Economía Aplicada en la Universidad de Alicante (UA), Ricard Josep Martínez Martínez, director de la Cátedra Microsoft de Privacidad y Transformación Digital en la Universidad de Valencia (UV), y David Camacho Fernández, Catedrático en la Universidad Politécnica de Madrid (UPM).

Magnus Westerlund, profesor de la Universidad Arcada de Ciencias Aplicadas en Finlandia, introdujo Z-Inspection® y discutió un piloto sobre IA generativa y educación superior en la segunda sesión. Por la tarde, hubo una reunión del proyecto TELSEC4TAI y una tercera sesión con presentaciones de Katarzyna Kaczmarek-Majer, investigadora del Instituto de Sistemas de Investigación y Automatización de Polonia (IBSPAN), Javier Vázquez, investigador del Instituto de Investigación en Inteligencia Artificial de la Universidad Politécnica de Cataluña (IDEAI-UPC), Miguel Ángel Sicilia Urbán, investigador del Instituto Ramón y Cajal de Investigación Sanitaria (IRYCIS) en España, y José María Alonso (CiTIUS). La jornada culminó con una mesa redonda presidida por Carles Sierra, director del Instituto de Investigación en Inteligencia Artificial del CSIC (IIIA-CSIC), en la que participaron los Catedráticos Senén Barro (CiTIUS), Luis Magdalena (UPM) y Alberto Fernández Gil (URJC)

Finalmente, las sesiones del viernes 31 de mayo se centraron en el impacto de la IA en diversos sectores, incluyendo educación secundaria, educación superior, y medicina, con ponentes como Zoe Falomir, profesora asociada en la Universidad de Umeå (Suecia), Óscar Cordón, catedrático de Ciencias de la Computación e Inteligencia Artificial en la Universidad de Granada (UGR), y María José Carreira, catedrática e investigadora del Centro Singular de Investigación en Tecnologías Inteligentes de la USC (CiTIUS). La segunda sesión del día abordó temas como la IA y el lenguaje, la ética y filosofía de la IA, y el seguimiento continuo del impacto social de la IA, en las que se presentaron distintos enfoques a través de presentaciones de prestigiosos ponentes como Elena González-Blanco, directora de Inteligencia Artificial para EMEA Digital Natives en Microsoft, Martín Pereira Fariña, Director del Departamento de Filosofía y Antropología en la Universidad de Santiago de Compostela (USC), y Mariano Sánchez Martínez, profesor titular en la Universidad de Granada (UGR).

Información de CiTIUS.

Gestionar Cookies
Aviso de cookies
Utilizamos cookies para ofrecerte la mejor experiencia en nuestra web.

Puedes aprender más sobre qué cookies utilizamos o desactivarlas en los ajustes. Para obtener información adicional sobre el uso de las cookies, acceda a nuestra política de cookies

Más información acerca de las cookies