Por qué el Reglamento Europeo de IA es el mejor argumento que tiene el diseño en banca
El AI Act europeo obliga a que los sistemas de IA sean transparentes, explicables y controlables por el usuario. Para el diseño, eso no es una restricción — es el mejor argumento que ha tenido en años. Las organizaciones que diseñen con ese criterio ahora tienen ventaja sobre las que esperen al regulador.
Por qué el Reglamento Europeo de IA es la mejor noticia que ha tenido el diseño en años
Cuando en 2024 entró en vigor el AI Act europeo, la mayoría de las organizaciones lo leyeron como un problema de cumplimiento. Una nueva normativa, un nuevo coste, una nueva capa de burocracia sobre proyectos que ya eran complejos de por sí.
Nosotros lo leímos de otra manera.
El Reglamento Europeo de IA es, entre otras cosas, un documento que dice que los sistemas de IA que toman decisiones que afectan a personas tienen que ser transparentes, explicables y controlables por el usuario. Que la persona que recibe una decisión automatizada — sobre un crédito, sobre una prestación pública, sobre una cobertura de seguro — tiene derecho a entender por qué se ha tomado esa decisión y a impugnarla.
Eso no es burocracia. Eso es diseño centrado en el usuario con fuerza de ley.
El problema que el diseño lleva años intentando resolver
Durante años, los equipos de diseño han argumentado que la transparencia y la explicabilidad en los sistemas digitales no son solo principios éticos — son factores de usabilidad. Un usuario que no entiende qué hace un sistema no confía en él. Un usuario que no confía en él no lo usa. Y un sistema que nadie usa no sirve de nada, por muy sofisticado que sea tecnológicamente.
Ese argumento ha convencido a algunos equipos de producto. No siempre ha convencido a los comités de dirección, a los equipos legales o a los responsables de producto que priorizan la velocidad de lanzamiento sobre la calidad de la experiencia.
El AI Act cambia la conversación. Ahora la transparencia no es una recomendación de diseño — es un requisito legal para cualquier sistema de IA de alto riesgo. Y en banca, seguros y administración pública, casi todos los sistemas de IA que importan son de alto riesgo.
Qué implica diseñar para el AI Act
El Reglamento establece, entre otras cosas, que los sistemas de IA de alto riesgo deben:
— Ser suficientemente transparentes para que sus usuarios puedan interpretar los resultados y utilizarlos adecuadamente.
— Permitir la supervisión humana de forma efectiva: las personas responsables de usar el sistema tienen que poder entender qué hace y intervenir cuando sea necesario.
— Proporcionar información comprensible a las personas afectadas por las decisiones del sistema.
Traducido al lenguaje del diseño: necesitas interfaces que expliquen qué está decidiendo la IA y por qué. Necesitas mecanismos de control que sean reales, no decorativos. Necesitas flujos de derivación humana que funcionen bien cuando el sistema falla o cuando el usuario no entiende la decisión.
Eso no lo resuelve el equipo de compliance. Lo resuelve el equipo de diseño, con criterio y con tiempo.
Por qué esto es una ventaja competitiva, no una carga
Las organizaciones que empiecen a diseñar sus sistemas de IA con estos criterios ahora tienen una ventaja sobre las que lo dejen para cuando el regulador llame a la puerta.
La razón es simple: diseñar la transparencia después es mucho más caro que diseñarla desde el principio. Un sistema de IA construido sin pensar en la explicabilidad no se vuelve explicable añadiendo un texto de aviso al final del flujo. Requiere repensar la arquitectura de la experiencia — cómo se presenta la información, cuándo aparece, en qué formato, con qué lenguaje.
Las organizaciones que lo hagan bien tendrán además una ventaja de confianza frente a sus usuarios. Y en sectores como la banca o los seguros, donde la confianza es la base de la relación con el cliente, eso se traduce directamente en adopción, en fidelización y en negocio.
Lo que estamos aprendiendo en EGGS
En los proyectos de IA en los que llevamos trabajando los últimos años — en banca, en seguros, en administración pública — hemos visto que el problema más difícil no es técnico. Es de diseño de la experiencia.
¿Cómo le explicas a un cliente que un sistema automático ha revisado su solicitud de crédito y ha llegado a una conclusión, sin que esa explicación suene a excusa corporativa? ¿Cómo diseñas el momento en que el usuario necesita hablar con una persona, sin que parezca que el sistema ha fallado? ¿Cómo construyes la confianza en un asistente conversacional en un contexto — seguros, banca, salud — donde el usuario tiene mucho en juego?
Esas preguntas no tienen respuesta genérica. Tienen respuesta en el contexto específico de cada organización, con research con usuarios reales y con un proceso de diseño que trata la transparencia como un objetivo de experiencia, no como un requisito legal que cumplir con el mínimo esfuerzo.
Es exactamente el tipo de problema para el que existe iX — nuestra plataforma de metodología y conocimiento para el diseño de experiencias inteligentes en sectores complejos.
El AI Act no nos ha cambiado lo que hacemos. Nos ha dado mejores argumentos para explicar por qué importa hacerlo bien.
