La dificultad de exigir ‘explicabilidad’ a la inteligencia artificial plantea retos para la regulación
La creciente presencia de la inteligencia artificial (IA) en la vida cotidiana está generando una creciente preocupación social acompañada de intentos institucionales por regular su impacto. Sin embargo, algunos expertos advierten de que existe una brecha significativa entre las aspiraciones de los legisladores y la realidad técnica de estas tecnologías.
Según el análisis del profesor Daniel Pérez Fernández, la expansión de soluciones basadas en IA ha desencadenado temores legítimos entre la ciudadanía. Las instituciones públicas buscan responder a estos riesgos mediante marcos regulatorios diseñados para proteger a los usuarios. No obstante, estos esfuerzos se enfrentan a un problema fundamental: el conocimiento limitado sobre el funcionamiento interno de los sistemas de inteligencia artificial.
Limitaciones humanas ante sistemas extremadamente complejos
Los sistemas de IA modernos se basan en modelos matemáticos de gran complejidad que resultan difíciles de comprender incluso para especialistas. Pérez Fernández sostiene que existen límites cognitivos reales que dificultan entender plenamente cómo operan estas tecnologías.
Si estas limitaciones no se reconocen, advierte, es probable que se continúen creando normativas que exigen condiciones imposibles de cumplir desde el punto de vista técnico. En ese escenario, la regulación puede quedar desconectada de la realidad tecnológica y resultar difícil de aplicar eficazmente.
Esta situación, según el autor, ya se observa en algunos marcos regulatorios considerados pioneros. Entre ellos se encuentra la Ley de Inteligencia Artificial de la Unión Europea, que establece las reglas generales sobre el uso de estas tecnologías en el territorio comunitario. En España, iniciativas como la Carta de Derechos Digitales aprobada en 2021 también incluyen principios relacionados con el control y la supervisión de los sistemas de IA.
La explicabilidad como requisito regulatorio
Tanto la normativa europea como los documentos orientativos en España incorporan la llamada “explicabilidad” como uno de los derechos que deberían tener los ciudadanos frente a las decisiones generadas por algoritmos.
La intención de los legisladores es evitar que las decisiones automatizadas procedan de sistemas opacos o inaccesibles, conocidos habitualmente como “cajas negras”. En ámbitos sensibles, como la concesión de un subsidio o el rechazo de un candidato en un proceso de selección, la regulación exige que los sistemas puedan explicar de forma comprensible por qué han tomado una determinada decisión.
No obstante, el problema surge cuando este requisito legal se enfrenta a las limitaciones técnicas actuales. Según el autor, exigir a un modelo compuesto por miles de millones de parámetros que traduzca su funcionamiento probabilístico a una lógica de causa y efecto comprensible para los humanos implica un error conceptual sobre cómo operan realmente estos sistemas.
El riesgo de las “ficciones explicativas”
Cuando una norma obliga a los sistemas de inteligencia artificial a justificar sus decisiones de forma comprensible, lo que puede producirse es la generación de lo que el autor denomina “ficciones explicativas”.
Estas explicaciones consisten en narrativas creadas a posteriori que resultan coherentes y lógicas para las personas, pero que no reflejan el proceso matemático real que ha llevado al sistema a producir un resultado concreto. En otras palabras, el sistema puede ofrecer un relato convincente que cumple con los requisitos formales de la ley, aunque no represente fielmente el cálculo probabilístico que realizó internamente.
Desde esta perspectiva, la exigencia de explicaciones totalmente transparentes podría provocar que los sistemas generen justificaciones que, en sentido estricto, son intrínsecamente falsas, simplemente para cumplir con los requerimientos normativos.
El desafío añadido de la IA agéntica
El debate podría intensificarse a medida que evoluciona la tecnología. Uno de los próximos avances mencionados es la llamada IA agéntica, un tipo de sistema que puede actuar con mayor autonomía que los modelos actuales.
A diferencia de los sistemas que responden de forma pasiva a las consultas de los usuarios, estos agentes pueden operar con mayor independencia. Al asignarles un objetivo, son capaces de planificar acciones, interactuar con otros programas y tomar decisiones con una intervención humana limitada.
Este nuevo escenario plantea dificultades adicionales para la supervisión y la explicación de las decisiones automatizadas. Auditar una red de agentes autónomos que actúan simultáneamente y coordinar las explicaciones de sus decisiones podría convertirse en un reto considerable desde el punto de vista regulatorio.
La necesidad de reguladores con perfil técnico
Para el autor, la distancia entre la voluntad legislativa y la viabilidad técnica demuestra que no basta con impulsar leyes guiadas por buenas intenciones. La regulación efectiva de la inteligencia artificial requiere comprender en profundidad las características y limitaciones de las tecnologías implicadas.
En este contexto, se plantea la necesidad de que los responsables de diseñar políticas públicas cuenten con perfiles híbridos. Es decir, que combinen conocimiento en regulación y políticas públicas con una formación técnica suficiente para identificar límites reales en el funcionamiento de los sistemas.
Según esta visión, solo mediante ese equilibrio entre conocimiento técnico y defensa del interés general será posible establecer marcos regulatorios que gobiernen la inteligencia artificial de forma efectiva sin convertir la legislación en objetivos difíciles de cumplir.
Fuente: EL PAÍS
