En corto
- El NIST propone cuatro principios: que haya explicación, que sea comprensible, que sea fiel al proceso real y que el sistema reconozca sus límites.
- El artículo 20 de la LOPDP da derecho a pedir una explicación motivada de decisiones basadas única o parcialmente en valoraciones automatizadas.
- La reforma de 2026 a la norma de la Superintendencia pide al proveedor que actúa como encargado informar al responsable sobre el funcionamiento, los límites y los riesgos del sistema.
Esta guía es información general y no constituye asesoría legal. Para decisiones sobre tu caso, consulta a un abogado.
¿Qué significa que una IA sea explicable?
En 2021, el NIST, el instituto de estándares de Estados Unidos, publicó cuatro principios de la inteligencia artificial explicable que sirven como lista de control para cualquier empresa:
| Principio del NIST | Qué pide | Pregunta para tu proveedor |
|---|---|---|
| Explicación | Que el sistema entregue evidencia o razones de sus resultados | ¿Qué razones da el sistema en cada caso? |
| Comprensible | Que la explicación la entienda quien la recibe | ¿La entendería el cliente o el analista que la lee? |
| Precisión de la explicación | Que refleje de verdad cómo se generó el resultado | ¿La explicación sale del proceso real o es una justificación posterior? |
| Límites del conocimiento | Que el sistema opere solo en las condiciones para las que fue diseñado y con confianza suficiente | ¿Qué hace cuando no está seguro? |
La OCDE va en la misma línea en su principio de transparencia y explicabilidad: informar las capacidades y limitaciones del sistema, avisar a las personas cuando interactúan con uno y, cuando sea posible, dar información clara sobre los datos, factores y lógica detrás de una decisión, para que quien resulte perjudicado pueda cuestionarla.
¿Qué exige la ley en Ecuador?
- LOPDP, artículo 20. Frente a decisiones basadas única o parcialmente en valoraciones automatizadas, incluida la elaboración de perfiles, que produzcan efectos jurídicos o afecten derechos, el titular puede pedir una explicación motivada, presentar observaciones, solicitar los criterios de valoración, conocer los tipos de datos usados y su fuente, e impugnar la decisión. Hay excepciones: cuando la decisión es necesaria para un contrato, está autorizada por la norma, se basa en el consentimiento explícito o no tiene impactos graves. Este derecho no puede renunciarse por adelantado en contratos de adhesión (texto de la ley).
- LOPDP, artículo 12. Hay que informar al titular de la existencia de valoraciones y decisiones automatizadas.
- Norma de la Superintendencia sobre inteligencia artificial. La Resolución SPDP-SPD-2026-0009-R obliga a garantizar ese derecho, informar de manera clara el carácter automatizado del tratamiento e incluir en el registro de actividades las decisiones automatizadas con impacto jurídico. Su reforma de septiembre de 2026 pide al encargado que provee el sistema entregar al responsable información sobre su funcionamiento, limitaciones, riesgos previsibles y controles, sin revelar secretos comerciales.
Un ejemplo en una empresa ecuatoriana
Un almacén de electrodomésticos de Guayaquil que vende a crédito directo usa un modelo para preaprobar solicitudes. Para que la decisión sea explicable, el sistema guarda los factores que pesaron en cada caso, como el historial de pagos con la tienda y la relación entre la cuota y los ingresos declarados; un analista revisa cada rechazo antes de comunicarlo, y el cliente recibe las razones principales y la forma de pedir una revisión. Si alguien reclama, la tienda puede reconstruir la decisión con datos, no con suposiciones. En Advise seguimos la misma regla: las decisiones irreversibles pasan por una persona.
Errores comunes
- Explicaciones genéricas. «Su solicitud no cumple nuestras políticas» no explica nada.
- Justificaciones que el sistema no usó. Una explicación redactada después, que no refleja el cálculo real, incumple el principio de precisión.
- No guardar los datos de entrada. Sin registro de qué recibió el modelo, la decisión no se puede reconstruir.
- Decidir sin revisión humana en casos de alto impacto. La supervisión humana es la red de seguridad cuando el modelo se equivoca.
Relación con otros términos
La explicabilidad ayuda a detectar el sesgo algorítmico y es parte del gobierno de la IA en una empresa. Cómo aplicar el artículo 20 de la LOPDP a proyectos concretos lo explicamos en la guía de inteligencia artificial y datos personales.
Preguntas frecuentes
¿Qué es la explicabilidad en la inteligencia artificial?
Es la capacidad de un sistema de inteligencia artificial de explicar, en términos que la persona afectada entienda, por qué produjo un resultado: qué datos usó y qué criterios pesaron. Una buena explicación también es fiel a lo que el sistema realmente hizo.
¿Qué derechos tiene una persona ante una decisión automatizada en Ecuador?
Según el artículo 20 de la LOPDP, puede pedir una explicación motivada de la decisión, presentar observaciones, solicitar los criterios de valoración del programa, conocer qué datos se usaron y de dónde se obtuvieron, e impugnar la decisión. Hay excepciones, como cuando la decisión es necesaria para un contrato, está autorizada por la norma o se basa en el consentimiento explícito.
¿Explicabilidad significa publicar cómo funciona el modelo?
No. Significa dar a cada persona afectada razones comprensibles y verificables sobre su caso y una vía para pedir revisión. Se puede cumplir sin revelar secretos comerciales, como reconoce la norma de la Superintendencia cuando regula la información que el proveedor debe entregar al responsable.
Fuentes
- National Institute of Standards and Technology (NIST) · NISTIR 8312: Four Principles of Explainable Artificial Intelligence (2026-11-11)
- OCDE · OECD.AI · Principios de la OCDE sobre inteligencia artificial: transparencia y explicabilidad (principio 1.3) (2026-11-11)
- Asamblea Nacional del Ecuador · Registro Oficial, Quinto Suplemento 459 · Ley Orgánica de Protección de Datos Personales (2021-05-26)
- Superintendencia de Protección de Datos Personales · Resolución SPDP-SPD-2026-0009-R: Norma general para la garantía del derecho de protección de datos personales en el uso de sistemas de inteligencia artificial (2026-02-12)
- Superintendencia de Protección de Datos Personales · Resolución SPDP-SPD-2026-0037-R: reforma a la norma general sobre protección de datos personales en el uso de sistemas de inteligencia artificial (2026-09-09)
Revisado el 11 de noviembre de 2026 contra las fuentes citadas. Los precios y normas de terceros pueden cambiar: confirma en la fuente.