En corto
- El estudio Gender Shades (2018) encontró errores de hasta 34,7 % en mujeres de piel oscura, frente a 0,8 % en hombres de piel clara.
- El NIST, el instituto de estándares de Estados Unidos, clasifica el sesgo en tres tipos: sistémico, estadístico y computacional, y humano.
- En Ecuador, la Ley Orgánica de Protección de Datos Personales (LOPDP) considera datos sensibles aquellos cuyo tratamiento indebido puede dar origen a discriminación.
¿Qué es el sesgo algorítmico?
Un sistema de inteligencia artificial aprende de datos del pasado y de decisiones humanas. Si esos datos están incompletos o reflejan prejuicios, el sistema los aprende y los repite a escala, con apariencia de objetividad. Eso es el sesgo algorítmico: un error que no es aleatorio, sino sistemático, y que perjudica una y otra vez a los mismos grupos o casos.
El instituto de estándares de Estados Unidos (NIST) dedicó al tema su publicación especial SP 1270, de marzo de 2022. Entre sus conclusiones: el sesgo no es nuevo ni exclusivo de la IA, y no es posible llevar a cero su riesgo en un sistema de IA. Lo que sí se puede es identificarlo, medirlo y gestionarlo.
¿Qué tipos de sesgo existen?
| Tipo (NIST) | De dónde viene | Ejemplo |
|---|---|---|
| Sistémico | Procedimientos y prácticas de las instituciones que favorecen a unos grupos y perjudican a otros | Un historial de créditos aprobados que dejó fuera a ciertos sectores |
| Estadístico y computacional | Muestras que no representan a la población, datos erróneos o modelos mal ajustados | Un modelo entrenado solo con clientes de Quito que falla con clientes de la Costa |
| Humano | Errores sistemáticos del pensamiento, como confiar de más en lo que dice el sistema | Un analista que aprueba sin revisar porque «lo dijo la IA» |
Un caso documentado
En 2018, Joy Buolamwini y Timnit Gebru publicaron el estudio Gender Shades. Evaluaron tres sistemas comerciales que clasificaban el género a partir de fotos y encontraron tasas de error de hasta 34,7 % en mujeres de piel oscura, frente a un error máximo de 0,8 % en hombres de piel clara. Un mismo sistema podía parecer preciso en promedio y fallar mucho con un grupo concreto.
¿Cómo puede aparecer en una empresa ecuatoriana?
- Crédito y cobranza: un modelo que asigna riesgo según el barrio o la provincia puede castigar a clientes cumplidos por el lugar donde viven.
- Selección de personal: un filtro de hojas de vida entrenado con contrataciones pasadas puede replicar preferencias por ciertos colegios, universidades o géneros.
- Atención al cliente: un sistema que entiende peor ciertos acentos o expresiones regionales atenderá peor a esos clientes.
La Ley Orgánica de Protección de Datos Personales (LOPDP) considera datos sensibles, entre otros, los relativos a etnia, identidad de género, salud o datos biométricos, y aquellos cuyo tratamiento indebido pueda dar origen a discriminación (artículo 4). Su artículo 20, además, reconoce derechos frente a decisiones basadas en valoraciones automatizadas.
¿Cómo se reduce?
- Revisa los datos: ¿representan a todos tus clientes, zonas y segmentos?
- Mide por grupo: no basta con la precisión promedio; compara los errores entre segmentos.
- Excluye variables problemáticas y sus sustitutos: el barrio o el sector pueden funcionar como indicador indirecto del nivel socioeconómico.
- Pon a una persona en las decisiones que afectan a otras personas, con una supervisión humana bien diseñada para evitar aprobar por inercia.
- Documenta y explica: que puedas decir por qué el sistema decidió lo que decidió.
¿Cómo se relaciona con otros términos?
El sesgo se origina en los datos y en la forma de entrenar los modelos de aprendizaje automático, y se controla con el gobierno de la IA y la explicabilidad.
Preguntas frecuentes
¿Qué es el sesgo algorítmico?
Es un error sistemático en un sistema de IA que produce resultados injustos o distorsionados para ciertos grupos o casos. Suele venir de datos poco representativos, de decisiones históricas con prejuicios, del diseño del modelo o de cómo las personas usan sus resultados.
¿Qué ejemplos de sesgo algorítmico hay?
Un caso documentado es el estudio Gender Shades, de 2018, que halló errores de hasta 34,7 % en mujeres de piel oscura, frente a 0,8 % en hombres de piel clara, en sistemas comerciales de clasificación de género. En las empresas puede aparecer en modelos de crédito, selección de personal o atención al cliente.
¿Cómo evitar el sesgo en la inteligencia artificial?
No se elimina del todo, como advierte el NIST, pero se puede reducir. Revisa que los datos representen a todos los segmentos, mide los errores por grupo, excluye variables problemáticas, documenta las decisiones y deja que una persona revise las que afectan a otras personas.
Fuentes
- National Institute of Standards and Technology (NIST) · NIST SP 1270: Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (2026-11-11)
- Proceedings of Machine Learning Research, vol. 81 · Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification (Buolamwini y Gebru) (2026-11-11)
- Asamblea Nacional del Ecuador · Registro Oficial Suplemento 459 (publicada en gob.ec) · Ley Orgánica de Protección de Datos Personales (2021-05-26)
Revisado el 11 de noviembre de 2026 contra las fuentes citadas. Los precios y normas de terceros pueden cambiar: confirma en la fuente.