¿Es seguro usar inteligencia artificial con los datos de tu empresa? Riesgos, políticas y controles

¿Es seguro usar inteligencia artificial con datos de la empresa?

Usar inteligencia artificial con los datos de tu empresa puede hacerse de forma segura, con la misma lógica que ya aplicas al correo o al ERP en la nube: contratos, permisos y control de lo que sale. La pregunta útil no es "IA sí o no", sino qué versión de la herramienta usa tu gente, qué dice el contrato, qué datos llegan al modelo y quién puede ver qué.

Buena parte del riesgo no está en el proveedor, sino dentro de la empresa. El informe del MIT NANDA encontró que solo el 40 % de las empresas compró una suscripción oficial a un modelo de lenguaje, pero trabajadores de más del 90 % de ellas usaban herramientas personales de IA para su trabajo. Esa IA "en la sombra" ya cuesta dinero: según IBM, una de cada cinco organizaciones reportó en 2025 una filtración ligada a herramientas no autorizadas, y los niveles altos de ese uso sumaron en promedio USD 670.000 al costo de la filtración.

En Ecuador la preocupación también existe: en la encuesta de PwC Ecuador a CEO, las preguntas de clientes, inversionistas y otros grupos sobre el uso de los datos y la privacidad fueron la principal fuente de inquietud (20 %), y el 11 % mencionó la seguridad de la IA o la IA responsable.

¿Cuáles son los riesgos reales?

El último riesgo crece rápido. El informe de IBM de 2026 registra un aumento de 56 % en los ataques impulsados por IA, encabezados por suplantaciones con deepfakes y software malicioso con IA, y un costo promedio global por filtración de USD 4,99 millones, 12 % más que el año anterior. En 2025, IBM ya había encontrado que el 97 % de las organizaciones que sufrieron incidentes con modelos o aplicaciones de IA no tenía controles de acceso adecuados, y que el 63 % de las organizaciones afectadas no tenía políticas de gobierno de IA o aún las estaba preparando.

¿Las empresas de IA entrenan sus modelos con mis datos?

En sus productos para empresas, no por defecto. Esto es lo que publica cada proveedor en sus páginas oficiales, consultadas el 11 de noviembre de 2026:

La trampa está en las versiones personales

La misma empresa puede tener reglas distintas según el plan:

• OpenAI indica que en sus servicios para personas (Free, Plus y Pro) puede usar el contenido para entrenar sus modelos, salvo que el usuario lo desactive en los controles de datos.
• Anthropic cambió sus términos para Claude Free, Pro y Max en agosto de 2025: el usuario decide si permite el uso para entrenamiento; si acepta, la retención se extiende a cinco años, y si no, se mantiene en 30 días.
• Google advierte en los términos de la API de Gemini que la versión sin pago usa el contenido para mejorar sus productos, que puede haber revisión humana y que no se debe enviar información sensible, confidencial o personal. En la versión de pago no lo usa para mejorar sus productos.

Por eso la primera medida de seguridad es administrativa: que nadie use una cuenta personal con datos de la empresa. Para comparar los planes empresariales en detalle, revisa la guía de ChatGPT, Claude y Gemini para empresas.

¿Qué es la retención cero y cuándo conviene pedirla?

La retención cero es el compromiso de que el proveedor no conserve tus solicitudes ni sus respuestas una vez procesadas, ni siquiera en los registros que usa para detectar abusos. No es automática:

• OpenAI permite solicitarla para los puntos de acceso de su API que cumplan requisitos.
• Anthropic la aplica cuando existe un acuerdo de retención cero con el cliente.
• Google la logra en su plataforma de Google Cloud si se desactiva la caché y se ajustan otras opciones; la búsqueda con Google Search guarda registros hasta por tres días y, para evitarlo, recomienda su opción empresarial de búsqueda web.
• Microsoft permite a clientes aprobados modificar el monitoreo de abuso para que no se almacenen solicitudes ni respuestas para revisión humana.

Conviene pedirla cuando el proceso maneja datos sensibles, de salud, crediticios o de menores, contratos confidenciales o información financiera no pública. Tiene un costo funcional: OpenAI advierte que los períodos de retención más cortos pueden limitar funciones como el historial de conversaciones.

Cinco controles que sí reducen el riesgo

1. Los datos crudos no se mudan. Mantén la información original en tu nube o tus servidores y envía al modelo solo lo necesario para cada tarea. La LOPDP lo exige como principio: los datos deben ser pertinentes y limitarse a lo estrictamente necesario.
2. Seudonimiza o cifra antes de enviar. La seudonimización reemplaza nombres, cédulas o cuentas por códigos que solo tu sistema puede revertir. Junto con el cifrado, está entre las medidas de seguridad que menciona la ley.
3. Contrato antes que conexión. El contrato con el proveedor debe decir que no entrena con tus datos, cuánto tiempo los retiene, dónde los procesa y qué subcontratistas usa. Microsoft, por ejemplo, indica que para clientes fuera de la Unión Europea las consultas de Copilot pueden procesarse en Estados Unidos, la Unión Europea u otras regiones.
4. Permisos por rol, revisados. Copilot solo muestra datos que el usuario tiene permiso de ver, y Google indica lo mismo para Gemini en Workspace. Eso protege si los permisos están bien hechos; si una carpeta de nómina está compartida con toda la empresa, la IA también la encontrará.
5. Registro, revisión humana y plan de incidentes. Guarda qué hizo cada agente, deja las decisiones irreversibles en manos de una persona (human in the loop) y ten listo el procedimiento para notificar una vulneración en los plazos de la ley.

¿Qué exige la LOPDP cuando usas IA con datos personales?

La Ley Orgánica de Protección de Datos Personales, publicada en el Registro Oficial el 26 de mayo de 2021, no menciona la IA por su nombre, pero sus reglas aplican a cualquier sistema que trate datos personales. Este resumen es informativo y no reemplaza asesoría legal.

El régimen sancionatorio entró en vigencia dos años después de la publicación de la ley, según su primera disposición transitoria, y el Reglamento General se publicó en el Registro Oficial el 13 de noviembre de 2023. Además, desde el 10 de marzo de 2026 rige la norma de la Superintendencia sobre sistemas de IA (Resolución SPDP-SPD-2026-0009-R), que exige informar el uso de IA, gestionar riesgos, incluir el tratamiento en el registro de actividades y auditar el sistema según su riesgo. Para el detalle, revisa el resumen de la LOPDP, la guía sobre IA y datos personales y la de evaluación de impacto.

Lista de verificación antes de conectar la IA a tus sistemas

• ¿Todos usan planes empresariales y ninguna cuenta personal toca datos de la empresa?
• ¿El contrato dice por escrito que no entrenan con tus datos, cuánto retienen y dónde procesan?
• ¿Pediste retención cero donde el proceso lo justifica?
• ¿Sabes qué campos llegan al modelo y cuáles se seudonimizan o cifran antes?
• ¿Revisaste los permisos del ERP, de las carpetas compartidas y del correo?
• ¿Hiciste la evaluación de impacto si hay perfiles automatizados o datos sensibles?
• ¿Está definido quién aprueba las decisiones irreversibles?
• ¿Tu equipo puede notificar una vulneración en el término de cinco días que fija la ley?

En Advise, los datos crudos se quedan en la nube o en los servidores del cliente; al modelo solo llegan seudonimizados o cifrados, con un anexo de protección de datos conforme a la LOPDP, retención cero y el compromiso de no entrenar modelos con esos datos. El módulo de cumplimiento LOPDP cubre la evaluación de impacto, el registro de actividades y la auditoría de los agentes en producción.