Ir al contenido
Por qué “borrar” no basta: cómo aprenden y “recuerdan” los modelos
Cuando usamos sistemas de IA públicos, la información no se elimina como en una papelera: se propaga en parámetros, cachés, historiales y vector stores. Por eso insistimos en que la mejor defensa es no exponer datos sensibles desde el principio y diseñar la interacción con controles preventivos.
"Remover información de un modelo de IA no es como borrar una fila en una base de datos; la influencia del dato queda entrelazada en los parámetros." — Harvard Digital
Fuente: Harvard Digital
Además, la literatura reciente sobre machine unlearning reconoce el reto: purgar selectivamente la huella de un subconjunto de datos es complejo y costoso; reentrenar desde cero es la alternativa “naïf”, pero poco viable para modelos grandes.
"El unlearning busca quitar la influencia de un subconjunto de datos sin reentrenar desde cero… un desafío profundo en práctica." — Springer
Fuente: Springer
Lo que nunca debemos compartir con una IA pública (personas y negocio)
Para evitar filtraciones involuntarias, recomendamos vetar en prompts y adjuntos:
- PII: DNI/NIF, IBAN, pasaporte, teléfonos, direcciones, emails personales.
- Secretos corporativos: código fuente, claves API, tokens, playbooks internos.
- Información regulada: datos de salud, financieros, expedientes de clientes.
- Material contractual: NDA, propuestas, roadmaps, actas de dirección.
"La IA no olvida… el borrado no garantiza hacer desaparecer tu pasado digital." — infobae
Fuente: infobae
Casos reales: Samsung y compañías que vetaron o limitaron la IA
No hablamos de teoría. En 2023, personal de Samsung compartió código y notas internas en ChatGPT, provocando una exposición no deseada.
"Empleado(s) de Samsung pegaron código fuente y notas internas en ChatGPT tras levantar el veto" — Gizmodo
Fuente: Gizmodo
"Tres incidentes separados implicaron la entrada de datos corporativos sensibles en ChatGPT." — CIO Dive
Fuente: CIO Dive
Tras episodios así, varias empresas restringieron IA públicas por riesgo de fuga.
Prevención en serio: políticas, controles técnicos y formación
Así es como lo abordamos en proyectos con clientes:
Política y gobierno
- Política de uso de IA por roles (qué se comparte / qué se veta).
- Matriz RACI para aprobar casos de uso y proveedores.
- Clasificación de datos (Público / Interno / Confidencial / Restringido).
- Retención y registro de prompts (bajo mínimos de privacidad).
Controles técnicos (DLP y seguridad)
- DLP para prompts y archivos: reglas para patrones sensibles (NIF, IBAN, emails corporativos, tokens).
- Filtrado y redaction automático antes de enviar a la IA.
- Bloqueo selectivo de dominios/plataformas en red corporativa.
- Cifrado en tránsito y en reposo + Key management propio.
Personas y cultura
- Formación continua: talleres de prompting seguro.
- Playbooks anti-fuga: plantillas de revisión y canales seguros (por ejemplo, pedir ayuda técnica sin pegar secretos).
"La conclusión del estudio es clara: no existe fórmula que garantice el olvido total de los datos, salvo reentrenar desde cero." — Cobertura URV
Fuente: Versión Final
Arquitecturas seguras de IA: entorno privado, RAG controlado y DLP
Para equilibrar productividad y confidencialidad, proponemos:
- Entorno privado/aislado de IA (SaaS en espacio dedicado, on-prem o VPC), con retención cero y no entrenamiento con datos del cliente.
- RAG (búsqueda aumentada) con vector stores gestionados por nosotros:
- Índices por dominio y nivel de sensibilidad;
- Metadatos para control de acceso;
- Purgas supervisadas (no confundir con “olvido” del modelo).
- Pasarela de seguridad: content filtering, desanonimización inversa prohibida, auditoría y alertas DLP.
"La memoria de la IA plantea retos de privacidad y gobernanza que van más allá de la tecnología." — Q2B
Fuente: Q2B
Checklist rápido (para adoptar ya)
- Bloquear patrones sensibles (NIF/IBAN/API keys) en salidas de la red.
- Proxy corporativo con redacción de PII en prompts.
- Repositorio de prompts aprobados por rol.
- Sandbox de IA privada con supervisión de logs.
- Simulacros de fuga (rojo/azul) y métricas de exposición.
Métricas que importan (KPIs)
- Tasa de prompts con datos sensibles detectados/neutralizados.
- Falsos positivos del DLP (<5% objetivo).
- MTTR de incidentes de exposición.
- Adopción segura por rol (% de usuarios que usan el entorno privado vs. público).
Preguntas frecuentes (FAQs)
¿Se puede “borrar” un dato que ya “aprendió” un modelo?
En general, no de forma garantizada; hablamos de unlearning parcial y costoso. En producción, priorizamos no exponer y controlar el flujo de datos.
¿Qué diferencia hay entre borrar un archivo y “desaprender” un modelo?
Borrar un archivo elimina el dato en almacenamiento; desaprender intenta quitar su influencia de los parámetros del modelo, algo mucho más complejo.
¿Qué datos es más peligroso compartir con IA públicas?
PII (NIF, IBAN, emails personales), secretos (claves, código), expedientes regulados (finanzas/salud) y documentos estratégicos.
¿Por qué algunas empresas prohíben ChatGPT?
Por riesgo de fuga y cumplimiento: no controlan dónde quedan los datos ni cómo se usan. Hay precedentes en banca y big tech.
¿Cómo equilibramos productividad y privacidad?
Con entornos privados, RAG controlado, DLP y formación continua. Así ganamos velocidad sin exponer secretos.
Conclusión
La evidencia es clara: la IA no olvida al estilo “papelera vacía”. Por eso, nuestra estrategia es preventiva: no exponer, controlar y auditar. Con entornos privados y DLP específico para prompts y archivos, evitamos fugas mientras aprovechamos la IA de forma responsable.
¿Necesitas montar tu entorno protegido de IA?
En Bitralix montamos tu entorno protegido de IA: espacio aislado (VPC u on-prem), prevención de exposición con DLP para prompts/archivos y bloqueo selectivo hacia plataformas sensibles.
