Seguridad de LLM: límites que se pueden demostrar
La prueba, no la estimación.
El prompt injection encabeza el OWASP Top 10 para aplicaciones LLM. Y tiene una propiedad incómoda: no se elimina del todo. El modelo procesa instrucciones y datos por el mismo canal —lenguaje natural—, así que distinguirlos es intrínsecamente ambiguo.
Quien le prometa un filtro que lo bloquee al 100 % le está vendiendo una estimación disfrazada de garantía.
Deflank aborda el problema por el otro extremo.
El cambio de enfoque
Las defensas habituales intentan detectar el ataque: filtros, clasificadores de intención, red teaming. Son necesarias, pero comparten un techo: entregan una estimación —«no conseguimos romperlo esta vez»—, nunca una garantía.
Deflank no intenta adivinar cada ataque posible. Trabaja sobre lo que el sistema tiene permitido hacer: mediante una metodología de verificación propia, convierte esos límites en una prueba demostrable, reproducible y auditable.
El resultado: aunque una inyección consiga engañar al modelo, la acción prohibida no puede ejecutarse. Y eso se acredita ante un supervisor.
Qué obtiene
- Límites verificables sobre lo que sus modelos y agentes pueden hacer — no instrucciones en un prompt, que son sugerencias muy bien redactadas.
- Cobertura de los riesgos de OWASP que importan en producción: agencia excesiva (LLM06), tratamiento inadecuado de la salida (LLM05), divulgación de información sensible (LLM02) y cadena de suministro (LLM03).
- Evidencia auditable de solidez y ciberseguridad — que es lo que exige el artículo 15 del EU AI Act para sistemas de alto riesgo.
- Trazabilidad de lo que el sistema hizo y por qué.
Y ya no es solo una buena práctica
Desde el 2 de agosto de 2026, el artículo 15 del Reglamento (UE) 2024/1689 exige a los sistemas de IA de alto riesgo un nivel adecuado de precisión, solidez y ciberseguridad, sostenido durante todo su ciclo de vida. El Reglamento contempla expresamente los ciberataques dirigidos contra los activos de la IA: envenenamiento de datos y ataques adversarios.
Y si su organización está bajo NIS2, la seguridad de la cadena de suministro —de la que forma parte su proveedor de modelos— ya es una medida obligatoria hoy (artículo 21).
Despliegue soberano
Deflank es autohospedable: on-premise o en su nube privada, incluso en entornos aislados de la red. Sus modelos, sus datos y sus pruebas no salen de su perímetro.
Empiece por saber dónde está
Diagnóstico de seguridad de sus sistemas de IA. Le decimos qué puede hacer hoy su asistente o su agente —incluido lo que usted no autorizó— y qué puede demostrar.
Enlaces internos: Seguridad de LLM: los riesgos reales (guía) · IA agéntica · EU AI Act · NIS2.
Fuentes: OWASP Top 10 for LLM Applications (2025); Reglamento (UE) 2024/1689, artículo 15; Directiva (UE) 2022/2555, artículo 21.