Insights

Lo que aprendemos en el lab.

Seguridad de LLM y agentes, ingeniería de IA y gobernanza de IA.

Los cuatro ejes del Plan IA360: músculo tecnológico con la gigafactoría, motor económico con el bono de 600 millones para pymes, gobernanza con el escudo de ciberseguridad y la supervisión de modelos de frontera, y el contrato social convocado en octubre

6 min de lecturaseptiembre de 2026AI GovernanceEU AI ActEspaña

Plan IA360: qué financia el Gobierno y qué va a exigir

El Gobierno presentó el 21 de septiembre de 2026 una hoja de ruta a doce meses, con un bono de 600 millones para pymes y más supervisión sobre los modelos de frontera. Qué hay firme, qué está por escribir y qué conviene tener preparado antes de la convocatoria.

Matriz de permisos de un agente: para cada herramienta, si la acción se permite sola, requiere aprobación humana o está denegada, con lectura y escritura separadas

6 min de lecturaseptiembre de 2026AI SecurityAgentesOWASP

Permisos de herramientas para agentes: el mínimo privilegio que nadie aplica

La mayoría de los agentes en producción actúan con el token de la persona que los desplegó o con una cuenta de servicio con permisos de administrador. Cómo darles identidad propia, acotar cada herramienta, separar lectura de escritura y poner lo irreversible detrás de una aprobación.

Plan de cinco días para el inventario de sistemas de IA: definir qué cuenta, recopilar por cuatro fuentes, normalizar los campos, verificar con muestreo y publicar con cadencia

6 min de lecturaseptiembre de 2026AI GovernanceInventarioShadow AI

Inventario de sistemas de IA en una semana: el plan de cinco días

Ninguna gobernanza funciona sobre sistemas que no se sabe que existen. Un plan de cinco días para levantar el inventario de IA de una empresa mediana: qué cuenta como sistema, dónde buscar, qué campos importan y cómo evitar que caduque el mes siguiente.

Diagrama de las tres capas de la gobernanza operativa: decidir, con políticas y límites de autonomía; vigilar, con un guardián en runtime y aprobación humana; y demostrar, con trazas y evidencia verificable

5 min de lecturaseptiembre de 2026AI GovernanceAgentesEU AI Act

Gobernanza operativa de IA: la que se ejecuta, no la que se firma

La mayoría de las empresas tiene gobernanza de IA en un PDF y ninguna en producción. La gobernanza operativa es la que decide qué puede hacer un sistema, lo vigila mientras actúa y deja evidencia de lo que hizo. Qué la compone, qué produce cada capa y por dónde se empieza.

Diagrama del intercambio ACS: el agente vigilado manda cada paso al Guardian Agent, que resuelve primero en su capa determinista (Rego, Cedar) y solo delega en la capa con LLM si hace falta, y devuelve un veredicto antes de que la herramienta llegue a ejecutarse

10 min de lecturaagosto de 2026AI GovernanceOWASPAgentes

Agent Control Standard: el protocolo con el que OWASP quiere controlar agentes en tiempo real

OWASP GenAI Security Project incorpora el Agent Control Standard. No es una herramienta que instales: es un protocolo que define cómo un Guardian externo permite, deniega o modifica lo que hace un agente antes de que lo haga. Qué trae la v0.1, qué no trae todavía y qué implica si operas agentes.

Portada: las trece áreas del checklist de gobernanza de LLM de OWASP agrupadas en cuatro bloques, entender la exposición (01-02), saber qué tienes (03-04), decidir y responder (05-08) y construir y comprobar (09-13)

7 min de lecturaagosto de 2026AI GovernanceOWASPAI Security

El checklist de ciberseguridad y gobernanza de LLM de OWASP, explicado

OWASP publica dos documentos distintos y mucha gente los confunde. Uno es el Top 10 de riesgos técnicos; el otro es un checklist de gobernanza con 13 áreas para quien decide adoptar LLM. Qué pide cada área y cómo encaja con el EU AI Act.

Portada: arquitectura de referencia de un sistema agéntico, con el planificador sin privilegios separado de los ejecutores, cada herramienta con su propia credencial y las trazas de acciones saliendo hacia observabilidad

9 min de lecturaagosto de 2026AI SecurityAgentesArquitectura

Cómo se construye un sistema agéntico seguro

Los fallos de un agente de IA no se cierran con un parche, se cierran con arquitectura. Los siete controles que sostienen un sistema agéntico en producción, qué no funciona y por dónde empezar si ya está en marcha.

Portada: la cadena por la que entra un ataque contra un sistema de IA, del contenido externo (correos, tickets, documentos) al contexto, el modelo, las herramientas con credenciales reales y la acción con efecto en el negocio

11 min de lecturaagosto de 2026AI SecurityRed TeamingAgentes

Qué es el AI red teaming y en qué se diferencia de un pentest

El pentest es una práctica madura y los sistemas de IA casi nunca pasan por ese filtro. Qué se ataca en un AI red team, cómo se organiza el encargo, qué contiene el informe y por qué la mayoría de los hallazgos se arreglan con arquitectura.

Portada: el alcance de un agente puede vivir en el prompt, en la política del harness, en la identidad o en la red, y solo las dos últimas capas son vinculantes

31 min de lecturaagosto de 2026AI SecurityHAVOCAgentes

Un agente ofensivo no respeta un alcance que no está en la red

Dos fugas de sandbox en dos semanas, en OpenAI y en Anthropic. Ninguna fue una capacidad nueva del modelo. Cómo se contiene de verdad un entorno agéntico ofensivo, capa por capa, y cómo lo hace KAIX HAVOC.

Línea de tiempo del Reglamento de IA de la UE con el hito del 2 de agosto de 2026 resaltado: entrada en vigor 2024, prácticas prohibidas 2025, GPAI 2025, transparencia y vigilancia del mercado 2026, alto riesgo del Anexo III en diciembre de 2027 y del Anexo I en agosto de 2028

6 min de lecturajulio de 2026AI GovernanceEU AI Act

Qué exige el Reglamento de IA en agosto de 2026 y qué se ha aplazado a 2027

El Digital Omnibus aplazó el régimen de alto riesgo a diciembre de 2027. Qué sigue siendo exigible el 2 de agosto de 2026, qué se mueve y por dónde empezar.

Diagrama del bucle red team / blue team: HAVOC ataca, DELIA detecta y responde, la detección se valida con una receta reproducible, y la cobertura se mide y sube release a release

5 min de lecturajunio de 2026AI SecurityDELIAHAVOC

El bucle red team / blue team: cómo se valida un firewall de IA con tu propio motor ofensivo

La mayoría de las defensas de IA se venden con cobertura declarada, no medida. Cómo el bucle red team / blue team convierte cada ataque en una receta reproducible, con veredictos reales y números A/B.

Pipeline LLM (usuario, recuperación, modelo, herramienta y salida) con DELIA como firewall en línea y los diez chips del OWASP LLM Top 10

12 min de lecturamayo de 2026AI SecurityOWASPDELIA

OWASP LLM Top 10 (2025): diez ataques reales y qué intercepta DELIA

Los diez riesgos del OWASP LLM Top 10 con un PoC real de cada uno, ejecutado contra el testbed de DELIA, y los veredictos que devuelve en línea. Con evidencia OCSF.

Capas de seguridad de un stack: red, endpoints y aplicaciones marcadas como cubiertas; la capa de IA (LLM, RAG, agentes) marcada como punto ciego, cubierta por AIDR

7 min de lecturamayo de 2026AI SecurityAIDRDELIA

¿Qué es AIDR? El firewall que le falta a tu capa de IA

AIDR es la capa de detección y respuesta para LLM, RAG y agentes en runtime. Qué es, por qué tu WAF, tu EDR y tus guardrails no la cubren, y en qué se diferencia.