Seguridad de LLM
Análisis de prompt-injection, jailbreak y abuso de modelos expuestos en producción.
// INICIATIVA · I+D EN INTELIGENCIA ARTIFICIAL
TTPSEC AI
I+D en inteligencia artificial aplicada a ciberseguridad.
TTPSEC AI es el laboratorio de I+D del grupo enfocado en la intersección de inteligencia artificial y ciberseguridad. Dos frentes: cómo la IA cambia el tempo de una operación ofensiva y defensiva, y cómo se ataca a la propia IA cuando se expone en producción.
De aquí sale la red OVNI-Agentic HoneyPot Net, sensores que emulan endpoints de LLM para capturar en vivo el reconocimiento, los intentos de jailbreak y la explotación dirigida contra modelos expuestos.
La investigación no se queda en el paper: alimenta las metodologías de la consultoría, los escenarios de la academy y las herramientas de los labs.
// Qué ofrece
IA ofensiva y defensiva
Estudio de agentes LLM en pentesting, red team y detección asistida.
Honeypot agéntico
Sensores que capturan ataques reales contra endpoints de IA, con dataset abierto.
Investigación aplicada
Hallazgos que se transfieren directo a servicios, formación y herramientas.
▸ ttpsec.ai · investigación