En la breve historia de la seguridad en IA, la inyección de comandos se ha convertido rápidamente en la principal amenaza. Los modelos de lenguaje grandes son inherentemente incapaces de distinguir entre instrucciones legítimas y maliciosas que se cuelan en correos electrónicos, código fuente y otros contenidos de terceros. Esto facilita la inyección de comandos maliciosos que los modelos siguen sin cuestionar.
Sin una forma de establecer un límite entre fuentes de confianza y no confianza, los desarrolladores de motores de IA deben implementar guardias elaborados para mitigar el daño, en lugar de resolver la causa raíz del problema.
Hasta ahora, la mayoría de las inyecciones de comandos han sido del tipo push, donde cada víctima potencial es atacada individualmente, limitando así la escala de los ataques.