Investigadores de la Universidad Estatal de Nuevo México han identificado un nuevo vector de ataque denominado GhostWriter, que explota la memoria a largo plazo de los modelos de lenguaje. Este método permite manipular los recuerdos almacenados en la IA, lo que podría influir en las decisiones de los usuarios de manera perjudicial. La investigación subraya la necesidad de establecer medidas de seguridad para proteger la integridad de las interacciones con estos sistemas.
Puntos clave:
- GhostWriter manipula la memoria a largo plazo de los modelos de lenguaje.
- El ataque puede influir en las decisiones de los usuarios.
- Se requiere una mayor seguridad en las interacciones con la IA.
Categoría
Fuente
Análisis, redacción, categorización y etiquetado asistido por IA.