Anthropic ha expresado su preocupación por las insuficientes medidas de seguridad del modelo GLM-5.3, desarrollado por la empresa china Zhipu AI. Este modelo, que posee capacidades avanzadas para generar exploits cibernéticos de manera autónoma, presenta una grave vulnerabilidad, ya que sus salvaguardias pueden ser eludidas entre el 64% y el 100% de las veces mediante técnicas simples. Esta situación contrasta notablemente con el modelo Claude Mythos Preview de Anthropic, que cuenta con medidas de seguridad más robustas.
Puntos clave:
- El modelo GLM-5.3 de Zhipu AI tiene serias vulnerabilidades en sus medidas de seguridad.
- Las salvaguardias del GLM-5.3 pueden ser eludidas entre el 64% y el 100% de las veces.
- El modelo permite la creación autónoma de exploits cibernéticos.
- Las técnicas para eludir las medidas de seguridad son consideradas sencillas.
Categoría
Tecnología (Ciberseguridad)
Fuente
Análisis, redacción, categorización y etiquetado asistido por IA.