Nvidia ha lanzado la Open Agent Safety Platform, un innovador software diseñado para aislar a cada agente de inteligencia artificial. Esta plataforma incluye un vigilante que opera en un chip separado, el cual es inaccesible para los agentes, garantizando así que las IA no puedan escapar de los entornos protegidos. Esta medida busca reforzar la seguridad en el uso de tecnologías de IA y prevenir posibles fugas de información o comportamientos no deseados.
Puntos clave:
- Nvidia ha desarrollado la Open Agent Safety Platform para mejorar la seguridad de los agentes de IA.
- La plataforma aísla a cada agente y utiliza un vigilante en un chip separado.
- El objetivo es evitar que las inteligencias artificiales se escapen de entornos protegidos.
Categoría
Fuente
Enlace original
Análisis, redacción, categorización y etiquetado asistido por IA.