Anthropic ha expresado su preocupación por los recientes avances en inteligencia artificial, especialmente en relación con los modelos de automejora recursiva. Estos sistemas, al desarrollarse de manera autónoma, podrían llevar a una pérdida de control por parte de los humanos. En este contexto, la empresa aboga por una desaceleración global en el impulso de esta tecnología para garantizar un desarrollo más seguro y controlado.
Puntos clave:
- Anthropic alerta sobre los riesgos de la IA que se autoconstruye.
- Los modelos de automejora recursiva pueden generar pérdida de control humano.
- Se propone una desaceleración en el desarrollo de la inteligencia artificial.
Categoría
Fuente
Análisis, redacción, categorización y etiquetado asistido por IA.