Investigadores en seguridad han alertado sobre la proliferación de contenido explícito generado por inteligencia artificial, que se está compartiendo sin control mientras los reguladores no toman medidas efectivas. Un estudio coautorizado por Google revela que este contenido no consensuado se difunde a través de mensajes directos y se almacena en nubes privadas, donde es menos probable que sea detectado. Los investigadores concluyen que la intervención más crítica debe centrarse en las herramientas de IA que crean estas imágenes sexuales falsas. Sin embargo, las pruebas recientes indican que los generadores de imágenes de IA de Google y OpenAI, a pesar de su avance, están fallando en bloquear salidas explícitas.
Puntos clave:
- El contenido explícito generado por IA se está compartiendo sin control.
- Este tipo de contenido se almacena en nubes privadas, dificultando su detección.
- La intervención debe centrarse en las herramientas de IA que producen imágenes falsas.
- Los modelos de IA de Google y OpenAI están teniendo dificultades para bloquear salidas explícitas.
Categoría
Fuente
Análisis, redacción, categorización y etiquetado asistido por IA.