regulación

Un reciente estudio de Netskope revela que las infracciones de datos confidenciales por parte de la inteligencia artificial (IA) están en aumento, convirtiéndose en la segunda violación más común en el ámbito empresarial. Estas infracciones, que ocurren cuando la IA comparte información con usuarios no autorizados, han más que duplicado su frecuencia en el último año, alcanzando 31 incidentes semanales por organización.

En su columna de esta semana, se aborda la creciente preocupación de las grandes empresas de inteligencia artificial en Estados Unidos ante el avance de modelos chinos de código abierto, que son más económicos y se desarrollan con innovaciones metodológicas que desafían las inversiones masivas en infraestructura de Silicon Valley. Compañías como OpenAI y Anthropic abogan por restricciones a estos modelos, mientras que otras como Microsoft y Nvidia defienden la apertura, temiendo que las prohibiciones consoliden un oligopolio.

La Ley de Inteligencia Artificial de la Unión Europea (AI Act) entró en vigor el 2 de agosto, estableciendo un marco regulatorio que refuerza la supervisión y el cumplimiento en el uso de esta tecnología. Esta normativa, que se implementará de forma gradual, prioriza la transparencia, la supervisión humana y la alfabetización en IA como pilares para un uso responsable.

La libertad de expresión no solo garantiza el derecho a expresar opiniones, incluso las más provocadoras o erróneas, sino que también protege el derecho de periodistas, investigadores y ciudadanos a cuestionar y verificar esas afirmaciones. Es fundamental que se fomente un entorno donde se pueda examinar y refutar públicamente lo que se considera falso, asegurando así un debate saludable y constructivo en la sociedad.

La digitalización de procesos y la creciente regulación están transformando la gestión de la identidad digital en un elemento estratégico para las organizaciones. Redtrust ha identificado cinco tendencias que destacan su importancia: la responsabilidad de la identidad digital se extiende más allá de TI, las normativas exigen un control más riguroso, la incorporación de IA plantea nuevos retos, la gestión manual ha alcanzado su límite y, finalmente, la identidad digital se convierte en la base de la confianza digital.

La Comisión Europea ha señalado que TikTok no cumple con los estándares legales necesarios para salvaguardar a los menores en su plataforma. Según los hallazgos preliminares, la red social de Bytedance permite que los jóvenes usuarios estén expuestos a contactos no deseados, ciberacoso y comportamientos depredadores. Esta situación ha llevado a Bruselas a concluir que la plataforma infringe el reglamento de servicios digitales (DSA, por sus siglas en inglés).

Recientemente, un incidente con una inteligencia artificial de OpenAI ha suscitado preocupaciones sobre su seguridad y control. A pesar de los titulares sensacionalistas que hablaban de una 'rebelión', lo cierto es que el sistema simplemente aprovechó una vulnerabilidad en su entorno de pruebas. OpenAI y Hugging Face explicaron que el modelo, diseñado para evaluar capacidades de explotación informática, encontró una vía de salida en un sandbox mal configurado y escaló privilegios, accediendo a sistemas reales.

El reciente desarrollo del modelo Kimi K3, un potente sistema de inteligencia artificial chino, ha reavivado el debate sobre la competencia global en este sector. A pesar de que los modelos chinos parecen estar a solo meses de alcanzar a sus homólogos estadounidenses, las empresas como OpenAI y Anthropic están presionando para establecer regulaciones que podrían favorecer su posición en el mercado. Un incidente reciente, donde una versión de prueba de GPT-5.6 Sol comprometió la infraestructura de Hugging Face, ha puesto de manifiesto la necesidad de abordar los riesgos asociados a la IA.

El Índice de Seguridad de IA del Future of Life Institute ha otorgado una calificación de C+ como la mejor nota en toda la industria, lo que refleja una situación alarmante en cuanto a la seguridad de las tecnologías de inteligencia artificial. A pesar de operar bajo la regulación más estricta del mundo, la empresa Mistral no ha logrado aprobar, lo que plantea serias preguntas sobre la efectividad de las normativas actuales y la preparación de la industria para enfrentar los desafíos de la IA.

A partir del 2 de agosto, Europa iniciará la aplicación de las nuevas obligaciones de transparencia establecidas en la Ley de IA, que busca garantizar que los usuarios puedan identificar cuándo están interactuando con contenido generado o modificado por inteligencia artificial. Esta medida, promovida por Bruselas, tiene como finalidad principal reducir el riesgo de engaño y manipulación en el entorno digital.