regulación

La Ley de IA de la Unión Europea, que entrará en vigor el 2 de agosto, introduce nuevas obligaciones de transparencia y etiquetado para los sistemas de inteligencia artificial de alto riesgo. Sin embargo, su implementación efectiva requiere una infraestructura tecnológica que garantice seguridad, transparencia y control desde el inicio.

Proofpoint, líder en ciberseguridad, ha anunciado mejoras significativas en su gestión de la postura de seguridad de datos (DSPM) y en la gobernanza del acceso a datos en Europa. Estas actualizaciones incluyen una mayor capacidad para descubrir y clasificar datos mediante inteligencia artificial en varios idiomas europeos. Con un centro de datos en Fráncfort, la empresa busca facilitar la adopción segura de la IA, ayudando a las organizaciones a cumplir con las normativas de privacidad y residencia de datos.

Anthropic ha destacado los resultados de dos problemas criptográficos que su modelo de seguridad AI, Mythos, ha abordado, identificando debilidades en los fundamentos matemáticos de dos algoritmos. Aunque es difícil discernir hasta qué punto los informes de la compañía son simplemente una estrategia de marketing, los hallazgos son significativos, ya que podrían indicar avances importantes en la ruptura de criptografía esencial para la privacidad y la seguridad.

Un reciente estudio de Netskope revela que las infracciones de datos confidenciales por parte de la inteligencia artificial (IA) están en aumento, convirtiéndose en la segunda violación más común en el ámbito empresarial. Estas infracciones, que ocurren cuando la IA comparte información con usuarios no autorizados, han más que duplicado su frecuencia en el último año, alcanzando 31 incidentes semanales por organización.

En su columna de esta semana, se aborda la creciente preocupación de las grandes empresas de inteligencia artificial en Estados Unidos ante el avance de modelos chinos de código abierto, que son más económicos y se desarrollan con innovaciones metodológicas que desafían las inversiones masivas en infraestructura de Silicon Valley. Compañías como OpenAI y Anthropic abogan por restricciones a estos modelos, mientras que otras como Microsoft y Nvidia defienden la apertura, temiendo que las prohibiciones consoliden un oligopolio.

La Ley de Inteligencia Artificial de la Unión Europea (AI Act) entró en vigor el 2 de agosto, estableciendo un marco regulatorio que refuerza la supervisión y el cumplimiento en el uso de esta tecnología. Esta normativa, que se implementará de forma gradual, prioriza la transparencia, la supervisión humana y la alfabetización en IA como pilares para un uso responsable.

La libertad de expresión no solo garantiza el derecho a expresar opiniones, incluso las más provocadoras o erróneas, sino que también protege el derecho de periodistas, investigadores y ciudadanos a cuestionar y verificar esas afirmaciones. Es fundamental que se fomente un entorno donde se pueda examinar y refutar públicamente lo que se considera falso, asegurando así un debate saludable y constructivo en la sociedad.

La digitalización de procesos y la creciente regulación están transformando la gestión de la identidad digital en un elemento estratégico para las organizaciones. Redtrust ha identificado cinco tendencias que destacan su importancia: la responsabilidad de la identidad digital se extiende más allá de TI, las normativas exigen un control más riguroso, la incorporación de IA plantea nuevos retos, la gestión manual ha alcanzado su límite y, finalmente, la identidad digital se convierte en la base de la confianza digital.

La Comisión Europea ha señalado que TikTok no cumple con los estándares legales necesarios para salvaguardar a los menores en su plataforma. Según los hallazgos preliminares, la red social de Bytedance permite que los jóvenes usuarios estén expuestos a contactos no deseados, ciberacoso y comportamientos depredadores. Esta situación ha llevado a Bruselas a concluir que la plataforma infringe el reglamento de servicios digitales (DSA, por sus siglas en inglés).