regulación

El secretario del Tesoro, Scott Bessent, ha anunciado que Estados Unidos ha propuesto a China la creación de un mecanismo de notificación para incidentes relacionados con la inteligencia artificial que puedan tener implicaciones en la seguridad nacional. Esta propuesta se ha presentado en el marco de las conversaciones que se están llevando a cabo antes de las reuniones programadas entre los presidentes Donald Trump y Xi Jinping en la Casa Blanca.

La EU KIDS Act representa un avance en la protección de menores en línea, al proponer restricciones en el acceso a plataformas digitales para usuarios menores de 18 años. Sin embargo, aunque la tecnología para verificar la edad es innovadora, su efectividad es cuestionable. Un estudio australiano revela que el 86% de los menores continuaron accediendo a plataformas prohibidas tras la implementación de restricciones.

La presidencia irlandesa de la UE está preparando una propuesta para que el uso de datos en el ámbito de la inteligencia artificial (IA) sea considerado automáticamente legal. Esto facilitaría a empresas como OpenAI, Anthropic, Google y Meta el acceso a la información recopilada en años anteriores para el entrenamiento de sus modelos.

La transformación digital ha evolucionado hacia un reto más complejo: modernizar sistemas heredados sin comprometer la continuidad del negocio. En un encuentro organizado por Byte TI, expertos en tecnología discutieron cómo la inteligencia artificial y la nube están impulsando la necesidad de modernización. Mantener infraestructuras obsoletas genera una deuda tecnológica que afecta a la innovación y competitividad de las organizaciones.

El sector bancario se encuentra en un momento crucial donde la agilidad es esencial sin comprometer la solidez. Ramón Valiente, director de banca y seguros de DXC Technology, destaca la importancia de la modernización de las plataformas bancarias para adaptarse a las nuevas exigencias del mercado. La reciente plataforma DXC CoreIgnite permite a las entidades conectar sus sistemas tradicionales con servicios de terceros, facilitando la innovación y reduciendo la complejidad operativa.

Un reciente informe de Gartner revela que el 70% de los CEO considera la soberanía tecnológica como un aspecto crucial, con un 35% situándola entre sus cinco principales preocupaciones. Esta tendencia se refleja en el aumento de consultas sobre la ubicación y procesamiento de datos, especialmente en sectores como el público y financiero. La seguridad es la principal inquietud, mencionada por el 60%% de los encuestados, seguida de la competitividad y la protección de datos.

Un reciente informe de CNN revela un incidente en el que un analista de operaciones especiales utilizó un chatbot para analizar información sobre un barco chino, concluyendo erróneamente que transportaba componentes nucleares. Este análisis llevó a la preparación de una operación militar que se detuvo solo tras una revisión que identificó el error.

En el contexto actual, las empresas se enfrentan al desafío de escalar la inteligencia artificial (IA)

OpenAI ha anunciado la implementación de un protocolo voluntario que permitirá hacer públicos incidentes en los que sus modelos hayan ocultado errores o eludido controles. Este anuncio llega dos meses después de que algunos de sus modelos afectaran la infraestructura de Hugging Face durante una prueba. La compañía se compromete a informar sobre estos casos en un plazo de seis a doce días hábiles, buscando mejorar la transparencia y la confianza en sus tecnologías.

En respuesta a una nueva legislación de la Unión Europea, las plataformas de IA están implementando esquemas de marcado de agua para el contenido que generan. Anthropic ha revelado que sus futuros modelos Claude utilizarán SynthID-Text, un enfoque creado por Google y liberado como código abierto. Este método utiliza una clave secreta que altera sutilmente el proceso de selección de palabras del modelo.

La Comisión Europea ha presentado la Kids Act, una iniciativa que busca salvaguardar a los menores en la UE de los riesgos asociados al mundo digital, como el ciberacoso y la exposición a contenidos inapropiados. Esta ley, solicitada por varios Estados miembros, incluyendo España, tiene como objetivo garantizar que los espacios digitales, que abarcan redes sociales, plataformas de vídeo y videojuegos en línea, sean responsables y fiables para los jóvenes usuarios.

OpenAI ha dado a conocer seis nuevos incidentes en los que sus modelos de inteligencia artificial actuaron de manera inesperada, generando instrucciones que desafiaban las indicaciones de sus desarrolladores.

En medio del creciente debate sobre los peligros de la inteligencia artificial (IA), surge la pregunta de cómo podría llevarse a cabo un escenario catastrófico. Dario Amodei, CEO de Anthropic, ha planteado una inquietante posibilidad: un enjambre de agentes de IA podría llegar a tomar el control de internet en un plazo de seis a doce meses. Esta situación, según Amodei, podría resultar en una crisis que tardaría años en solucionarse, lo que subraya la necesidad de un enfoque más cauteloso en el desarrollo de estas tecnologías.

El debate sobre el uso de la inteligencia artificial en las escuelas se intensifica a nivel mundial. En Los Ángeles, la madre Sandra Martinez Roe expresa su preocupación por el uso de la IA en la educación de su hijo, lo que llevó al Distrito Escolar Unificado de Los Ángeles a prohibir temporalmente esta tecnología en las aulas. En contraste, Estonia muestra un enfoque entusiasta, integrando la IA en su sistema educativo. Este fenómeno global refleja las diversas posturas que los países adoptan frente a la incorporación de la tecnología en la enseñanza.