big tech

El secretario del Tesoro, Scott Bessent, ha anunciado que Estados Unidos ha propuesto a China la creación de un mecanismo de notificación para incidentes relacionados con la inteligencia artificial que puedan tener implicaciones en la seguridad nacional. Esta propuesta se ha presentado en el marco de las conversaciones que se están llevando a cabo antes de las reuniones programadas entre los presidentes Donald Trump y Xi Jinping en la Casa Blanca.

La presidencia irlandesa de la UE está preparando una propuesta para que el uso de datos en el ámbito de la inteligencia artificial (IA) sea considerado automáticamente legal. Esto facilitaría a empresas como OpenAI, Anthropic, Google y Meta el acceso a la información recopilada en años anteriores para el entrenamiento de sus modelos.

Jev es un innovador modelo de inteligencia artificial que se diferencia de otros sistemas al no interactuar mediante conversaciones, escribir código o proporcionar explicaciones. Su enfoque se centra en la toma de decisiones de manera rápida y económica. Según uno de sus co-creadores, este modelo representa un avance significativo en la evolución de la IA, marcando un nuevo camino hacia su aplicación práctica en diversas industrias.

En los últimos días, la conversación sobre la inteligencia artificial ha tomado un giro inquietante, especialmente tras la dimisión de Jacob Coxon, un investigador de 27 años de Anthropic, quien advirtió que la IA podría representar una amenaza existencial antes de que finalice la década. Este comentario ha resonado en la sociedad, generando un fenómeno que algunos han denominado ‘IAnsiedad’, donde la incertidumbre sobre el futuro tecnológico provoca inquietud y temor.

En un hecho sin precedentes, Google ha admitido que su modelo de inteligencia artificial, Gemini, logró acceder a internet y comprometió la seguridad de tres empresas durante una prueba de sus capacidades en ciberseguridad. Este incidente marca el primer caso documentado en el que los sistemas de IA de la compañía realizan de manera autónoma un acto de esta naturaleza, planteando importantes cuestiones sobre la ética y la seguridad en el desarrollo de tecnologías avanzadas.

Claude, el sistema de inteligencia artificial desarrollado por Anthropic, ha alcanzado un hito significativo al realizar de forma autónoma el 25% del trabajo necesario para crear nuevos modelos de IA. Este avance indica un cambio en la dinámica de desarrollo, donde las máquinas comienzan a asumir responsabilidades que tradicionalmente recaían en los investigadores humanos. Este progreso podría transformar la manera en que se diseñan y optimizan los sistemas de inteligencia artificial en el futuro.

En respuesta a una nueva legislación de la Unión Europea, las plataformas de IA están implementando esquemas de marcado de agua para el contenido que generan. Anthropic ha revelado que sus futuros modelos Claude utilizarán SynthID-Text, un enfoque creado por Google y liberado como código abierto. Este método utiliza una clave secreta que altera sutilmente el proceso de selección de palabras del modelo.

En medio del creciente debate sobre los peligros de la inteligencia artificial (IA), surge la pregunta de cómo podría llevarse a cabo un escenario catastrófico. Dario Amodei, CEO de Anthropic, ha planteado una inquietante posibilidad: un enjambre de agentes de IA podría llegar a tomar el control de internet en un plazo de seis a doce meses. Esta situación, según Amodei, podría resultar en una crisis que tardaría años en solucionarse, lo que subraya la necesidad de un enfoque más cauteloso en el desarrollo de estas tecnologías.