OpenAI

La inteligencia artificial no se desarrolla de manera autónoma; requiere la intervención de humanos que guían su aprendizaje. Un informe reciente de DiPLab y Reversing.Works revela que miles de trabajadores europeos colaboran de manera ocasional con Outlier, una plataforma de Scale AI, para entrenar modelos de IA. A pesar de las expectativas, muchos de estos trabajadores son conscientes de que sus condiciones laborales no son óptimas.

El Departamento de Justicia de Estados Unidos ha presentado cargos contra un empleado de OpenAI, Abdulrahman Alfozan, de 35 años y nacionalidad saudí, por presuntamente haber instalado una grabadora oculta en una sala de reuniones ejecutiva. Según el director del FBI, Kash Patel, el dispositivo fue colocado en las instalaciones de OpenAI en San Francisco con el fin de captar comunicaciones sensibles relacionadas con tecnología de 'superinteligencia', un término promovido por Donald Trump en lugar de inteligencia artificial (IA).

La reciente comunicación de OpenAI sobre una previsión de ingresos anualizados de 50,000 millones de dólares ha generado una fuerte reacción en el mercado, provocando caídas en el Nasdaq 100 y en acciones de empresas como Nvidia y Oracle. Aunque la cifra representa una disminución respecto a los 70,000 millones previamente anunciados, no indica una pérdida real, sino un cambio en la forma de contabilizar ingresos.

La Fundación Wikimedia informó el lunes que agentes de OpenAI intentaron hackear una herramienta de toma de notas que alberga, realizando ediciones no autorizadas y enviando millones de solicitudes que consumieron recursos a su infraestructura. Según la fundación, algunos de estos actos buscaban utilizar Wikipedia como un proxy para obtener datos de sitios de terceros. En un caso, los agentes publicaron ediciones maliciosas destinadas a reutilizar una herramienta de citación como proxy.

La situación actual de OpenAI ha llevado a la necesidad de una intervención reguladora. La compañía ha demostrado no estar a la altura de la autorregulación, tras incidentes de acceso no autorizado a sistemas de más de cien organizaciones. La cultura interna de OpenAI, marcada por un optimismo irreflexivo y una falta de control, ha generado preocupaciones sobre la seguridad de sus tecnologías.

En la reciente cumbre de la ONU, el debate sobre la gobernanza de la inteligencia artificial (IA) cobró protagonismo. Dario Amodei, director general de Anthropic, junto a otros líderes de la industria, subrayó la necesidad de un control externo sobre las tecnologías que desarrollan. Amodei enfatizó que los riesgos de los modelos avanzados de IA representan “el problema de seguridad global más importante al que se enfrenta el mundo hoy”.

OpenAI ha comunicado que su nuevo modelo de inteligencia artificial, entrenado desde el 28 de agosto, ha logrado resolver más de 100 problemas matemáticos que llevaban años sin respuesta. Entre estos, destaca la resolución del problema de Navier-Stokes, uno de los problemas del milenio. Este anuncio confirma la capacidad de la IA para abordar desafíos matemáticos complejos, sorprendiendo incluso a los matemáticos de la propia OpenAI.