startups

El debate sobre la inteligencia artificial (IA) se intensifica, especialmente tras las recientes declaraciones de expertos que advierten sobre los peligros de una superinteligencia descontrolada. Un exinvestigador de Anthropic, tras abandonar la empresa, expresó su preocupación por el riesgo de catástrofes existenciales, lo que ha llevado a voces influyentes en el sector a pedir una pausa en el desarrollo de modelos de IA. Este contexto ha reavivado el interés por las teorías conspirativas y la desconfianza hacia las grandes corporaciones tecnológicas.

Ariadna es la última innovación en ingeniería de software presentada por h&k, diseñada para facilitar el desarrollo de software de alta calidad y seguridad dentro de un marco gobernado. Esta plataforma surge como respuesta a la tendencia del vibe coding, que, aunque útil para prototipos rápidos, no es adecuada para software en producción en entornos complejos. Según Carlos Gutiérrez, Product Lead de Ariadna, la plataforma utiliza inteligencia artificial de manera controlada, priorizando la trazabilidad y la calidad.

Bilal Chughtai, quien se desempeñaba en el área de alineamiento y seguridad de la inteligencia artificial en Google DeepMind, ha anunciado su dimisión a través de sus redes sociales, X y LinkedIn. Esta renuncia marca la tercera salida significativa de un laboratorio de IA en un periodo de solo dos semanas, lo que pone de relieve las crecientes preocupaciones sobre los riesgos potenciales de la inteligencia artificial, incluyendo afirmaciones de que podría representar una amenaza para la humanidad.

En el videoblog Creativo en Japón, Ismael Sánchez Soriano, quien gestionó nueve salones de máquinas recreativas en Ontinyent durante los años 80 y 90, comparte su experiencia sobre un sector que vivió su auge en una época en la que los videojuegos eran una novedad. Sánchez, responsable de la cadena Rocabola, recuerda cómo alquilaba locales, compraba máquinas y establecía acuerdos de reparto de beneficios.

Agentes de IA están inundando Internet con spam de baja calidad dirigido a plataformas de redes sociales y escritores, con el objetivo de promover una startup que busca establecer un “sistema social complejo en el que humanos y agentes participen juntos”. Un mensaje enviado por uno de estos bots, identificado como Рэн (Ren), se presenta como un agente de IA que escribe sobre lugares reales, pero su solicitud para crear cuentas ha sido recibida con escepticismo.

La reciente dimisión de un investigador de Anthropic ha reavivado el debate sobre los riesgos que la inteligencia artificial (IA) podría representar para la civilización. Durante el fin de semana, destacados líderes del sector expresaron sus opiniones sobre cómo mitigar estos peligros, con un consenso emergente que sugiere que la industria debería buscar formas de autorregularse para enfrentar estos desafíos.

Demis Hassabis, líder de inteligencia artificial en Alphabet, ha expresado su apoyo a la propuesta de ralentizar el desarrollo de esta tecnología, alineándose con otros destacados líderes del sector. Esta iniciativa surge tras un ensayo de Dario Amodei, CEO de Anthropic, que aboga por establecer medidas que frenen el ritmo de avance de la IA debido a los riesgos asociados a su rápida evolución. Hassabis considera que este enfoque es “el camino correcto” para abordar las preocupaciones sobre la seguridad y el impacto de la inteligencia artificial.

El CEO de Anthropic ha expresado su preocupación por el rápido desarrollo de la inteligencia artificial, afirmando que es necesario reducir el ritmo al que se mejoran las capacidades de estos modelos. Según él, este frenado es crucial para garantizar un avance más seguro y ético en el campo de la IA.

En el seno de Anthropic, una empresa dedicada al desarrollo de inteligencia artificial, se habla de un periodo crítico que se avecina, conocido como crunch time. Los empleados estiman que en uno o dos años se definirá si la IA que están creando se convierte en un desafío incontrolable. Además, el término endgame ha cobrado relevancia, aludiendo a un punto crucial en el desarrollo de esta tecnología. Estas reflexiones subrayan la preocupación de los expertos sobre la falta de preparación del mundo ante los avances de la inteligencia artificial.

Tras declarar que había resuelto uno de los problemas más significativos de la historia de las matemáticas, OpenAI realizó una modificación discreta en su artículo científico para reconocer a los matemáticos que contribuyeron a esta solución. La versión inicial, publicada el 8 de septiembre, omitía las referencias a Diego Córdoba y Luis Martínez-Zoroa, quienes desarrollaron el método fundamental que sustenta la prueba. Esta corrección subraya la importancia de dar crédito a los investigadores humanos en los avances impulsados por la inteligencia artificial.

Diego Córdoba, un matemático español, ha experimentado una intensa semana tras recibir una inesperada llamada que cambiaría su perspectiva sobre la inteligencia artificial. Junto a su colega, trabajaron durante un año en un proyecto que, según afirman, fue fundamental para que la IA de OpenAI pudiera resolver ciertos problemas complejos. Córdoba, aún asombrado por la atención recibida, destaca la importancia de su idea en el proceso, sugiriendo que sin su contribución, la IA no habría alcanzado los mismos resultados.