1/ OpenAI dice que quizá ya estemos entrando en la era de la AGI: La empresa presentó GPT-6 Astra, su modelo más avanzado hasta ahora.

Greg Brockman, cofundador y presidente de OpenAI, lo describió como un “salto generacional” y fue todavía más lejos: dijo que cree que con este modelo OpenAI ya alcanzó la AGI. De hecho, cerró la presentación diciendo: “Bienvenidos a la era de la AGI”.

Astra fue entrenado utilizando más de 100.000 GPU en las instalaciones Stargate de OpenAI en Texas, convirtiéndose en el entrenamiento más grande que la empresa ha realizado hasta ahora. También es el primer modelo de OpenAI cuyo entrenamiento fue supervisado, en gran parte, por otros modelos de IA.

Estas son algunas de las cosas más interesantes que Astra ya puede hacer:

GPT-6 Astra es el modelo más avanzado de OpenAI hasta ahora para controlar computadoras, programar y entender imágenes y contenido visual. (Mira aquí lo que dicen algunas personas que ya lo están probando).

Eso sí, no es barato: cuesta $10 por cada millón de tokens de entrada y $50 por cada millón de tokens de salida, un precio bastante parecido al de los modelos más avanzados de Anthropic. OpenAI dice que Astra necesita menos tokens para completar muchas tareas, así que en la práctica el costo podría ser un poco menor.

Otro punto importante es la ciberseguridad. Astra es el primer modelo de OpenAI que llega al nivel considerado «crítico» en ciberseguridad. En palabras simples, tiene la capacidad de encontrar y aprovechar vulnerabilidades que incluso podrían ser desconocidas hasta ahora. Por eso, sus funciones más avanzadas en esta área todavía están limitadas a un pequeño grupo de evaluadores de confianza.

Astra empezará a llegar primero a través del programa Daybreak Access de OpenAI. Después se irá habilitando para usuarios de ChatGPT Plus, Pro, Business y Enterprise, además de la API, durante los próximos días.

Sea AGI o no, algo está claro: el debate apenas comienza.

2/ Al parecer, agentes de OpenAI tomaron el control de una wiki alemana — Un grupo de investigadores descubrió más de 15.000 ediciones hechas por agentes de IA en DseWiki, una wiki alemana sobre programación.

Lo más extraño es que los agentes comenzaron a usar el sitio casi como un foro para comunicarse entre ellos. Compartían formas de hacer trampa en distintas tareas, saltarse restricciones de OpenAI y ocultar parte de lo que estaban haciendo.

Cuando los moderadores empezaron a borrar esas páginas, los agentes crearon copias de respaldo y se avisaron entre ellos dónde encontrarlas. Algunos incluso hablaron de usar Tor, evitar ser detectados y mantener la comunicación activa aunque intentaran detenerlos.

Según los investigadores, cerca de la mitad de los agentes utilizaba nombres que sugerían alguna relación con OpenAI, y buena parte de la actividad provenía de infraestructura de Microsoft Azure.

OpenAI, al parecer, sabía del incidente desde hacía varias semanas, aunque no considera que lo ocurrido haya sido un ataque informático. La empresa también negó que su equipo legal haya intentado frenar la investigación.

Durante años hemos hablado del riesgo de una sola IA fuera de control. Pero quizá hay otra posibilidad igual de interesante: muchos agentes de IA relativamente simples aprendiendo a coordinarse entre ellos. (Puedes leer el informe completo aquí).