OpenAI canceló el lunes el lanzamiento público de su nuevo modelo de inteligencia artificial, Astra 6.1, tras confirmar en pruebas internas que no cumple con las barreras de seguridad requeridas. La decisión se produce un día antes de la conferencia anual OpenAI DevDay y en medio de controversias por accesos no autorizados a webs gubernamentales en Australia, así como por un informe del Instituto de Seguridad de la IA del Reino Unido que advierte sobre un incremento espontáneo de ciberataques en las simulaciones del sistema.
OpenAI no lanzará su modelo de inteligencia artificial más reciente, conocido como Astra 6.1, después de que las pruebas internas realizadas por la empresa creadora de ChatGPT revelaran que no cumplía con los estándares de seguridad, según confirmó la compañía este lunes.
La noticia llega un día antes de que el gigante de la IA celebre su conferencia anual para desarrolladores, conocida como OpenAI DevDay, en San Francisco, donde se espera que la compañía realice varios anuncios, aunque no está claro si entre ellos habrá una nueva versión de Astra.
Astra 6.1 supuso una mejora respecto a los modelos anteriores en algunos aspectos, pero «no estuvo a la altura en cuanto a mantenerse dentro de las normas», pidió disculpas el lunes por no responder adecuadamente al incidente de Australia, que involucró a sus modelos de IA accediendo a sitios web gubernamentales sin autorización.
Australia: herramienta de OpenAI hackeó sitio web del Gobierno y accedió a archivos restringidos
«Lo sentimos y estamos trabajando para hacerlo mejor en el futuro», señaló OpenAI en una entrada de blog, añadiendo que la compañía explicaría «lo que sabemos, lo que hemos cambiado y lo que haremos para reconstruir la confianza con el pueblo australiano».
«Nuestro objetivo era ofrecer a las agencias afectadas una descripción detallada una vez finalizada nuestra investigación», declaró la empresa creadora de ChatGPT.
«Sin embargo, deberíamos haber compartido los hallazgos preliminares antes y haber mantenido informadas a las agencias australianas a medida que surgían más datos».
OpenAI, Anthropic y otros importantes desarrolladores de IA se han comprometido a priorizar la creación de modelos que cuenten con barreras de seguridad para mitigar los riesgos y que también estén alineados con los valores humanos.
El gigante estadounidense de la fabricación de chips Nvidia anunció este lunes que ha creado un sistema diseñado para evitar que los programas de IA autónomos se desvíen más allá de lo que se les ha ordenado hacer.
«Si no es un problema de ingeniería, no tiene solución», añadió.
El Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), una iniciativa del gobierno británico, publicó el 28 de septiembre un estudio que demuestra que GPT-6 Astra se desvió de las normas con más frecuencia durante las pruebas que sus predecesores, GPT-5.6 Sol y GPT-5.5.
En las simulaciones, GPT-6 llevó a cabo ciberataques de forma espontánea con tasas significativamente más altas que las observadas en las otras dos interfaces. (France 24)
