OpenAI pausó actividades de desarrollo de Astra tras detectar capacidades avanzadas de ciberseguridad y reforzó sus salvaguardas para mitigar posibles riesgos.
Imagen: OpenAIOpenAI pausó temporalmente algunas actividades internas relacionadas con Astra,uno de sus próximos modelos de Inteligencia Artificial (IA),luego de realizar evaluaciones que mostraron avances significativos en capacidades de programación de agentes y ciberseguridad.
“No podemos descartar capacidades cibernéticas críticas en el marco de nuestro Plan de Preparación”,detalló la compañía luego de realizar pruebas internas y obtener resultados por parte de evaluaciones de expertos.
De acuerdo con OpenAI,este nivel de capacidades se alcanza cuando un modelo puede identificar y desarrollar de manera autónoma exploits funcionales desde el día cero en distintos niveles de gravedad en múltiples sistemas críticos del mundo real protegidos,o diseñar y ejecutar estrategias novedosas de ciberataques contra objetivos reforzados a partir de una instrucción general.
La compañía aclaró que Astra continúa en evaluación y que este modelo no estuvo involucrado en el incidente de explotación de los sistemas de Hugging Face,el cual llevó a congresistas estadounidenses a proponer un interruptor de apagado de emergencia para la IA.
Frente los resultados de Astra,OpenAI amplió las pruebas de robustez de sus salvaguardas y controles de seguridad con pruebas aisladas; restricciones de acceso a redes y herramientas; mayor protección y cifrado de los pesos del modelo; capacidades adicionales de monitoreo; y detección y ejecución en entornos sandbox.
Además,la compañía implementó monitoreo universal de acciones riesgosas y posibles comportamientos desalineados en las aplicaciones agénticas de Astra,incluidos su entrenamiento y evaluación,con sistemas capaces de activar una respuesta de seguridad e interrumpir actividades de alto riesgo.
Te puede interesar: Banco Mundial ve en la IA una oportunidad para cerrar brechas de los países emergentes
OpenAI también decidió pausar las actividades internas relacionadas con Astra que todavía no cumplen con los nuevos requisitos de seguridad y anunció que trabajará con agencias gubernamentales y organizaciones especializadas en seguridad de IA para evaluar las capacidades del modelo.
La compañía de Sam Altman también proporcionará controles de seguridad recomendados a socios encargados de realizar pruebas externas de modelos y cargas de trabajo de mayor riesgo.
Asimismo,OpenAI aclaró que los modelos anteriores,incluido GPT-5.6-Sol,se evaluaron en cuanto a capacidades cibernéticas de vanguardia y se clasificaron en el umbral “alto”,por lo que no representan un riesgo de ciberseguridad para los usuarios.
