Productos con restricción de edad.
Actividades peligrosas.
Dependencia emocional.
El nuevo modelo de OpenAI suma mayores controles de seguridad y capacidades avanzadas para detectar riesgos de IA.
Productos con restricción de edad.
Actividades peligrosas.
Dependencia emocional.
GPT-6 Astra es el nuevo modelo de seguridad de OpenAI, presentado dentro del programa Daybreak. La compañía asegura que alcanzó el nivel crítico de capacidad de ciberseguridad.
Además, OpenAI sostiene que GPT-6 Astra permite hablar de inteligencia artificial general (AGI) por sus capacidades para aprender, razonar y realizar tareas cognitivas.
Según OpenAI, el modelo puede detectar vulnerabilidades de seguridad desconocidas y desarrollar nuevas formas de explotarlas.
El modelo también puede realizar estas tareas sobre sistemas protegidos sin supervisión humana, de acuerdo con el comunicado de la compañía.
OpenAI indicó que Astra es más robusto que GPT-5.6 Sol. En particular, resiste mejor los intentos de eliminar sus restricciones, conocidos como jailbreak.
También ofrece mayor resistencia frente a las inyecciones de mensajes o prompt injection y presenta un comportamiento más alineado con las instrucciones esperadas.
La compañía reforzó las medidas de seguridad durante el entrenamiento y la implementación de GPT-6 Astra.
Para desarrollar estas protecciones, OpenAI incorporó las lecciones del hackeo de Hugging Face, ejecutado por agentes de IA autónomos impulsados por modelos de la compañía.
El modelo también incorpora nuevas medidas de protección para menores de 18 años. Si detecta que interactúa con un menor, aplica límites adicionales sobre distintos tipos de contenido y actividades.
Contenido sexual.
Trastornos alimentarios y riesgos vinculados con la imagen corporal.
Autolesión y violencia gráfica.
Además, GPT-6 Astra no puede participar en juegos de rol románticos ni fomentar relaciones de dependencia que puedan reemplazar vínculos del mundo real.
OpenAI también destacó mejoras frente a GPT-5.6 Sol en áreas vinculadas con la salud mental, la dependencia emocional y la autolesión.
El modelo presenta además menos errores relacionados con las alucinaciones y una menor probabilidad de reproducir información alucinada, según la compañía.
Por ahora, GPT-6 Astra está disponible para los socios empresariales que participan del programa Daybreak.
OpenAI planea lanzar posteriormente una versión comercial para los usuarios de pago de ChatGPT, con medidas de seguridad adicionales.
El presidente de OpenAI, Greg Brockman, afirmó que GPT-6 Astra califica como inteligencia artificial general, según Bloomberg y The Washington Post.
El concepto de AGI refiere a una inteligencia artificial capaz de aprender, razonar y realizar tareas intelectuales o cognitivas al nivel de una persona o incluso superarlo.
Brockman sostuvo que GPT-6 Astra representa “un cambio real” en el tipo de tareas que las personas pueden delegar en la IA y en la forma en que esta puede potenciar sus capacidades.