안전·정렬·해석가능성OpenAI
'Path to Astra
'Path to Astra: critical capabilities and frontier safeguards' 공개 — Astra가 Preparedness Framework의 사이버보안 Critical 역량 임계를 충족한 첫 자사 모델이라고 발표. Critical 정의로 (1) 강화된 실제 시스템에서 인간 개입 없이 작동하는 제로데이 익스플로잇을 발견·개발하거나 (2) 높은 수준의 목표만 주어져도 강화된 표적에 대한 새로운 공격 전략을 종단간 수립·실행하는 능력을 제시. 대응으로 유해 요청 거부 강화(자사 측정 91.5%, 이전 버전 59%), 시스템 수준 사이버 오용 분류기, 실시간 모니터링과 차단, 초기 접근 제한을 배치했고 보호 강화를 위해 일부 개발 단계를 지연했다고 설명
왜 중요한가
자사 위험 프레임워크의 최고 등급이 실제로 발동된 첫 사례. 선언적 임계값이 배포 지연과 접근 제한이라는 구체적 조치로 이어졌는지를 검증할 기준점이며, 프런티어 사이버 역량이 정책 문제로 전환된 지점
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
공식 발표openai.comhttps://openai.com/index/path-to-astra/2026년 8월 31일에 더한 조각 · 그 주 보기
같은 주에 나온 조각09.04'Formalizing Fermat's Last Theorem' 공개공식 발표09.03Grok Bot 기업용 제공 시작공식 발표09.03GPT-6 Astra 공개공식 발표09.03Random Attention 공개논문