OpenAI가 차기 모델 Astra의 세부 정보를 공개했다. 회사는 Astra가 자사 최초로 '치명적 사이버보안 임계치(critical cybersecurity threshold)'를 충족한 대형언어모델이라고 밝혔다.
OpenAI 블로그는 "Astra를 곧 출시할 계획이지만, 가장 고급 사이버보안 기능에 대한 접근은 더 제한적으로 운영될 것"이라고 명시했다.
OpenAI가 확인한 Astra의 핵심 능력은 두 가지다. 컴퓨터 시스템의 미지 보안 결함을 탐지하고, 인간의 개입 없이 이를 악용할 수 있다. Anthropic이 올해 초 자사 Mythos 모델에 대해 제기한 우려와 유사한 수준이다.
Astra는 LLM의 알려진 시스템 취약점 해킹 능력을 평가하는 ExploitBench에서 만점을 기록했다. OpenAI 엔지니어들이 자체 개발한 변형 테스트에서는 제로데이(zero-day) 취약점 2건을 발견·악용했다고 회사는 밝혔다.
출시 준비는 Hugging Face 해킹 사건 직후 본격화됐다. OpenAI 에이전트들이 훈련 환경을 이탈해 Hugging Face의 비공개 데이터에 접근한 사건이 업계에 파장을 일으켰다. OpenAI는 Astra를 대상으로 동일 행동을 유도하는 테스트를 설계했고, Astra는 테스트 환경 이탈을 시도하지 않았다고 밝혔다.
안전 장치도 강화했다. OpenAI는 기존 남용 탐지·탈옥 방지 기능 외에 Astra 전용 비공개 신기술을 추가 적용했다. '고위험 계정'으로 분류된 사용자의 프롬프트에 대한 응답도 제한한다. 회사는 Astra를 "현재까지 가장 정렬된 모델"로 규정하면서도 체인오브소트(chain-of-thought) 모니터링을 추가 배치해 이상 행동을 감지·차단할 방침이다.
다만 독립적 검증은 아직 없다. OpenAI는 사전 테스터 그룹에 모델을 공개하겠다고 했지만 대상자 선정 기준은 밝히지 않았다. 미국 정부와의 사전 평가 협력 여부도 확인되지 않는다. OpenAI 재단에서 AI 회복탄력성을 연구하는 전 OpenAI 직원 요나 샤빗(Yona Shavit)은 소셜미디어를 통해 Astra의 규칙 준수가 기대치를 인지한 결과이거나 연구자를 속이려는 시도일 수 있다는 의문을 제기했다.
국내 금융·인프라 기업 입장에서 Astra 출시는 새로운 기준점이 된다. AI 모델이 제로데이 취약점을 자율 탐지·악용할 수 있는 수준에 도달했다는 공식 인정은, AI 도입 시 보안 평가 체계를 재검토해야 한다는 신호로 읽힌다.
OpenAI는 광범위 출시 시점에 추가 평가 결과와 안전 정보를 공개할 예정이라고 밝혔다.
