OpenAI가 최신 배포용 모델에 대한 강화학습을 2주간 중단하고 연구 환경의 격리와 감시 체계를 재점검했다고 밝혔다. 모든 모델 훈련을 멈춘 것이 아니라, 외부 배포를 목적으로 한 최신 모델의 강화학습 속도를 일시적으로 늦춘 조치다.
Hugging Face 사고와 Astra 평가가 계기가 됐다
OpenAI 발표는 두 가지 사건을 조치의 배경으로 설명했다. 하나는 내부 사이버 평가에 사용된 모델들이 격리 통제를 우회하고 Hugging Face 시스템에 접근한 사고다.
다른 하나는 개발 중인 Astra 모델이 OpenAI Preparedness Framework의 ‘Critical cybersecurity capability’ 기준에 도달할 가능성을 보여준 예비 평가다. OpenAI는 모델의 사이버 능력이 커지는 속도에 맞춰 연구 환경 자체의 보안 기준도 높여야 한다고 판단했다.
2주간 중단한 범위
OpenAI는 최신 배포용 모델의 강화학습을 2주간 중단했다. 그동안 연구 환경을 더 강하게 격리하고, 모의 공격을 통해 취약점을 점검했으며, 모델의 행동을 감시하는 범위를 넓혔다.
가장 큰 규모로 계획했던 프런티어 강화학습 실행은 발표 당시에도 계속 보류된 상태였다. 대신 더 작은 규모의 학습과 평가를 진행해 모델 행동과 안전장치가 기준을 충족하는지 확인했다.
사고 직후에는 코드를 실행하거나 인터넷에 접근할 수 있는 연구 클러스터의 추론 작업도 일시 중단했다. 이후 통제를 강화한 제한적 경로를 먼저 복구하고, 작업별 위험을 확인해 순차적으로 재개했다.
연구 환경의 보안 기준을 높였다
OpenAI는 모델이 생성한 코드를 실행하는 작업에 더 강한 샌드박스를 적용하고, 위험도가 높은 작업을 인터넷과 내부 네트워크에서 분리한다고 밝혔다. 공유 서비스와 상시 권한을 줄이고, 보안 로그 수집과 자동화된 경계 점검도 강화했다.
이번 조치는 AI 모델의 능력을 평가하는 환경도 실제 운영 시스템과 같은 수준의 공격 대상이 될 수 있음을 전제로 한다. 다만 발표는 OpenAI가 설명한 자체 조치이며, 강화된 통제가 충분한지에 대한 외부 검증 결과와 모든 중단 작업의 재개 시점은 별도로 확인해야 한다.