미국 정부가 AI 기업들과 논의 중인 자발적 안전 평가 체계에서 오픈웨이트 모델을 동일한 방식으로 시험하지 않겠다고 전달한 것으로 보도됐다.
Reuters 보도에 따르면 백악관 관계자들은 Meta, Anthropic, Google, Nvidia, OpenAI 관계자들과 공개되지 않은 평가 규칙을 논의했다.
오픈웨이트와 비공개 모델을 다르게 다룬다
오픈웨이트 모델은 학습이 끝난 모델의 핵심 가중치를 공개해 외부에서 내려받고 실행할 수 있는 모델이다. Meta의 Llama와 Nvidia의 Nemotron 등이 예로 언급됐다.
OpenAI와 Google, Anthropic의 주요 비공개 모델은 회사가 운영 환경과 접근 권한을 통제한다. 정부는 고도의 사이버 공격 능력을 가진 비공개 모델을 대상으로 자발적 평가 체계를 논의했지만, 오픈웨이트 모델에는 같은 평가를 적용하지 않겠다는 입장을 기업들에 전달한 것으로 알려졌다.
확정된 법률이 아니라 공개 전 논의다
이번 내용은 정부가 공개한 법률이나 최종 정책 문서가 아니다. Reuters가 논의 내용을 알고 있는 복수의 관계자를 인용해 보도한 내용이며, 당시 백악관은 보도에 대한 논평 요청에 답하지 않았다.
따라서 미국 정부가 모든 오픈웨이트 모델의 안전 검증을 영구적으로 면제했다고 단정할 수는 없다. 보도된 범위는 정부와 기업이 논의한 자발적 평가 체계에 같은 시험을 적용하지 않겠다는 내용이다.
평가 방식의 차이가 쟁점이 됐다
오픈웨이트 모델은 한 번 공개되면 개발사가 모든 배포 환경과 수정본을 통제하기 어렵다. 비공개 모델과 같은 방식으로 개발사에게 평가를 요구해도 실제 유통과 사용을 모두 관리하기 어렵다는 차이가 있다.
반면 일부 정책 단체와 의원들은 강한 사이버 능력을 가진 모델이라면 공개 방식과 관계없이 위험을 평가해야 한다고 주장했다. 이번 논의는 모델의 성능만이 아니라 가중치의 공개 여부와 배포 통제 가능성이 안전 정책의 적용 범위를 나누는 기준이 되고 있음을 보여준다.