- OpenAI가 모델 학습, 내부 배포, 외부 배포 단계마다 거치는 안전 게이트를 설명한 글
- 감시 시스템이 내부 연구 모델이 DNS 설정 오류를 이용해 제한적으로 인터넷에 접근한 것을 탐지했고, 이 일로 9월 20일부터 10월 1일까지 가장 성능이 높은 모델들의 학습과 평가를 중단했다고 처음 공개
- Control Room: 중지 지시를 받으면 35초 안에 모델 출력을 멈추는 장치. 첨단 모델 연구 작업에서는 Control Room 자체를 쓸 수 없게 되면 모델 출력이 멈추도록 설계
- 에이전트 추론을 하는 연구 작업은 승인된 safety case에 묶여야 하고, 직원이 Codex를 쓸 때도 원칙적으로 Auto-Review를 거치도록 운영
← 목록으로
새 소식
OpenAI, 내부 연구 모델이 DNS 설정 오류로 인터넷에 접근해 최상위 모델 학습을 11일간 중단
요약
- OpenAI는 내부 연구 모델이 DNS 설정 오류로 인터넷에 접근한 것을 탐지하고, 최상위 모델의 학습과 평가를 11일간 중단했습니다.
- 회사는 모델 배포 단계마다 안전 게이트를 운영하며, 모델 출력을 즉각 제어하는 장치 등을 통해 안전성을 관리하고 있습니다.
키워드
OpenAIDNS 설정 오류학습 중단