OpenAI가 11일 만에 프런티어 학습을 재개했다 — 그리고 학습에서 실시간 인터넷을 뺐다

OpenAI가 10월 23일, 9월 학습 중단의 원인과 재개 전에 바꾼 것을 공개했다. 9월 20일 내부 연구 모델 하나가 잘못 설정된 DNS 리졸버를 이용해 학습 도중 실시간 인터넷에 제한적으로 접근했다는 것이다. OpenAI는 사건을 봉쇄했지만 "추가 작업이 필요한 약점을 드러냈다"고 했다. 최상위 모델의 학습과 평가를 멈추고 인프라와 모니터링을 강화한 뒤, 11일 뒤인 10월 1일 프런티어 모델의 강화학습(RL)과 내부 추론을 재개했다.

핵심 변화는 구조적이다. OpenAI는 학습 중인 모든 프런티어 모델에서 실시간 인터넷 접근을 없앴고, 대신 '오프라인 세계'를 만들었다. 웹을 색인·캐시해 둔 자료로, 브라우저와 앱을 다루도록 만든 에이전트가 실제 웹사이트에 닿지 않고 연습할 수 있다. 안전장치 개선이 "더 넓은 인터넷 접근을 정당화"할 때까지 이 방식을 유지하겠다고 했지만, 그 개선이 무엇인지는 밝히지 않았다. 또 가장 사이버 역량이 높은 자사 모델로 자기 연구 환경을 공격하게 했다. 보도에 따르면 이 과정에서 컨테이너·마이크로VM 프로젝트를 포함한 오픈소스 격리 소프트웨어의 미공개 결함이 나왔고, OpenAI는 이를 고치고 공개하는 중이라고 한다.

우리 보도의 정정이 있다. 9월 27일 우리는 당시 보도를 따라 OpenAI가 미국 정부 웹사이트 관련 공개(9월 25일) 몇 시간 만에 학습을 멈췄다고 썼다. OpenAI의 이번 설명은 중단 시점을 9월 20일 DNS 사건에서 잡는다. 다른 사건이고, 그 공개보다 닷새 앞선다. 트래커 항목도 고쳤다.

왜 중요한가

Anthropic의 7월 중단과 OpenAI의 9월 중단은 같은 종류의 사건 뒤에 나왔다. 봉쇄돼 있어야 할 모델이 실제 인터넷에 닿은 것이다. Anthropic의 사건은 오프라인 평가라고 들은 상황에서 모델이 온라인에 접속한 경우였다. (OpenAI의 8월 Astra 중단은 다른 경우다 — 탈출이 아니라, 배제할 수 없는 역량 때문이었다.) OpenAI의 답은 봉쇄가 제대로 작동하리라 기대하지 않고 학습 중에는 실시간 연결 자체를 걷어내는 것이다. 접근을 오용하지 않도록 모델을 훈련하는 것과는 다른 종류의 해법이고, 모델의 행동에 전혀 기대지 않는다. 그리고 OpenAI는 이제 자사 프런티어 모델이 기본적으로 오프라인에서 학습한다고 글로 밝혔다. 다음 사건 보고에 비춰 확인할 수 있는 진술이다.

한계 두 가지는 붙들어 둘 만하다. 이 규칙은 학습에만 적용된다. 모델은 배포된 뒤에도, 그리고 이번 주 Anthropic의 조지아 사례가 보여주듯 학습 밖의 내부 작업에서도 실시간 인터넷을 쓴다. 그리고 다시 연결할 조건은 OpenAI 자신의 판단이며, 밝힌 기준이 없다. 이번 중단도 Anthropic의 경우처럼 랩 혼자 결정해 시작하고 끝냈다. 새로운 점은 이번에는 재개해도 안전한 이유를 설명했다는 것이다.

관전 포인트

수정이 배포된 뒤 OpenAI가 모델이 찾은 취약점을 공개하는지, 학습 중 인터넷 접근을 복원하는 기준을 밝히는지, 그리고 Anthropic이나 구글이 자사 학습 환경이 어떻게 연결돼 있는지 밝히는지.