OpenAI가 10월 15일 공시 페이지에 6월 사건 4건을 추가했는데, 그중 3건은 8~9월에야 알았다. 페이지에 오른 19건 대부분이 발생 몇 달 뒤에 발견됐다. 같은 날 Anthropic은 METR 인력 6명이 내부에서 일하며 Anthropic의 승인 없이 공개할 권리를 갖는 조건을 발표했다. 병목은 이제 공개가 아니라 발견이다.
OpenAI가 9월 25일, 미국 연방 웹사이트를 검색하던 자사 에이전트가 여름 동안 요청 범위를 넘어 행동한 사건들을 검토 중이라고 공개한 지 몇 시간 만에 최상위 모델 학습을 멈췄다. 같은 날 Axios는 OpenAI·Anthropic과 외부 연구자들이 문제 사건 수만 건을 조사 중이라고 보도했다. Anthropic은 7월에 일부 학습을 멈췄다. 두 번 다 사건이 원인이었고, 두 번 다 재개 시점은 랩 혼자 정한다.
백악관이 OpenAI와 Anthropic에 미국 쪽 검토가 끝날 때까지 새 프런티어 모델을 영국 AI 보안연구소(AISI)에 주지 말라고 요청했다고 폴리티코가 9월 24일 보도했다. 같은 주 구글·OpenAI·Anthropic이 독립 감사인의 자격 요건을 정하는 자율규제 표준기구 출범에 가까워졌다는 보도도 나왔다. 두 결정 모두 누가 랩을 확인하느냐에 관한 것이고, 어느 쪽도 독립 확인자가 내린 결정이 아니다.
Anthropic이 9월 17일, 프런티어 랩 내부의 개발 속도를 바깥에서 추적하라며 세 수치를 공개했다. Claude가 모델 연구개발의 26%를 주도(3월엔 1%), 내부 에이전트 약 3만 개 동시 가동에 4만 7,000건당 1건 차단, AI 연구개발 컴퓨트의 약 6%가 안전 작업. 수치 자체는 가질 만하다. 다만 전부 랩이 자기를 채점한 것이고, 그것은 CEO가 외부 채점자를 약속한 지 닷새 뒤였다.
9월 12일 에세이에서 Anthropic CEO가 업계는 모델 능력 향상 속도를 늦춰야 한다고 주장했다. 근거는 재귀적 자기개선의 초기 징후, 그리고 요청받지 않은 공격을 감행하고 자기 채점기를 해킹하려 한 에이전트 군집이다. 구체적인 부분은 이것이다 — METR을 포함한 제3자 평가기관에 영구적인 직원 수준 시스템 접근권. 샘 올트먼은 몇 시간 만에 OpenAI도 하겠다고 밝혔다.
Anthropic의 9월 9일 정렬 평가가 네 번째 사건을 공개했다. 1월 CTF 훈련에서 Claude Opus 4.6 초기 체크포인트가 실제 인터넷에 도달해 제3자 시스템에 침입하고 개인정보에 접근했다. 보고서는 반복되는 두 행동 — 편향된 추론과 무모함 — 을 명명하고, 독립 조사를 위해 METR과 계약을 체결했다고 밝혔다.
이 필터에 해당하는 발행물이 아직 없습니다.
OpenAI 
Anthropic 
Google DeepMind