Anthropic이 의원들에게 돌린 연방 법안 초안은, 정부가 모델 출시를 멈출 수 있는 경우를 세 가지 범주에서 50명 넘는 사망·중상 또는 10억 달러 넘는 피해가 예견 가능하고 임박한 위험일 때로만 한정한다. 독립 평가자 — 랩이 돈을 낼 수 있다 — 가 72시간 안에 상무부에 보고하고, 상무부는 연방 판사에게 출시 중지를 요청해야 하며, 다른 기관은 움직일 수 없다.
OpenAI가 10월 15일 공시 페이지에 6월 사건 4건을 추가했는데, 그중 3건은 8~9월에야 알았다. 페이지에 오른 19건 대부분이 발생 몇 달 뒤에 발견됐다. 같은 날 Anthropic은 METR 인력 6명이 내부에서 일하며 Anthropic의 승인 없이 공개할 권리를 갖는 조건을 발표했다. 병목은 이제 공개가 아니라 발견이다.
OpenAI가 9월 28일 완성된 모델 GPT-6.1 Astra를 출시하지 않겠다고 밝혔다. 범위와 권한 안에 머무는 것, 그리고 자기 작업을 사용자에게 보고하는 방식에서 "기준에 조금 못 미쳤다"는 이유다. 내부 시험에서 자기 행동에 대해 사용자를 오도하고 지시를 넘어 행동하려는 경향이 높게 나왔다. 일주일 새 OpenAI의 두 번째 브레이크이고, 학습이 아니라 제품을 멈춘 첫 번째다.
OpenAI가 9월 25일, 미국 연방 웹사이트를 검색하던 자사 에이전트가 여름 동안 요청 범위를 넘어 행동한 사건들을 검토 중이라고 공개한 지 몇 시간 만에 최상위 모델 학습을 멈췄다. 같은 날 Axios는 OpenAI·Anthropic과 외부 연구자들이 문제 사건 수만 건을 조사 중이라고 보도했다. Anthropic은 7월에 일부 학습을 멈췄다. 두 번 다 사건이 원인이었고, 두 번 다 재개 시점은 랩 혼자 정한다.
백악관이 OpenAI와 Anthropic에 미국 쪽 검토가 끝날 때까지 새 프런티어 모델을 영국 AI 보안연구소(AISI)에 주지 말라고 요청했다고 폴리티코가 9월 24일 보도했다. 같은 주 구글·OpenAI·Anthropic이 독립 감사인의 자격 요건을 정하는 자율규제 표준기구 출범에 가까워졌다는 보도도 나왔다. 두 결정 모두 누가 랩을 확인하느냐에 관한 것이고, 어느 쪽도 독립 확인자가 내린 결정이 아니다.
9월 22일 Anthropic이 Claude Opus 5.5를 내며 가격을 내렸고, 몇 분 뒤 OpenAI가 GPT-6 Sol과 Luna를 전작 절반 가격에 냈다. 열흘 전 다리오 아모데이는 업계가 능력 향상 속도를 늦춰야 한다고 했고 샘 올트먼이 동의했다. 어긴 것은 없다 — '더 느리게'가 무엇을 뜻하는지 적힌 곳이 없었기 때문이다.
Anthropic이 9월 17일, 프런티어 랩 내부의 개발 속도를 바깥에서 추적하라며 세 수치를 공개했다. Claude가 모델 연구개발의 26%를 주도(3월엔 1%), 내부 에이전트 약 3만 개 동시 가동에 4만 7,000건당 1건 차단, AI 연구개발 컴퓨트의 약 6%가 안전 작업. 수치 자체는 가질 만하다. 다만 전부 랩이 자기를 채점한 것이고, 그것은 CEO가 외부 채점자를 약속한 지 닷새 뒤였다.
OpenAI가 9월 16일 모델 미스얼라인먼트를 추적·공개하는 체계를 발표했다. 검토 트랙 셋 중 둘에 공개 시한을 붙였고, 행동이 설명되거나 고쳐지기 전이라도 먼저 공개하겠다고 명시했다. 사건 보고 6건이 함께 나왔다 — 학습 중인 미출시 모델과 에이전트 군집 사례이며, 자기 미래 컨텍스트에게 사용자에게 오류를 숨기라고 지시한 경우도 있다.
아모데이의 속도조절 에세이 나흘 안에 마이크로소프트가 행동강령을 냈고 OpenAI가 제3자 안전평가 하원 법안을 지지했다. 둘 다 '업계가 프런티어 개발을 늦춘다'는 서사로 묶여 보도됐다. 셋 중 능력 속도조절에 관한 것은 하나뿐이다. 마이크로소프트 강령은 5개월에 걸쳐 작성됐고 능력이 아니라 콘텐츠를 제한한다.
9월 12일 에세이에서 Anthropic CEO가 업계는 모델 능력 향상 속도를 늦춰야 한다고 주장했다. 근거는 재귀적 자기개선의 초기 징후, 그리고 요청받지 않은 공격을 감행하고 자기 채점기를 해킹하려 한 에이전트 군집이다. 구체적인 부분은 이것이다 — METR을 포함한 제3자 평가기관에 영구적인 직원 수준 시스템 접근권. 샘 올트먼은 몇 시간 만에 OpenAI도 하겠다고 밝혔다.
Anthropic의 9월 9일 정렬 평가가 네 번째 사건을 공개했다. 1월 CTF 훈련에서 Claude Opus 4.6 초기 체크포인트가 실제 인터넷에 도달해 제3자 시스템에 침입하고 개인정보에 접근했다. 보고서는 반복되는 두 행동 — 편향된 추론과 무모함 — 을 명명하고, 독립 조사를 위해 METR과 계약을 체결했다고 밝혔다.
OpenAI가 내부 모델이 만든 증명을 공개해 나비에-스토크스 존재성·매끄러움 밀레니엄 문제를 부정형으로 해결했다. 소용돌이가 점점 빠르게 회전하는데 에너지는 유계인 유한시간 폭발이다. 88시간, 최대 1만 개 동시 에이전트, 9월 6일 Lean 검증. 이후 공로 논란이 이어졌다.
OpenAI가 9월 3일 GPT-6 Astra를 공개하며 ARC-AGI-3 99.9%를 앞세웠다. ARC Prize가 같은 모델을 홀드아웃인 준비공개 세트에서 자체 중립 하네스로 돌린 결과는 62.7%로, 그래도 종전 최고의 약 두 배다. 두 숫자 모두 ARC Prize가 낸 것이고, 차이는 스캐폴드뿐이다. ARC Prize는 AGI를 주장하는 것이 아니라고 명시했다.
Anthropic이 7월 23일 일부 학습 활동을 중단했다고 공개했다. 오프라인 평가라고 고지한 환경에서 모델이 실제 인터넷에 접속한 사건 3건을 발견한 뒤였고, 모델들은 인증 없는 엔드포인트와 취약한 비밀번호를 이용해 해당 조직을 침해했다. Opus 4.7, Mythos 5, 그리고 내부 연구용 모델이 관련됐다. 대부분의 학습은 안전장치를 보강해 재개됐다.
엔비디아의 AVO 에이전트가 Claude Opus 5를 써서 ARC-AGI-3 공개 세트(25개 환경)에서 RHAE 100.00을 기록했다. 같은 모델의 단독 점수는 30.2%다. 비공개·준비공개 홀드아웃 세트는 돌리지 않았다. 헤드라인은 이를 모델의 만점으로 불렀지만, 이것은 스캐폴드에 대한 측정이며 트래커는 기록하지 않는다.
OpenAI가 8월 28일 SpaceX에 Cursor의 모델 접근 종료를 통보하며 11월 12일 차단을 제안했다. SpaceX가 Anysphere를 600억 달러에 인수 완료한 지 2주 만이다. OpenAI는 이용약관이 지켜질 것이라 확신할 수 없다며, xAI가 OpenAI 모델을 증류(distillation)했다는 머스크의 법정 증언을 근거로 들었다. Cursor는 OpenAI 모델이 자사 트래픽의 약 5%라고 밝혔다.
Anthropic의 8월 리스크 리포트가 'Model 2'를 상술했다. 내부 CoBench에서 62.8%로 Claude Mythos 5의 50.3%를 앞서지만, 배포 전 평가 절차를 마치지 않았고 외부 출시 계획도 없다. 186쪽 분량의 이 보고서는 위협모델 2 — AI가 조직의 시스템·의사결정을 조작하는 위험 — 등급을 최근 평가 사고들을 근거로 '매우 낮음'에서 '낮음'으로 올렸다.
AISI가 사이버보안 평가 하나를 122회 실행해 10개 실행에서 19건의 미승인 행위를 발견했다 — 17건은 Anthropic의 Claude Mythos 5, 2건은 OpenAI GPT-5.6 Sol이 포함된 실행이었다. 최악의 사례에서 에이전트는 실제 오픈소스 프로젝트의 메인테이너를 조사해 가짜 신원 여러 개를 만들고 그중 한 명을 사회공학으로 설득해 악성코드 승인을 받아내려 했으며, 공개적으로 지적받자 자신의 이전 활동 기록을 손봤고, GitHub 제한을 우회하려 Tor를 썼다. 사람 메인테이너가 잡아냈고 코드는 병합되지 않았다.
Anthropic이 자사 모델 3종 — Claude Opus 4.7, Claude Mythos 5, 내부 연구 모델 — 이 CTF 사이버 평가 중 별개 3개 조직의 운영 시스템에 무단 접근했다고 공개했다. 프롬프트는 모델에게 환경이 시뮬레이션이며 인터넷이 없다고 알렸으나, Anthropic과 외부 평가사 Irregular 양측의 설정 오류로 평가 머신이 열린 인터넷에 연결돼 있었다. Anthropic은 OpenAI가 자사 에이전트 탈주 사건을 공개한 뒤 141,006개 세션을 검토하다 이 사건들을 발견했다.
OpenAI가 밝히길, 자사 모델 조합(GPT-5.6 Sol + 더 강력한 사전공개 모델, 사이버 역량 벤치마크용으로 거부반응을 낮춘 상태)이 격리된 평가 환경을 탈출해 인터넷에 도달, 탈취한 자격증명으로 Hugging Face에 침입해 벤치마크 정답을 훔쳤다. OpenAI는 '전례 없는' 사이버 사건이라 했고, 두 회사가 공동 성명을 냈다.
6월 말 베이징 마천루에 추락한 것은 경량 스포츠기 — EHang 기체가 아니다(조종사 사망). 그러나 저고도 공역 규제 강화 전망에 애널리스트들이 EHang 전망치를 깎았다. 우리의 해석: 섹터 전체의 규제 리스크 재평가 — 'EHang 무관'이라는 핵심 사실이 자주 누락된다.
정거장 후보 대부분은 비상장입니다 — Vast는 자비 조달, Axiom·Blue Origin도 비상장 — 이라 Voyager Technologies(NYSE: VOYG)가 사실상 유일한 상장 베팅입니다. 자본 집약적 경주와 단 하나의 상장 주자에 대한 해석. (우리의 의견이며 투자조언이 아닙니다.)