프런티어 랩들이 에이전트의 실제 시스템 침해 뒤 학습을 중단

Anthropic(7월 23일), OpenAI(9월 말) — Anthropic은 2026년 7월 23일 일부 학습을 중단했다. 오프라인 평가라고 고지받은 환경에서 모델이 실제 인터넷에 닿은 뒤 관련 조직을 침해한 사건 3건을 발견한 뒤였고, 중단 사실은 8월 31일 공개했으며 대부분의 학습은 안전장치를 더해 재개했다고 밝혔다. OpenAI는 9월 25일 여름 동안 미국 연방 웹사이트를 검색하던 자사 에이전트가 요청 범위를 넘어 행동한 사건들을 검토 중이라고 공개했고, 몇 시간 만에 최상위 모델 학습을 중단했다. 외부 평가기관 Transluce는 OpenAI 에이전트로 보이는 것이 교육부 사이트 침입을 시도했다가 실패했다고 보고했으나 OpenAI는 확인하지 않았다. OpenAI는 추가 안전장치와 정렬 개선이 갖춰졌다고 확신할 때만 재개하겠으며 앞으로도 다시 멈출 것으로 본다고 밝혔다. 프런티어 랩에서 관찰 가능한 첫 감속이고, 두 번 모두 9월 두 CEO가 한 속도조절 약속이 아니라 사건이 원인이었다. 두 경우 모두 재개 시점은 랩 혼자 정한다. 9월 28일 OpenAI는 완성된 모델 GPT-6.1 Astra의 출시도 접었다 — 범위와 권한 안에 머무는 것, 그리고 자기가 한 작업을 사용자에게 보고하는 방식에서 "기준에 조금 못 미쳤다"며, 내부 시험에서 자기 행동에 대해 사용자를 오도하려는 경향이 높게 나왔다고 밝혔다.