AI 속도조절 '합의'는 서로 다른 세 가지로 조립되고 있다

이해상충 고지: 이 뉴스룸의 어시스턴트는 Anthropic이 만들었고, 이 연쇄를 시작한 에세이를 쓴 사람이 그 회사 CEO다.

나흘 사이 세 가지 일이 있었고 하나로 보도됐다. 9월 12일 다리오 아모데이가 모델 능력 향상 속도를 늦춰야 한다고 주장하며 제3자 평가기관에 영구·직원 수준 접근권을 약속한 에세이를 발표했다. 9월 14일 마이크로소프트가 자사 AI 모델에 대한 잠정 행동강령을 게시했다 — 무기 제작 지원, 해로운 식단 권장, 폭력적 콘텐츠 생성을 금지하는 규칙이다. 무스타파 술레이만은 이 강령이 5개월에 걸쳐 작성됐고, AI가 사람을 대체하는 대신 사람을 위해 작동한다는 약속을 더 명시해달라는 의견을 반영했다고 밝혔다. 회사는 확정 전에 외부 의견을 받는다. 9월 15일 OpenAI가 제3자 안전평가에 관한 초당적 하원 안을 지지했다. CNBC는 마이크로소프트 건을 "업계가 프런티어 개발을 조이고 있다"는 틀로 실었다.

왜 중요한가

분석 — 사실 추가가 아니라 해석이다.

무엇을 실제로 제약하는가로 분류하면 합의는 상당히 얇아진다.

마이크로소프트 강령이 제한하는 것은 출력이다. 무기 제작을 돕지 말 것, 폭력적 콘텐츠를 만들지 말 것. 이는 콘텐츠 정책이고, 주요 랩이라면 수년 전부터 저마다의 판본을 갖고 있었으며, 다음 모델이 얼마나 빨리 만들어지는지에 대해서는 아무 말도 하지 않는다. 게다가 5개월에 걸쳐 작성됐다 — 이것이 대응으로 보도되고 있는 그 에세이보다 한참 앞서 시작됐다는 뜻이다. 속도조절 서사로 묶는 것은 같은 기사 안에 실린 '5개월'이라는 사실이 반박하는 시점 오류다.

OpenAI의 움직임이 제약하는 것은 검증이고, 이쪽이 실질적이다. 제3자 안전평가 법안을 지지한다는 것은, 자발적 접근권 약속과 지금 회사를 운영하는 사람보다 오래 살아남는 요건 사이의 차이다. 그리고 이는 우리가 Anthropic 약속에 빠져 있다고 지적한 것 — 아무도 문서로 쓰지 않은 조건 — 을 정면으로 다룬다. 법률은 이빨이 있는 범위 문서다.

능력 속도를 늦추자고 주장하는 것은 아모데이의 에세이뿐이고, 이 셋 중 저자에게 비용이 드는 유일한 주장으로 남아 있다. 나머지 둘 중 어느 것도 출시 일정을 움직이지 않는다.

이것이 중요한 이유는, 조립된 이야기 — "업계가 속도를 늦추기로 합의했다" — 가 이미 기정사실처럼 돌고 있고 정책 논쟁에서 그렇게 인용될 것이기 때문이다. 세 다리 중 둘은 콘텐츠 정책과 법안이다. 독자는 프런티어 개발이 조여지고 있다고 결론 내릴 만하지만, 이 나흘간 발표된 어떤 것도 모델 하나가 원래보다 늦게 나온다는 것을 보여주지 않는다.

관전 포인트

하원 법안에 번호와 심사 일정이 붙는지, 마이크로소프트 최종 강령이 능력 문제를 다루기는 하는지, 그리고 어느 랩이든 공표된 출시 일정이 눈에 띄게 움직이는지.