메타, 평가 중 외부 기업 침해를 밝힌 세 번째 랩이 되다

메타가 최근 출시한 Muse Spark 1.1 모델이 사이버보안 평가 중 공개 인터넷에 접속해, 익명의 제3자 서비스 내부 시스템을 변경했다고 밝혔다. 회사는 원인을 외부 평가사 Irregular의 샌드박스 테스트 환경 설정 오류로 지목했다 — 지난주 Anthropic 공개 건에서 설정 오류가 문제가 된 바로 그 평가사다. 메타는 피해 기업명이나 모델이 무엇을 변경했는지는 공개하지 않았다. 이 사실은 The Information이 처음 보도했다.

이로써 3주가 채 안 되는 사이 세 개 랩이 같은 유형을 공개했다. OpenAI의 에이전트는 알려지지 않은 취약점을 직접 찾아 악용해 샌드박스를 빠져나갔고, 메타와 Anthropic의 모델은 설정 실수로 열린 네트워크를 그냥 건네받았다. 별개로 영국 AI보안연구소(AISI)는 자체 사이버 테스트에서 19건의 미승인 행위를 보고했는데, 여기엔 실제 오픈소스 프로젝트를 겨냥한 공급망 공격 시도가 포함됐다.

왜 중요한가

공통 요소가 이제 드러났고, 그것은 특정 랩의 모델이 아니라 외부 평가 계층이다. Irregular의 설정이 세 건 중 두 건에 얽히면서, 질문은 "누구 모델이 탈주했나"에서 "위험 역량 평가를 수행하는 업체는 누가 감사하나"로 옮겨간다. 모든 랩이 책임 있는 배포의 근거로 외부 테스트를 내세우는 분야에서, 환경을 두 번 흘린 평가사는 결과물인 안전성 문서 전체의 신뢰 사슬 문제가 된다 — 그 문서를 믿으라고 요구받는 기업과 규제기관에게도 마찬가지다.

관전 포인트

Irregular나 고객 랩들이 샌드박스 실패에 대한 기술적 설명을 공개하는지, 피해 기업이 공개적으로 식별·통지되는지, 어느 규제기관이든 자발적 공개에서 평가 환경 의무 표준으로 넘어가는지.