Michael Johnson앤트로픽은 10월 12일 새로운 증류 방지 조치로 자사 플랫폼에서 악의적인 사용자가 추출하는 클로드 추론의 양이 10~100배 감소했다고 밝혔다. 회사는 숨겨진 추론의 노출을 어렵게 하고, 계정과 모델 간 요청 이동을 추적하며, 의심스러운 요청을 차단하는 다층 체계라고 설명했다. API 개발자에게 중요한 이유는 두 가지다. 보호 조치가 연동 서비스의 동작을 바꾸고, 차단된 요청 중 일부에도 이제 요금이 부과되기 때문이다.
증류는 더 강력한 시스템의 응답을 이용해 소형 모델을 학습시키는 방법이다. 앤트로픽은 클로드가 최종 응답 전에 생성하는 전체 추론 기록이 이 과정에서 특히 가치가 크다고 본다. 회사의 초기 실험에서는 클로드 오푸스 4.8의 전체 대화 기록으로 학습한 모델이 SWE-bench Verified에서 80.4%를 기록했다. 축약본으로 학습했을 때는 71.8%였다. 이 수치는 앤트로픽이 진행한 특정 실험과 테스트의 결과이며, 모델 품질을 보편적으로 평가한 값은 아니다.
여러 추출 경로를 아우르는 보호
첫 번째 단계는 공개되는 추론 내용을 줄이는 것이다. 앤트로픽에 따르면 이 조치를 도입한 뒤 추출 시도가 더 활발해졌다. 요청에 숨겨진 추론 과정을 출력하라고 직접 요구하기 시작했고, 이후 중개자 네트워크와 다수의 가짜 계정이 동원됐다. 회사는 이들 네트워크 중 하나가 동시에 2만 개가 넘는 계정을 운영했다고 밝혔다.
새 조치는 보호된 추론 조각이 이동할 수 있는 경로를 통제한다. 앤트로픽은 대화, 모델, 계정 사이의 이동을 개별 보호 조치를 우회하는 방법으로 꼽았다. 회사에 따르면 2단계 분류기는 이제 9월 보고서에 기술된 모든 증류 기법을 가장 강력한 공개 모델에서 탐지한다.
앤트로픽은 자사 플랫폼에서 증류 공격자가 추출한 추론 토큰 수를 기준으로 효과를 평가한다. 분류기를 도입한 뒤 이 지표는 이전보다 10~100배 낮아졌으며, 일부 날짜에는 측정할 수 없을 정도로 추출량이 적었다. 회사는 증류와 관련된 계정 수만 개를 차단했다고도 밝혔다. 이 데이터는 앤트로픽 자체 원격 측정에 해당하며, 타사 클라우드와 추론 제공업체를 통한 추출량 전체를 나타내지는 않는다.
개발자에게 달라지는 점
보호 조치는 이미 일부 정상적인 연동 서비스에도 영향을 미쳤다. 앤트로픽은 추론 저장 형식이 바뀌어 일부 개발자가 업데이트해야 했으며, 분류기가 무해한 요청을 잘못 판별하거나 차단하는 비율은 0.1% 미만이라고 설명했다. 회사는 9월 24일부터 이처럼 오탐률이 0.1% 미만이라고 밝힌 범주에서 응답 생성 전에 중단된 요청에 요금을 부과하고 있으며, 증류도 여기에 포함된다.
API를 사용하는 팀이 실무적으로 확인할 사항은 추론 처리 방식이 바뀐 뒤 애플리케이션이 어떤 응답 필드를 읽고 저장하는지, 생성 전 거부나 차단을 어떻게 처리하는지다. 유용한 응답을 받지 못해도 차단된 요청에 요금이 부과될 수 있다는 점도 고려해야 한다. 자동 재시도에서는 특히 중요하다. 같은 요청을 반복해도 분류 결과가 바뀌지 않으며 비용만 늘어날 수 있다.
새로운 조치에 대한 설명에서 앤트로픽은 이 체계가 공격자와의 경쟁에서 한 부분일 뿐이라고 인정했다. 회사는 현재의 감소 효과가 얼마나 지속될지 알 수 없으며, 업데이트된 보호를 우회하려는 극도로 집요한 시도도 아직 관찰하지 못했다고 밝혔다. 현재 가장 확실한 실무상 변화는 개발자가 업데이트된 추론 처리 방식과 드물게 발생할 수 있는 차단, 그리고 일부 거부된 요청에 대한 요금 부과를 고려해야 한다는 점이다.