Open Weight를 금지하지는 않지만 낙관하지도 않는다, Anthropic의 별도 입장

지난 블로그글에서 정리했듯이, Microsoft, NVIDIA, Meta, Google, OpenAI, Hugging Face, Mistral 등 여러 기업과 기관은 2026년 7월 24일 「Open Weights and American AI Leadership」이라는 공동 성명을 발표했다.

이 성명은 Open Weight 모델이 AI 접근성을 높이고, 기업 간 경쟁을 확대하며, 사용자가 데이터와 모델을 직접 통제할 수 있도록 한다고 주장한다. 또한 공개된 모델을 여러 연구자와 보안 전문가가 분석할 수 있기 때문에 투명성이 AI 안전과 사이버보안에도 도움이 될 수 있다고 설명했다.

그런데 이 공동 성명에 Anthropic은 참여하지 않았다.

그리고 공동 성명이 발표된 지 사흘 뒤인 어제 2026년 7월 27일, Anthropic CEO 다리오 아모데이는 「Our position on open-weights models」라는 별도의 글을 발표했다.

Anthropic도 Open Weight 금지에는 반대한다

Anthropic의 입장이 공동 성명과 완전히 반대되는 것은 아니다.

다리오 아모데이는 Anthropic이 Open Weight 모델의 전면적인 금지를 주장한 적이 없다고 분명하게 밝혔다. 위험한 능력을 갖추지 않은 Open Weight 모델은 기업, 개발자와 연구자에게 가치를 제공하는 공공재라고도 평가했다.

Open Weight 모델은 가중치를 내려받아 자체 인프라에서 실행하고 수정할 수 있다. 사용자는 모델을 호출할 때마다 API 비용을 지불할 필요 없이, 모델 실행에 필요한 컴퓨팅 비용만 부담할 수 있다.

Anthropic도 Open Weight 모델이 AI 접근성을 확대하고, 일부 분야에서 경쟁을 강화하며, 고객에게 더 많은 통제권을 제공한다는 공동 성명의 주장에는 동의한다. 중국 Open Weight 모델을 미국 기업이 사용하지 못하게 하는 포괄적인 금지 정책에도 반대한다.

여기까지 보면 Microsoft와 NVIDIA 등이 참여한 공동 성명과 Anthropic의 입장은 크게 다르지 않다.

차이는 Open Weight가 안전에 도움이 되는가에 있다

두 입장이 갈리는 부분은 Open Weight 모델의 안전성을 어떻게 바라보느냐에 있다.

 

공동 성명은 모델을 공개하면 더 많은 연구자와 개발자가 모델의 행동을 분석하고, 취약점을 발견하며, 새로운 안전장치를 개발할 수 있다고 주장한다.

폐쇄형 모델이라고 해서 자동으로 안전한 것은 아니며, 소수 기업의 모델에 중요한 기술이 집중되면 오히려 단일 장애 지점이 생길 수 있다는 설명이다. 공격자가 AI를 활용하는 상황에서는 방어자도 비슷한 수준의 모델에 접근할 수 있어야 한다고 주장한다.

 

Anthropic은 이 부분에 동의하지 않는다.

모델을 공개하면 방어자뿐 아니라 공격자도 동일한 능력에 접근할 수 있다. 어떤 분야에서는 공개가 방어에 도움이 될 수 있지만, 다른 분야에서는 공격자에게 더 큰 이점을 줄 수 있다는 입장이다.

Anthropic은 특히 생물학적 위험을 예로 들었다. 충분히 강력한 AI 모델이 위험한 바이러스나 생물학적 공격을 설계하는 데 사용된다면, 공격자는 비교적 짧은 시간에 이를 활용할 수 있다. 반면 백신과 치료제를 개발하고 실제로 배포하는 과정은 수년이 걸릴 수 있다.

따라서 Open Weight가 방어자에게 더 유리할 것이라고 미리 가정해서는 안 되며, 실제 모델 평가를 통해 공격과 방어 중 어느 쪽에 더 큰 영향을 주는지를 확인해야 한다는 주장이다.

충분히 강력한 모델에는 사전 안전 평가가 필요하다

Anthropic이 제안한 핵심 정책은 모델의 공개 여부보다 모델의 능력 수준을 기준으로 규제하자는 것이다.

Open Weight 모델인지 Closed Weight 모델인지와 관계없이, 충분히 강력한 모델은 공개 전에 사이버 공격, 생물학적 공격과 정렬 문제에 대한 의무적인 안전 평가를 받아야 한다고 주장한다.

반대로 위험한 능력이 없는 소형 모델이나 스타트업과 연구기관의 모델에는 이러한 규제를 적용하지 않아야 한다고 설명한다.

정리하면 공동 성명은 다음과 같은 방향이다.

Open Weight 모델의 장점을 인정하고, 성급한 포괄 규제를 피해야 한다.

 

Anthropic은 여기에 다음 조건을 추가한다.

Open Weight 모델을 금지할 필요는 없지만, 위험할 정도로 강력한 모델은 공개 전에 반드시 평가해야 한다.

Distillation에도 더 강한 대응을 요구한다

공동 성명은 Distillation을 기존 모델의 출력을 활용해 다른 모델을 개선하는 정상적인 개발 기법으로 설명한다.

기술 자체를 광범위하게 제한하기보다, 폐쇄형 모델에서 가치를 불법적으로 추출하는 행위를 법률과 계약을 통해 별도로 규제해야 한다는 입장이다.

Anthropic도 합법적인 Distillation과 불법적인 모델 추출을 구분해야 한다는 점에는 동의한다.

다만 Anthropic은 중국 AI 기업 등이 대규모 계정과 자동화된 요청을 이용해 폐쇄형 모델의 추론 능력을 추출하는 산업 규모의 Distillation을 국가안보 문제로 바라본다.

Anthropic은 이러한 행위가 첨단 반도체 부족을 우회해 중국 AI 모델의 성능을 미국 모델에 빠르게 접근시키는 수단이 될 수 있다고 주장한다. 따라서 강력한 반도체와 제조 장비의 중국 수출을 통제하고, 대규모 무단 Distillation에도 정책적으로 대응해야 한다는 입장이다.

이 부분에서도 공동 성명과 Anthropic의 결론이 완전히 충돌하는 것은 아니다. 두 입장 모두 정상적인 모델 개발과 불법적인 기술 추출을 구분해야 한다고 본다.

다만 공동 성명은 과도한 규제가 정상적인 AI 혁신까지 제한할 수 있다는 점을 더 강조하고, Anthropic은 중국과 권위주의 국가가 이를 이용해 미국의 기술력을 빠르게 따라올 수 있다는 위험을 더 강조한다.

왜 굳이 별도의 입장문을 냈을까

Anthropic의 글을 읽으면서 가장 먼저 든 생각은 공동 성명과 상당 부분 같은 입장인데, 굳이 별도의 입장문까지 발표할 필요가 있었을까라는 점이었다.

Anthropic도 Open Weight 모델의 전면적인 금지에 반대한다. Open Weight가 AI 접근성과 경쟁을 확대하고, 기업과 개발자에게 더 많은 통제권을 제공한다는 점에도 동의한다. 정상적인 Distillation과 불법적인 모델 추출을 구분해야 한다는 방향 역시 공동 성명과 크게 다르지 않다.

 

실질적인 차이는 Open Weight 모델이 AI 안전에 도움이 된다고 미리 판단할 수 있는지에 있다.

Microsoft와 NVIDIA 등이 참여한 공동 성명은 모델을 공개하면 더 많은 연구자와 보안 전문가가 취약점을 분석하고 방어 기술을 개발할 수 있다고 본다. 반면 Anthropic은 같은 모델이 공격자에게도 제공되기 때문에, 공개가 항상 방어자에게 유리하다고 가정할 수는 없다고 주장한다.

Anthropic이 설립 초기부터 AI 안전과 정렬 문제를 강조해 온 기업이라는 점을 생각하면 이러한 차이는 이해할 수 있다. 가중치가 공개되면 안전장치를 제거할 수 있고, 이미 배포된 모델을 다시 회수하거나 사용 방식을 통제하기 어렵다는 문제도 실제로 존재한다.

공동 성명에 참여하지 않은 Anthropic이 폐쇄형 모델 사업을 보호하기 위해 Open Weight 모델을 막으려 한다는 비판을 받은 것도 별도의 글을 발표한 배경으로 보인다. 다리오 아모데이는 글의 시작부터 Anthropic이 Open Weight 모델의 금지를 주장한 적이 없다고 설명했다.

결국 이번 글은 완전히 새로운 정책 방향을 발표했다기보다, 공동 성명에 서명하지 않은 이유를 설명하고 Anthropic의 입장이 Open Weight 금지로 해석되는 것을 막기 위한 입장문에 가깝다.

 

나는 실제 개발 과정에서 Claude Code를 사용하고 있으며, 복잡한 코드베이스를 분석하고 여러 파일을 수정하거나 긴 작업의 맥락을 유지하는 능력을 높게 평가하고 있다. Anthropic과 Claude의 기술력을 인정하고, AI 안전을 중요하게 보는 방향도 이해한다.

다만 이번 입장문을 별도로 발표할 만큼 공동 성명과의 차이가 컸는지는 크게 와닿지 않았다.

 

결론적으로 두 입장 모두 Open Weight 모델의 전면 금지에는 반대한다. 정상적인 Open Weight 생태계는 보호해야 하고, 실제 위험이나 불법적인 모델 추출은 별도로 규제해야 한다는 방향도 비슷하다.

Anthropic은 여기에 Open Weight가 안전에 도움이 된다고 낙관해서는 안 되며, 위험할 정도로 강력한 모델에는 사전 안전 평가가 필요하다는 조건을 더 강하게 추가했다.

따라서 이번 입장문은 공동 성명에 대한 반대라기보다, “우리는 Open Weight에 반대하지 않지만 Microsoft와 NVIDIA 등이 제시한 안전 논리까지 모두 동의하는 것은 아니다”라는 정책적 거리두기로 보인다.

이해는 되지만, 한편으로는 이 정도의 차이를 설명하기 위해 별도의 긴 입장문까지 발표한 이유는 여전히 크게 이해되지는 않았다.

정리

Microsoft와 NVIDIA 등이 참여한 공동 성명과 Anthropic의 입장은 생각보다 많은 부분에서 겹친다.

두 입장 모두 Open Weight 모델의 전면적인 금지에 반대하며, AI 접근성과 경쟁, 기업의 통제권을 중요하게 본다.

차이는 Open Weight가 안전성을 강화하는지에 대한 판단이다.

공동 성명은 개방성과 외부 검증이 AI 안전과 보안을 강화할 수 있다고 본다. Anthropic은 공개된 능력이 공격자에게 더 유리하게 사용될 가능성도 있으므로, 이를 사전에 가정해서는 안 된다고 주장한다.

Anthropic은 Open과 Closed를 구분하기보다 위험할 정도로 강력한 모든 모델에 동일한 사전 안전 평가를 적용해야 한다고 제안한다.

결국 이번 논쟁은 Open Weight를 허용할지 금지할지에 대한 대립이라기보다, Open Weight의 장점을 먼저 확대할 것인지, 잠재적인 위험을 먼저 검증할 것인지에 대한 우선순위의 차이에 가깝다.

참고 자료

• https://www.anthropic.com/news/position-open-weights-models

Our position on open-weights models