미국 정부, 안보상 이유로 Anthropic의 Fable 5·Mythos 5 모델 접근 차단 명령

핵심

미국 정부가 국가 안보를 이유로 Anthropic에 수출 통제 지시를 내려 Fable 5와 Mythos 5 AI 모델의 접근을 즉시 중단하도록 강제했다. 외국인 신원 확인이 실질적으로 불가능하다는 이유로 모든 고객에 대한 접근을 차단해야 한다는 명령이다.

정부의 수출 통제 지시

• 수출 통제 지시(Export Control Directive): 특정 제품, 데이터, 기술의 해외 이전을 제한하거나 중단하는 법적 명령
• Anthropic은 미국 동부시간 오후 5시 21분에 이 명령을 받았다
• 정부는 Fable 5의 안전장치 우회 방법이 존재한다고 주장하며, 이를 국가 안보상 우려 사항으로 제시

Anthropic의 반박

Anthropic은 정부의 사이버 보안 우려가 근거 없다고 주장한다:

• 강력한 안전장치 구현: Fable 5에는 사이버 보안 관련 작업을 포함한 악용 가능성을 크게 줄이는 강한 안전장치가 있으며, 많은 사용자들은 오히려 이 장치가 과도히 광범위하다고 불평했다
• 다층 방어 전략(defense in depth): 완전한 탈옥(jailbreak) 저항이 불가능하다고 판단해, 비보편적 탈옥은 좁혀지도록, 보편적 탈옥은 매우 높은 비용이 들도록 설계했으며 철저한 모니터링으로 성공한 공격을 신속히 감지하고 차단한다
• 공개된 취약점의 경미성: 지금까지 공개된 잠재적 탈옥 사례는 모두 무해한 응답이거나 Mythos 모델 특화 개선을 제공하지 않는 경미한 발견일 뿐이며, 해로운 결과를 초래한 탈옥 신고를 받은 적이 없다

미국 정부와의 배경 갈등

미국 정부와 Anthropic 간의 분쟁은 오래전부터 존재했다. Anthropic이 자신들의 제품이 광범위한 국내 감시(mass domestic surveillance) 및 완전 자율 무기 시스템(인간의 추가 개입 없이 독립적으로 목표를 선택하고 공격하는 무기)에 사용되는 것을 거부해왔기 때문이다.

정부 지시에 대한 공중 반응

Anthropic이 X에 올린 공지 "이 서비스 중단에 대해 사과드리며, 이것이 오해라고 생각해 최대한 빨리 접근을 복구하기 위해 노력 중입니다"는 몇 시간 내 7,000건 이상의 댓글과 3,200만 조회를 기록했다. 반응의 대다수는 Anthropic을 지지하고 미국 정부를 비판했다.

Anthropic 지지 의견

일부 사용자들은 Fable 5의 안전장치가 이미 과도하다고 지적했다:

• 기본 생물학 질문이나 로컬 인프라 작업도 할 수 없을 정도로 안전장치가 많아서, Anthropic이 더 할 수 있는 것이 없을 수준이라는 주장

이 조치를 개방성 축소의 신호로 보는 의견

• 중앙집권적, 국가 통제 시스템(중국 CCP)에서나 예상될 법한 조치이며, 개방적 경쟁과 혁신을 가치 있게 여기는 사회에서는 부적절하다는 비판
• "이것은 한 시대의 종말을 의미한다. 대중은 다시는 프론티어 모델(frontier model)에 이렇게 개방적으로 접근할 수 없을 것이다"라는 우려
• 정부와 프론티어 랩만 가장 강력한 모델에 접근할 수 있게 되면 어떻게 될지 불명확하지만, "우리가 지금까지 누려온 것보다 덜 재미있을 것 같다"는 의견

환불 요청

많은 Anthropic 사용자들은 실질적인 손실을 호소했다:

• Fable 5를 사용하기 위해 Claude Max(유료 구독)로 전환했는데 접근이 차단되어 환불을 요청하는 사용자들
• 서비스가 이용 불가했던 각 날에 대해 무료 사용권을 제공해달라는 요청

Anthropic을 비판하는 의견

일부는 Anthropic이 자신의 모델을 지나치게 위험하게 표현한 것에 책임이 있다고 지적했다:

• Anthropic이 수년간 자신의 모델을 "극도로 강력하고 위험한" 것으로 홍보해왔으며(Mythos는 정부용, Fable은 강한 안전장치 포함), 결국 정부가 이를 진지하게 받아들여 수출 통제를 적용한 것이라는 주장
• "공포를 프리미엄 브랜딩으로 판매한 후 정부가 그것을 실제 무기처럼 취급하자 충격을 받는 척하는 것은 할 수 없다"는 비판
• Anthropic이 "AI는 위험하다"는 서사 형성에 중추적 역할을 해왔으며, 최선의 경우 정부가 Anthropic의 주장을 그대로 받아들인 것이고 최악의 경우 AI의 국유화로 향하는 한 걸음이라는 평가

향후 전망

Anthropic이 옳다면, 미국 정부의 입장은 과장된 것이다. Fable 5와 Mythos 5의 악용을 방지할 충분한 안전장치가 이미 있기 때문이다. Anthropic은 서비스 복구를 약속했으며, 이것이 현실화될 가능성이 있다.