AI 모델 안전 제약이 부른 국가안보 리스크 논쟁
미국 워싱턴 D.C. 연방순회항소법원은 국방부(DoD)가 앤스로픽의 기술을 공급망 위험(Supply-Chain Risk)으로 지정하고 블랙리스트에 올린 조치를 지지하는 판결을 내렸습니다. 재판부는 앤스로픽 측에 악의적인 의도가 없었다 하더라도, 군 당국이 요구하는 특정 기능의 작동을 제한한 행위 자체가 행정부의 제재 사유에 해당한다고 판시했습니다.
재판부는 판결문에서 이번 사건이 상호 대립하는 심각한 위험 문제를 제기한다고 설명했습니다.
"정부는 과도하게 제약된 AI 모델이 예기치 않게 멈춰서 중대한 군사 작전이 실패할 수 있다는 심각한 위험을 제기합니다. 반면 앤스로픽은 제약이 없는 AI 모델이 치명적인 군사력 사용을 위한 부적절한 목표를 환각(Hallucination)할 위험을 제기합니다."
법원은 트럼프 대통령과 피트 헥세스(Pete Hegseth) 국방장관이 이러한 경쟁적 위험 사이에서 최선의 균형점을 결정할 권한을 보유하고 있으며, 공급망안보법이나 헌법상 권한 한계를 침해하지 않았다고 결론지었습니다.
- 앤스로픽의 살상무기·국내감시 제한
- 미 국방부의 기능 해제 요구
- 앤스로픽의 안전 가드레일 고수
- 미 국방부 공급망 위험 지정
- D.C. 항소법원의 제재 승인
두 연방법원의 엇갈린 판결과 법률적 근거
앤스로픽은 지난 3월 트럼프 행정부가 연방 기관의 자사 제품 사용을 중단하고 국방 계약업체들과의 거래를 금지하자 소송을 제기했습니다. 이번 항소법원 판결은 캘리포니아 북부 연방법원의 판결과 정면으로 충돌하는 형태를 띠고 있습니다.
두 법원은 적용된 법률 조항에 따라 서로 다른 판단을 내렸습니다.
| 구분 | 캘리포니아 북부 연방법원 | D.C. 연방항소법원 |
|---|---|---|
| 적용 법률 | 10 U.S.C. § 3252 | 41 U.S.C. § 4713 |
| 위험의 정의 | 적대국/적대자의 악의적 사보타주 및 기능 변조로 한정 | 임의의 인물(Any person)에 의한 기능 거부(Deny)·방해 포괄 |
| 악의적 동기 필요 여부 | 필수 (악의적 의도 요구됨) | 불필요 (기능 거부 행위 자체로 성립) |
| 판결 결과 | 앤스로픽 승소 (지정 위법 판결) | 국방부 승소 (지정 적법 승인) |
항소법원 다수의견은 41 U.S.C. § 4713 조항에 '모든 사람(Any person)'이라는 표현이 사용되었으므로 적대자나 외국 단체에만 국한되지 않는다고 보았습니다. 특히 특정 기능을 사용하지 못하게 막는 행위(Deny) 역시 공급망 위험 정의에 포함된다고 해석했습니다. 국방부가 계약상 승인되고 필수적이라고 판단한 국가안보 임무를 클로드(Claude)가 수행하지 못하도록 설계가 조작될 것을 합리적으로 우려할 수 있었다는 판단입니다.
소수의견과 수정헌법 제1조 침해 논란
이번 판결에서는 판사들의 의견이 2대 1로 갈렸습니다. 다수의견을 낸 그레고리 캇사스(Gregory Katsas) 판사와 네오미 라오(Neomi Rao) 판사는 제재의 절차적 정당성을 인정했으나, 조지 H.W. 부시 대통령이 임명한 카렌 헨더슨(Karen Henderson) 판사는 반대의견을 제시했습니다.
헨더슨 판사는 의회가 해당 법률을 제정한 본래 목적이 연방정부 공급망에 침투하려는 '적대국 및 불량 행위자'의 위협에 대응하기 위한 것이었다고 지적했습니다. 정부가 원하지 않는 제한 사항을 계약자가 솔직하게 사전에 고지하고 집행한 것을 공급망 위험으로 해석해서는 안 된다는 취지입니다.
캘리포니아 연방법원의 리타 린(Rita Lin) 판사 역시 정부의 조치가 표현의 자유를 침해했다고 지적한 바 있습니다.
"국가안보라는 명분을 공허하게 내세우는 것이 정부 비판자를 처벌하고 보복하기 위한 백지수표가 될 수는 없습니다."
그러나 D.C. 항소법원 다수의견은 정부가 절차를 준수했으며 이번 분쟁이 통상적인 계약 협상 과정에 해당한다고 보아 표현의 자유 및 적법절차 침해 주장을 기각했습니다.
빅테크 경쟁 구도와 방위 계약 시장의 파장
이번 사법적 판단은 국방 및 연방 조달 시장에서 주요 AI 기업 간의 역학 관계에도 직접적인 영향을 미치고 있습니다.
- 앤스로픽의 사업적 타격과 기업공개: 앤스로픽은 제재 지정 직후 정부 기피 기업과의 거래를 우려한 고객사들로 인해 매출 손실이 발생했다고 밝혔습니다. 다만 최근 수개월 동안 매출 성장세를 강조하며 연내 기업공개(IPO)를 추진하고 있습니다.
- 대체 모델 도입 추이: 국방부는 클로드를 대체하기 위해 스페이스X의 그록(Grok), 구글의 제미나(Gemini), 오픈AI의 GPT 모델 등을 활용하는 방안을 추진하고 있으나 구체적인 전환 진행 상황은 공개하지 않았습니다.
- 내부 윤리 갈등과 기업의 대응: 구글과 오픈AI 내부 일부 직원들은 앤스로픽이 거부한 미군과의 계약 체결에 대해 윤리적 우려를 표명하며 반발했습니다. 그러나 해당 기업 경영진은 미 정부 지원이 필수적이라는 입장을 밝히며 계약을 강행하고 있습니다.
- 관계 개선 기류: 법적 공방과는 별개로 하워드 러트닉(Howard Lutnick) 상무장관은 트럼프 행정부와 앤스로픽이 관계를 회복했으며 서로 보조를 맞추고 있다고 언급했습니다.
앤스로픽 측은 전원재판부(en banc) 심리 신청이나 연방대법원 상고를 포함한 모든 법적 대응 방안을 검토 중이라고 밝혔습니다.