AI 모델의 기능 통제와 국방 공급망 리스크의 충돌
미국 워싱턴 DC 연방항소법원은 국방부(DoD)가 인공지능 기업 앤트로픽(Anthropic)을 공급망 위험 명단(블랙리스트)에 올린 조치가 정당하다고 판결했습니다. 재판부는 트럼프 행정부와 국방부가 군사적 작전에 특정 AI 기능 제공을 거부한 앤트로픽의 기술을 배제할 권한을 보유하고 있다고 판단했습니다.
이번 판결은 AI 기업이 자사 모델에 내장한 안전성 가드레일(가드레일 제한)이 국가 안보 관점에서 공급망 리스크로 해석될 수 있는지를 둘러싼 핵심 분쟁입니다. 앤트로픽은 자사 AI 모델 클로드(Claude)가 치명적인 자율 무기 개발이나 미국인을 대상으로 한 대량 감시에 사용되는 것을 계약 및 모델 설계를 통해 제한해 왔습니다. 반면 국방부는 군사 작전 수행 중 AI 모델이 의도치 않게 작동을 멈추거나 명령 수행을 거부할 경우 작전 실패로 이어질 수 있다는 점을 지적했습니다.
"이번 사건은 상상하기 힘들 정도로 강력한 신기술의 적절한 군사적 사용에 관한 매우 어려운 질문을 제기합니다. 미국 정부는 과도하게 제약된 AI 모델이 예기치 않게 종료되어 중요한 군사 작전을 실패로 이끌 위험을 제기하고 있으며, 앤트로픽은 제약 없는 AI 모델이 치명적 군사력 사용을 위한 부적절한 목표를 환각할 위험을 제기하고 있습니다."
- 앤트로픽의 안전 가드레일 설정
- 국방부 작전 수행 거부 발생
- 국방부의 공급망 위험 지정
- DC 연방항소법원의 정부 권한 인정
엇갈린 두 법원의 판결과 적용 법률의 차이
이번 분쟁에서는 캘리포니아 북부 연방지방법원과 DC 연방항소법원이 서로 다른 법령을 근거로 판결을 내리면서 상반된 법적 판단이 도출되었습니다.
| 법원 구분 | 담당 판사 및 성향 | 적용 법령 | 핵심 판단 요지 |
|---|---|---|---|
| 캘리포니아 북부 연방법원 | Rita Lin 판사 | 10 U.S.C. § 3252 | 악의적 적대 행위자(Adversary) 요건 부재로 정부 조치 위법 판결 |
| DC 연방항소법원 | Gregory Katsas, Neomi Rao 판사 | 41 U.S.C. § 4713 | 주체 제한 없는 법령상 '거부(deny)' 행위 인정, 정부 재량 승인 |
캘리포니아 북부 연방법원은 국방부 조치가 10 U.S.C. § 3252에 위배된다고 판단했습니다. 해당 조항의 공급망 위험은 적대적 상대방(adversary)이 시스템을 사보타주하거나 악의적으로 원치 않는 기능을 도입하는 행위로 한정된다는 이유였습니다. 또한 리타 린 판사는 국가 안보라는 명분이 정부 비판자에 대한 처벌과 보복을 허용하는 백지수표가 될 수 없다고 지적하며 수정헌법 제1조 위반 가능성을 제기했습니다.
반면 DC 연방항소법원은 의회가 해당 법원에 전속 관할권을 부여한 41 U.S.C. § 4713을 검토했습니다. 이 법 조항은 공급망 위험 주체를 '어떠한 인물(any person)'로 규정하고 있어 외국 적대국에 국한되지 않으며, 기능의 '거부(deny)'나 '조작(manipulate)' 역시 포괄합니다. 법원은 앤트로픽이 악의적 의도가 없었더라도 합법적인 국방 작전 요구를 거부하도록 클로드 설계를 통제한 행위 자체가 법률상 공급망 리스크에 해당한다고 보았습니다.
2대 1 판결과 소수 의견의 쟁점
DC 연방항소법원 재판부의 판결은 2대 1로 갈렸습니다. 다수 의견을 낸 두 판사는 피트 헤그세스 국방장관이 공급망안보법과 헌법상 권한 범위를 벗어나지 않았다고 판단했습니다. 정부가 AI 기술 규제를 지지하는 앤트로픽의 입장을 처벌한 것이 아니라, 필수적이라고 판단한 계약 조항 수락을 거부했기 때문에 배제한 통상적 계약 협상 및 조달 절차였다는 설명입니다.
반면 조지 H.W. 부시 대통령이 임명한 카렌 헨더슨(Karen Henderson) 판사는 반대 의견을 명시했습니다.
- 의회가 해당 법률을 제정한 취지는 적대국 및 악성 행위자가 연방 공급망을 침투하는 위협에 대응하기 위함이었습니다.
- 계약자가 정부가 꺼리는 방식으로 제품 사용 제한을 솔직하고 사전에 명시해 집행한 행위까지 공급망 위험으로 확대 해석해서는 안 됩니다.
앤트로픽 측은 이번 판결에 대해 항소법원 전원재판부(en banc) 심리를 요청하거나 연방대법원에 상고하는 방안 등 모든 법적 대응을 검토 중이라고 밝혔습니다.
군사 AI 생태계 및 대체 솔루션 동향
미 행정부가 연방 기관 및 국방 조달 계약자들에게 앤트로픽 제품 사용 중단과 거래 금지 명령을 내린 이후, 국방 분야에서는 대체 AI 모델 도입이 가속화되고 있습니다.
- SpaceX의 Grok: 국방 및 정부 기관 대상 공급망 대안으로 거론되고 있습니다.
- Google의 Gemini: 군사적 협력 계약과 관련해 내부 구성원의 반발이 제기되었으나 수용 기조를 유지하고 있습니다.
- OpenAI의 GPT 시리즈: 군사 프로젝트 지원을 핵심 과제로 규정하고 연방 공급을 지속하고 있습니다.
구글과 오픈AI의 일부 직원들은 앤트로픽이 거부했던 미군과의 계약 체결에 대해 윤리적 우려를 표명하며 반대 의사를 나타냈으나, 경영진은 미 정부 지원이 필수적이라는 입장을 고수하며 협업을 이어가고 있습니다.
기업 비즈니스 및 IPO 전망에 미치는 영향
앤트로픽은 블랙리스트 지정 직후 정부 거래 제한 기업으로 낙인찍히며 일부 고객사의 이탈로 매출 손실이 발생했다고 밝힌 바 있습니다. 그러나 최근 수개월간 전반적인 매출 성장을 이어왔으며 올해 후반 기업공개(IPO)를 추진하고 있는 상태입니다.
하워드 러트닉 상무장관은 트럼프 행정부와 앤트로픽이 관계를 회복하고 조화를 이루고 있다고 언급했으나, 이번 DC 항소법원의 판결로 인해 국방부의 배제 조치는 법적으로 유효하게 유지됩니다. 두 법원의 판결이 엇갈림에 따라 최종적인 법적 리스크 해소까지는 수년의 상고 절차가 소요될 것으로 예상됩니다.