AI 모델의 '윤리적 안전장치'가 국방 공급망 위험으로 규정된 전말
인공지능 모델의 안전성 가드레일과 국가 안보 요구 간의 갈등이 미국 사법부의 중대한 판단을 맞이했습니다. 미국 워싱턴DC 연방항소법원은 도널드 트럼프 행정부의 국방부(DoD)가 앤스로픽(Anthropic)을 공급망 위험(Supply-Chain Risk) 기업으로 지정하고 연방 조달에서 배제한 조치를 승인했습니다.
재판부는 2대 1 판결을 통해 국방부가 국방 안보 목적의 합법적 요청을 거부하는 기술 제공업체를 제재할 권한을 보유하고 있다고 판시했습니다. 앤스로픽이 악의적 의도를 품지 않았더라도, 특정 AI 기능 활성화를 거부함으로써 중요한 군사 작전에 불확실성을 초래했다면 공급망 위험으로 간주할 수 있다는 취지입니다.
"미국 정부는 지나치게 제한된 AI 모델이 예기치 않게 가동을 멈춰 중요 군사 작전을 실패로 이끌 위험을 제기하고 있으며, 앤스로픽은 제한 없는 AI 모델이 치명적 군사 공격을 위한 부적절한 표적을 환각(Hallucination)해낼 수 있는 매우 심각한 위험을 제기하고 있습니다."
법원은 피트 헤그세스(Pete Hegseth) 국방장관과 행정부가 이러한 상충하는 안보 위험 사이에서 균형을 결정할 권한을 갖고 있다고 결론지었습니다.
엇갈린 두 법원의 판결: 10 U.S.C. § 3252 대 41 U.S.C. § 4713
이번 사태의 핵심 쟁점은 정부가 앤스로픽을 제재하며 적용한 서로 다른 두 가지 공급망 관련 법률의 해석 차이에서 비롯되었습니다. 지난달 캘리포니아 북부 연방지방법원과 이번 워싱턴DC 연방항소법원은 서로 다른 법적 근거를 바탕으로 상반된 결정을 내렸습니다.
| 구분 | 캘리포니아 북부 연방지방법원 | 워싱턴DC 연방항소법원 |
|---|---|---|
| 적용 법률 | 10 U.S.C. § 3252 | 41 U.S.C. § 4713 |
| 판결 결과 | 정부의 지정 '위법' 판결 | 정부의 제재 권한 '적법' 인정 |
| 위험의 주체 요건 | '적대 세력(Adversary)'의 악의적 개입 필요 | '어떤 인물(Any person)'이든 기능 거부 시 성립 |
| 담당 판사 성향 | 리타 린 판사 (조 바이든 대통령 지명) | 그레고리 캇사스, 네오미 라오 판사 (도널드 트럼프 대통령 지명) |
| 주요 법적 쟁점 | 표현의 자유(수정헌법 제1조) 및 보복 조치 위법성 | 연방 조달 권한 및 기능 거부(Deny) 행위의 안보 위협성 |
캘리포니아 북부 연방법원의 리타 린(Rita Lin) 판사는 10 U.S.C. § 3252에 명시된 '적대자(Adversary)'의 파괴 공작이나 악의적 기능 도입에 앤스로픽의 안전장치가 부합하지 않는다고 보았으며, 국가 안보를 이유로 비판적 기업을 탄압하는 것은 수정헌법 제1조 침해라고 판단했습니다.
반면 워싱턴DC 연방항소법원은 미 의회가 독점적 관할권을 부여한 41 U.S.C. § 4713을 적용했습니다. 이 조항은 공급망 위험의 주체를 '모든 사람(Any person)'으로 정의하고 기술의 기능이나 사용을 '거부(Deny)'하는 행위까지 포괄하므로, 앤스로픽의 악의적 동기 유무와 무관하게 정부의 합법적 요청 수행 거부 자체가 법적 공급망 위험에 해당한다고 판시했습니다.
판결 갈등의 핵심: 기술 거부권과 헌법적 권리
워싱턴DC 항소법원의 판결문은 앤스로픽이 자사 모델에 직접 인코딩한 기능 제한 정책을 핵심 갈등 요인으로 지적했습니다.
- 모델 레벨의 기능 제한: 앤스로픽은 치명적인 자율 살상 무기 운용 및 미국 시민을 대상으로 한 대규모 감시에 자사 모델 클로드(Claude)가 활용되는 것을 방지하는 제한 조치를 시스템에 적용해 왔습니다.
- 실제 군사 작전 중 마찰: 항소법원에 따르면 최근 해외 군사 작전 진행 도중 클로드의 계약상 사용 금지 조항 적용 여부를 두고 갈등이 발생했으며, 국방부는 클로드가 필요한 순간에 정상 작동할지에 대한 불확실성에 직면했습니다.
- 적법 절차 및 계약 해석: 항소법원 다수의견은 이번 조치가 AI 규제 지지에 대한 보복이 아니라, 국방부가 필수적이라고 판단한 계약 조건을 기업이 거부함에 따라 발생한 통상적인 조달 배제 절차라고 규정했습니다.
반면 조지 H.W. 부시 대통령이 지명했던 캐런 헨더슨(Karen Henderson) 판사는 반대의견을 통해, 해당 법안의 본래 취지가 외국 적대 세력의 시스템 침투를 막기 위한 것이었음을 강조하며 계약자가 사전에 투명하게 공개한 사용 제한 집행을 공급망 위험으로 왜곡해서는 안 된다고 비판했습니다.
앤스로픽의 대응과 경쟁 빅테크 진영의 반사이익
이번 판결로 인해 앤스로픽은 국방부 및 주요 방산 협력업체와의 거래 배제가 유지되는 법적 위기에 놓였습니다. 앤스로픽 대변인 다니엘 코언(Danielle Cohen)은 회사가 법원 결정에 정중히 동의하지 않으며, 항소법원 전원재판부(En Banc) 심리 요청이나 연방대법원 상고를 포함한 모든 대응책을 검토 중이라고 밝혔습니다.
- 국방부의 공급망 위험 지정
- 캘리포니아 지법 위법 판결 vs DC 항소법원 적법 판결
- 앤스로픽 전원재판부 심리 신청 또는 대법원 상고
- 연방 조달 시장 복귀 여부 최종 확정
앤스로픽은 블랙리스트 지정 직후 공공 부문 기피 현상으로 인해 일부 매출 손실이 발생했다고 밝혔으나, 최근 민간 시장에서의 매출 성장세를 바탕으로 연내 기업공개(IPO)를 추진하고 있습니다. 한편 국방부는 클로드의 공백을 대체하기 위해 다음과 같은 대안 모델 도입을 검토 중입니다.
- 스페이스X의 Grok(그록): 방산 및 정부 인프라 네트워크 연동 타진
- 구글의 Gemini(제미나이): 사내 일부 직원의 군사 계약 반대에도 불구하고 정부 지원 지속 표명
- 오픈AI의 GPT 시리즈: 군사 작전 지원에 대한 내부 윤리적 이견을 배제하고 국방 파트너십 유지
구글과 오픈AI 내부 엔지니어들의 윤리적 우려 제기에도 불구하고, 주요 빅테크 기업들은 미 정부 지원의 중요성을 강조하며 국방 조달 시장 점유율 확대를 꾀하고 있습니다.