[편집자 주] AI가 전쟁에 적극 활용되고 있습니다. 범위도 넓어지고 있습니다. 이에 따라 AI를 군사 활동에 어디까지 사용할 수 있을지, 그 범위는 어떻게 정할지 등과 관련한 논쟁이 확산되고 있습니다. 디프레임(deframe)은 ‘AI와 전쟁’이라는 주제로 미국 법원 소장과 의견서, 기업 공시 등의 1차 자료를 입수, 분석해 논쟁의 핵심을 추적합니다.
디프레임은 ‘AI와 전쟁’ 시리즈 첫 번째 기사에서 미국 AI 기업 앤트로픽이 미 국방부를 상대로 낸 소송을 소장 원문을 통해 분석한 바 있습니다. 기사에서 밝힌 대로 미국 현지시각으로 3월24일 오후 1시 30분, 샌프란시스코 연방법원에서 해당 소송의 가처분 심리가 열렸습니다. 디프레임은 이 심리를 줌(Zoom) 중계를 통해 실시간 방청하고, 양측 공방을 정리했습니다. 

AI 기업 앤트로픽이 미 국방부의 블랙리스트 지정을 막아달라고 낸 가처분 심리가 3월 24일 오후(현지시각) 샌프란시스코 연방법원에서 열렸다. 약 90분간 이어진 심리가 끝날 무렵 상황은 명확해졌다. 펜타곤이 앤트로픽을 ‘공급망 위험’으로 지정한 핵심 근거는 법정에서 버티지 못했다.

리타 린(Rita Lin) 판사는 심리 시작부터 트럼프 행정부 조치에 의문을 표했다.

우려스러운 것은, 정부가 취한 이 조치들이 국가안보 우려에 대한 대응으로는 보이지 않는다는 점입니다.

법원에 제출된 앤트로픽 지지 의견서 중 하나가 이번 조치를 “기업 살인(corporate murder)”에 비유한 것을 언급하며, 판사는 이렇게 덧붙였다.

살인인지는 모르겠지만, 앤트로픽을 불구로 만들려는(cripple) 시도처럼 보입니다.

판사가 직접 심리 진행을 설계했다

이날 가처분 심리에는 이례적인 점이 있었다.

통상적인 심리에서는 양측이 자유롭게 변론하지만, 이번 심리는 달랐다. 린 판사는 심리 전날 밤, 양측에 6개의 질문을 미리 제시하고 “순서에 따라 답하라”고 지시했다. 판사가 사전에 쟁점을 직접 설정한 것이다. 

6개 질문은 이 사건의 핵심을 정확히 겨냥했다. 헤그세스 국방장관의 X(구 트위터) 게시물에 법적 효력이 있는지, 의회 통보 절차를 지켰는지, ‘공급망 위험’ 지정의 범위는 어디까지인지, 앤트로픽을 정말 ‘적대자’로 볼 수 있는지, 위험 평가 메모는 언제 작성됐는지, 그리고 각 피고 기관에 대해 소송할 자격이 있는지를 물었다.

이 질문들에 대한 양측의 답변이 오가면서, 트럼프 행정부의 논리가 흔들리는 장면이 나왔다.

장면 1: “앞으로 나쁜 짓을 할 수 있다?” — 펜타곤의 핵심 근거가 흔들리다

디프레임이 지난 기사에서 정리한 대로, 앤트로픽은 자사 AI가 자율살상무기와 미국 내 대량 감시에 사용되지 않도록 제한을 걸었다. 펜타곤은 이 제한을 풀라고 요구했고, 앤트로픽이 거부하자 ‘공급망 위험’으로 지정했다.

펜타곤의 이 조치가 정당화되려면 전제 조건이 있다. ‘공급망 위험’이란 법적으로 적대적 세력이 군사 시스템을 훼손하거나 교란할 수 있는 위험을 뜻한다. 중국의 화웨이 같은 외국 기업을 겨냥해 만든 제도다. 미국 기업인 앤트로픽에 이 조치를 적용하려면, ‘앤트로픽이 마치 적대적 세력처럼 미군 시스템을 훼손할 수 있다는 근거’가 필요하다.

펜타곤이 내세운 근거는 다음과 같다. ‘앤트로픽이 계약 협상에서 사용 제한을 고집했으니, 앞으로 더 나쁜 일을 할 수 있다.’ 예를 들어 전투 도중에 AI의 작동을 원격으로 중단시키거나, 국방부 모르게 AI 모델의 기능을 바꿔버리거나, 군사 작전에 개입할 수 있다는 것이다.

국방부 기술 담당 차관 에밀 마이클(Emil Michael)은 선서 진술서에서, 앤트로픽 경영진이 “국방부가 실시간으로 앤트로픽에 전화해 사용 예외를 요청해야 한다”고 말했다고 주장했다. 국방부는 이를 앤트로픽이 군사 작전에 대한 “거부권(operational veto)”을 행사하려 했다는 증거로 제시했다.

정부 측 변호사 에릭 해밀턴(Eric Hamilton)은 법정에서 이 우려를 이렇게 표현했다.

앤트로픽이 (원격으로 AI 모델의) 기능을 끄거나 작동 방식을 바꿀 수 있다면 어떻게 됩니까? 그건 용납할 수 없는 위험입니다.

린 판사는 정부의 논리를 하나씩 검증하기 시작했다.

판사 질문: “앤트로픽이 공개적으로 발표한 사용 제한(자율살상무기와 미국 내 대량 감시에 쓰지 않겠다는 것) 자체가 군사 시스템의 훼손이나 교란에 해당합니까?”
정부 측 변호사 답변: “아닙니다.”

사용 제한을 건 것 자체는 문제가 아니라는 점을 정부 스스로 인정한 셈이다. 즉, 펜타곤이 취한 조치는 ‘앤트로픽이 앞으로 문제를 일으킬 수 있다’는 추측에 근거하고 있다.

린 판사가 그 추측의 근거를 물었다.

앤트로픽이 제품을 정부에 납품한 후에도, 국방부 시스템에서 돌아가는 AI 모델에 접근하거나 통제할 수 있다는 증거가 기록에 있습니까?

모델 업데이트는 국방부가 수락해야 하는 것 아닙니까? 앤트로픽이 국방부 모르게 비밀리에 업데이트를 밀어넣을 수 있습니까?

정부 측 변호사의 답변은 이랬다.

앤트로픽이 그런 능력을 갖고 있는지 아직 확인하지 못했습니다. 감사(audit)가 진행 중입니다.

정리하면 이렇다. 정부는 앤트로픽을 “국가안보 위험”이라며 블랙리스트에 올렸다. “앤트로픽이 군사 시스템을 원격으로 조작할 수 있다”는 것이 이유였다. 하지만 정작 이 근거가 기술적으로 가능한지조차 확인하지 않았다.

반면 앤트로픽 측은 엔지니어 티야구 라마사미(Thiyagu Ramasamy)의 기술 선서 진술서를 제출했다. 이 진술서에 따르면, 모델이 배포된 후 앤트로픽은 모델의 작동을 중단시키거나, 기능을 변경하거나, 접근을 차단하거나, 작전에 영향을 미칠 어떤 능력도 없다. 정부는 이 진술서에 반박하지 않았다.

앤트로픽 변호사 마이클 몬건(Michael Mongan)이 이 모순을 짚었다.

진짜로 (군사 시스템을) 훼손하려는 사람은 계약 조건을 두고 공개적으로 싸우지 않습니다. 계약을 받아들이고, 조용히 나쁜 짓을 합니다.

앤트로픽은 사용 제한을 공개하고, 국방부와 직접 소통하며 대안까지 제시하는 등 공개적이고 투명하게 대응했다고 주장했다. “훼손 위험이 있는 적대적 세력”이 과연 이런 행동을 할지 되물었다.

린 판사의 반응은 직접적이었다. 공개적으로 의견을 말하는 것과 몰래 시스템을 훼손하는 것 사이에 “연관성이 보이지 않습니다(I'm not seeing the connection there).” 그리고 정부 측에 직접 물었다.

제가 듣고 있는 건, IT 벤더가 고집을 부리고 특정 조건을 주장하고 성가신 질문을 하면 그것만으로 공급망 위험으로 지정할 수 있다는 건데요. 그건 매우 낮은 기준 아닙니까? 사실상 아무 경우에나 적용할 수 있는 거 아닙니까?

정부는 이 질문에 명확한 답변을 내놓지 못했다.

장면 2: “그 절차를 지키지 않았다는 걸 인정합니까?”

펜타곤이 앤트로픽을 ‘공급망 위험’에 지정한 근거만 흔들린 것이 아니다. 지정 절차 자체에도 문제가 드러났다.

법에 따르면, 공급망 위험 지정을 하기 전에 국방장관은 이를 의회에 통보해야 한다. 통보에는 “더 가벼운 조치를 먼저 검토했는지, 그 조치로는 안되는 이유는 무엇인지”에 대한 논의가 포함되어야 한다. 쉽게 말하면, 블랙리스트에 올리기 전에 “다른 방법은 없었는지”를 의회에 설명하라는 것이다.

린 판사가 직접 물었다. “국방장관이 의회에 보낸 서한에 그 논의가 포함되어 있지 않다는 것을 인정합니까?”

정부 측 변호사는 “그렇다. 서한에 그 논의는 없다”고 답했다.

정부는 방어를 시도했다. 의회 통보 요건은 의회의 권리이지, 민간 기업이 주장할 수 있는 권리가 아니라는 것이었다. 하지만 린 판사는 이에 설득되지 않는 것으로 보였다. 판사는 자신의 생각을 밝혔다. 이 절차가 존재하는 이유는, 미국 기업에 대해 이례적 조치를 취하기 전에 의회가 대안을 검토할 수 있도록 하기 위해서다. 국방부가 이 과정을 건너뛰었다면, 피해는 의회만이 아니라 앤트로픽에게도 돌아간다.

앤트로픽 변호사는 더 나아가 의회 서한만 문제가 아니라, 그 이전의 행정 기록 어디에도 ‘다른 방법은 없었는가’에 대한 논의가 없다고 지적했다. 정부가 이 문제를 다루며 인용한 것은 에밀 마이클 차관의 3월 17일자 선서 진술서인데, 이건 지정이 이루어진 3월 3일보다 2주 뒤에 작성된 것이다.

앤트로픽 변호사는 다음처럼 설명했다.

장관이 이미 2월 27일에 결정을 내렸고, 그 뒤에 직원들이 절차적 요건을 사후에 채워 넣으려 급히 움직인 것으로 보입니다. 그것마저도 성공적이지 못했습니다.

결정을 먼저 내리고, 근거는 나중에 만들었다는 뜻이다.

장면 3: “국방부는 클로드를 계속 써야 한다”가 아니다

여기까지가 펜타곤의 논리와 절차에 대한 검증이었다면, 마무리 변론에서는 이 사건의 본질이 드러났다.

정부 측 변호사 해밀턴은 이 사건이 “치명적으로 결함 있는(fatally flawed)” 가처분 신청이라고 주장했다. 대법원 판례(Winter v. NRDC)를 인용하며 “군사 당국의 전문적 판단에 큰 존중을 부여해야 한다”고 했고, 가처분이 “최고사령관과 국방장관의 판단에 간섭하는 것”이라고 했다.

앤트로픽 변호사 몬건은 이에 “이 피해는 앤트로픽에서 멈추지 않습니다”라 말하며 정면으로 반박했다. 의견서를 낸 군 지도자들은 군사 대비태세 약화를, 경쟁 AI 기업 직원들은 AI 안전 토론의 위축을, 마이크로소프트와 업계 단체들은 기술 발전 저해를 각각 지적했다고 덧붙였다.

그리고 앤트로픽이 실제로 법원에 요구하는 것이 무엇인지 명확히 했다.

우리가 요청하는 것은 2월 27일 아침의 상태로 돌아가는 것입니다. 그날 아침, 정부가 취할 수 있는 합법적 조치의 범위는 넓었습니다.

린 판사가 구체적으로 확인했다. “국방부가 앤트로픽이 참여한 계약을 종료하고 싶으면, 기존 해지 절차를 밟아서 종료하는 건 가능한 거죠?” 몬건은 답했다. “네. 기존 법과 규정을 따르는 한.” 판사가 되물었다. “합법적이기만 하면(as long as the action is otherwise lawful).” “그렇습니다.”

몬건은 마무리 변론을 이렇게 끝냈다. “정부가 할 수 없는 건 세 가지입니다. 우리(앤트로픽)가 한 말을 이유로 보복하는 것. 정부 스스로도 법적 근거가 없다고 인정한 2차 보이콧을 밀어붙이는 것. 그리고 아무런 법적 권한 없이 앤트로픽을 정부 사업에서 전면 배제하는 것.”

요약하면 이렇다. 앤트로픽은 “우리를 계속 써라”고 요구하지 않았고, 계약을 유지하든 해지하든  “합법적으로 하라”고 요구한 것이다. 정부가 계약을 끊고 싶으면 끊을 수 있다. 다만 적대국 기업에 적용하는 국가안보 권한을 동원하지 말고, 기존 조달 절차를 따르라는 것이다.

한편, 마무리 변론 과정에서 예상치 못한 장면도 있었다. 린 판사가 양측에 “피커링(Pickering) 프레임워크”의 적용 여부를 물은 것이다. 피커링 원칙은 정부와 거래하는 기업이나 개인이 정부를 비판했을 때 그에 대한 보복이 정당한지를, 표현의 자유와 공공서비스 사이의 이익형량을 따져 판단하는 기준이다. 그런데 양측 모두 이 쟁점을 법원에 제출한 서면에서 다루지 않았다. 

앤트로픽 변호사는 “이 쟁점은 브리핑하지 않았다”고 인정했고 정부 측도 “우리도 제기하지 않았다”고 했다. 양측 모두 준비하지 않은 쟁점을 판사가 직접 꺼낸 것은, 린 판사가 이 사건을 단순한 계약 분쟁이 아니라 정부와 거래하는 기업의 표현의 자유라는 더 큰 헌법적 틀에서 보고 있을 가능성을 시사한다.

결정은 며칠 내에

가처분 심리가 끝난 뒤, 린 판사는 이렇게 말했다.

양측의 변론과 브리핑에 감사드립니다. 법정조언자(amici)들이 매우 짧은 기한 안에 중요한 배경을 제공해 주신 것에도 감사합니다. 며칠 내에 결정을 예상하지만, 양측이 인용한 여러 판례를 검토한 후에 하겠습니다.

디프레임은 가처분 결정이 나오는 대로 이를 분석할 예정이다.