AI 가드레일 논쟁: 국방부 vs 앤스로픽

미 국방부와 AI 기업 앤스로픽 간의 첨예한 갈등이 격화되고 있다. 국방부는 앤스로픽에게 AI 가드레일 제거를 요구하며, 이를 거부할 시 업계 퇴출이라는 초강경 카드를 꺼내 들었다. 이는 AI 기술 윤리와 국가 안보라는 첨예한 가치 충돌을 보여주는 사례다.

앤스로픽의 윤리적 AI 고집과 국방부의 안보 논리

앤스로픽은 오픈AI에서 독립한 핵심 멤버들이 설립한 회사로, ‘통제 가능하고 윤리적인 AI’를 핵심 가치로 내세우고 있다. 이들이 개발한 ‘클로드’는 AI 모델 내부에 강력한 윤리적 안전장치를 내장하여 인권 침해나 생명 위협 행위를 방지하도록 설계되었다. 그러나 미 국방부는 이러한 윤리적 제약이 현대전과 정보전에서 AI의 즉각적인 능력 발휘를 저해하는 ‘시스템 버그’로 인식하고 있다. 국방부는 앤스로픽의 가드레일 정책을 국가 안보 위협으로 규정하며, 가드레일 제거를 거부할 경우 계약 파기 및 입찰 자격 박탈이라는 최후통첩을 보냈다. 원문에서는 더 상세한 사진과 구체적인 수치 데이터를 확인할 수 있다.

자율 살상 무기(LAWS) 논쟁과 AI 가드레일의 의미

이번 갈등의 핵심에는 자율 살상 무기(LAWS) 이슈가 자리 잡고 있다. 앤스로픽 CEO 다리오 아모데이는 AI가 인간의 개입 없이 살상 결정을 내리는 것에 대해 극도로 비판적이다. 국방부의 ‘가드레일 제거’ 요구는 윤리적 이유로 봉인된 전술적 타격 결정, 사이버 공격 시나리오 생성 등의 기능 해제를 의미하며, 이는 앤스로픽의 설립 목적을 부정하는 행위와 같다. AI 가드레일은 AI가 위험한 결과물을 내놓지 못하도록 막는 안전장치로, 군사적 맥락에서는 교전 수칙 준수, WMD 정보 차단, 심리전 조작 방지 등의 역할을 수행한다.

• 교전 수칙 준수: 민간인 피해 우려 공격 거부
• WMD 정보 차단: 핵/생화학 무기 관련 정보 제공 금지
• 심리전 조작 방지: 가짜 뉴스 및 딥페이크 생산 차단

국방부의 압박과 AI 업계의 미래

국방부는 앤스로픽이 가드레일 제거 요구를 거부할 경우 거래 제한 명단 등재, 보안 인가 박탈 등의 제재를 가할 수 있다. 또한, 팔란티어와 같은 대안 기업을 통해 앤스로픽을 압박하고 있다. 법조계에서는 국방부의 조치가 민간 기업에 대한 과도한 개입일 수 있다는 지적도 제기되고 있다. 이번 사태는 글로벌 AI 규제 프레임워크에도 영향을 미칠 수 있으며, AI 군비 경쟁을 심화시킬 수 있다는 우려가 제기된다. 향후 양측은 제한적인 타협을 통해 파국을 피할 가능성이 있지만, 내부자 위협이나 기술적 오류로 인한 사고 위험은 여전히 존재한다.

—