앤스로픽, 펜타곤 AI 계약 ‘윤리적 딜레마’

앤스로픽과 펜타곤의 충돌: AI 윤리의 시험대

앤스로픽과 미 국방부(펜타곤) 간의 갈등은 단순한 계약 분쟁을 넘어 AI 윤리의 중요한 시험대로 부상했습니다. 2억 달러 규모의 계약이 걸린 이 사태는 펜타곤이 베네수엘라 작전 수행에 앤스로픽의 AI 모델 ‘클로드’를 활용했다는 의혹에서 시작되었습니다. 앤스로픽은 이를 자사의 ‘헌법적 AI’ 원칙 위반으로 간주하며 강력히 반발하고 있습니다. 앤스로픽은 오픈AI 핵심 멤버들이 설립한 기업으로, 윤리적 AI를 핵심 가치로 삼고 있습니다.

• 앤스로픽은 ‘도움이 되고, 정직하며, 무해한(Helpful, Honest, and Harmless)’ AI 구현을 목표로 합니다.
• 클로드의 사용 정책(AUP)은 살상 무기 개발, 사이버 공격, 군사 작전 개입 등 고위험군 사용을 엄격히 금지합니다.

베네수엘라 작전과 AI의 역할: 투명성 논란

미 국방부가 베네수엘라 마두로 정권을 겨냥한 작전에 앤스로픽의 기술을 활용했다는 의혹이 제기되면서 ‘투명성’ 문제가 핵심 쟁점으로 떠올랐습니다. 앤스로픽은 자사 AI가 어떤 데이터를 학습하고 어떻게 작전에 기여했는지 파악할 방법이 없는 상황입니다. 펜타곤은 군사 작전의 특성상 구체적인 사용 내역을 공개하지 않고 있습니다. 앤스로픽은 AI가 인명 살상이나 정권 전복 같은 정치·군사적 행위에 간접적으로라도 연루되는 것을 용납하지 않습니다. 원문에서는 더 상세한 사진과 구체적인 수치 데이터를 확인할 수 있다.

• AI가 드론을 직접 조종한 것은 아니지만, 작전 계획 수립, 데이터 분석, 물류 최적화 등에 활용되었을 가능성이 있습니다.
• 앤스로픽은 AI 판단 근거와 사용 목적의 투명성을 요구하지만, 펜타곤은 군사 기밀을 이유로 데이터 공개를 거부하고 있습니다.

계약 파기 위기와 국방 AI의 미래: 설명 가능한 AI의 중요성

앤스로픽과 펜타곤의 갈등이 심화되면서 2억 달러 계약 파기 위기에 직면했습니다. 펜타곤은 “윤리를 내세워 사용을 제한하는 도구”는 전장에서 무용지물이라고 판단, 계약 재검토 또는 취소를 고려하고 있습니다. 이번 사태는 국방 분야에서 설명 가능한 AI(XAI)의 중요성을 강조합니다. 군사 작전에서 AI가 내린 판단의 근거를 알 수 없다면, 지휘관은 결과를 신뢰할 수 없고 개발사는 윤리적 책임을 질 수 없습니다.

• 앤스로픽이 국방부와 결별할 경우 팔란티어나 앤듀릴 같은 기업들이 그 자리를 차지할 수 있습니다.
• AI 개발사와 정부 간의 파트너십은 윤리적 가이드라인에 대한 치열한 조율 과정을 거쳐야 합니다.

—