▶ 트럼프의 앤트로픽 반발

이란을 둘러싼 갈등은 인공지능(AI)이 더 이상 전장을 보조하는 기술이 아니라, 전쟁의 속도와 판단 구조를 바꾸는 핵심 수단이 되고 있음을 보여주었습니다. 이번 사태를 통해 AI의 군사적 활용이 어디까지 허용될 수 있는지, 또 그 기준은 누가 정해야 하는지 화두가 되고 있는 것인데요.

트럼프 행정부와 AI 기업 앤트로픽의 충돌은 이 논쟁을 상징적으로 보여준 사건입니다. 앤트로픽은 자사 AI를 미국 내 대규모 감시와 인간 개입 없는 완전 자율 치명 무기에 사용하지 않겠다는 원칙을 분명히 해왔습니다. 그러나 미 국방부는 AI가 “법이 허용하는 모든 영역”에서 활용될 수 있어야 한다는 입장을 보였고, 이 같은 가드레일을 사실상 풀기를 원했습니다. 결국 트럼프 행정부는 2월 27일 모든 연방기관에 앤트로픽 기술 사용 중단을 지시하며 정면 대응에 나섰습니다.

이 사건은 국가안보를 이유로 기술의 윤리적 경계가 어디까지 밀려날 수 있는지, 그리고 민간 기업이 세운 원칙이 국가 권력 앞에서 얼마나 유지될 수 있는지를 드러낸 사례라는 점에서 의미가 큽니다. AI를 둘러싼 논쟁이 기술의 문제를 넘어 권한과 통제의 문제로 옮겨가고 있음을 보여주고 있습니다.

▶ 전장의 중심에 이미 들어온 인공지능 무기

AI는 이미 군사 작전의 깊숙한 곳까지 들어와 있습니다. 이스라엘은 ‘라벤더’라는 AI 시스템을 활용해 하마스 무장 세력 참여 가능성이 있는 인물을 식별하고, 다양한 데이터를 연결해 폭격 대상을 추려낸 것으로 알려졌습니다. 미국 역시 이란 최고지도자와 정부 고위 인사, 주요 핵 시설과 군사 기지를 겨냥한 작전 구상 과정에서 팔란티어의 ‘메이븐 스마트 시스템’과 앤트로픽의 ‘클로드’ 모델 등을 활용한 바 있습니다. 정보 수집부터 표적 식별, 작전 계획, 전투 결과 평가까지 AI가 의사결정 전반에 영향을 미친 것입니다.

군사 영역에서 AI 활용이 주목받는 이유는 인간이 감당하기 어려운 방대한 정보를 빠르게 분석하고, 복잡한 정세 속에서 우선순위를 도출하며, 더 정밀한 판단을 지원할 수 있기 때문입니다. 국가 입장에서는 대응 속도를 높이고 작전 효율을 끌어올릴 수 있는 강력한 도구가 될 수 있습니다. 그러나 문제는 ‘속도’인데요. AI가 빠를수록 인간의 검토 시간은 줄어들고, 오인과 오판이 개입할 여지는 커집니다. 전쟁은 더 정밀해지는 동시에 더 쉽게 가속될 수 있습니다.

▶ AI 기술을 둘러싼 윤리 논쟁

이 때문에 AI의 군사적 활용은 성능보다 통제의 문제로 이어집니다. 표적 선정이 확률적 판단에 기초할 수밖에 없다는 점, 인간이 실질적으로 개입하지 못할수록 책임의 경계가 흐려진다는 점은 가장 큰 우려입니다. 누가 어떤 데이터를 바탕으로 누구를 적으로 분류했는지, 그 결정 과정에 인간의 검토와 거부권이 있었는지, 사고가 발생했을 때 최종 책임은 누구에게 있는지 같은 질문이 뒤따를 수밖에 없습니다.

AI는 생물·화학 무기 개발에서도 새로운 위험 요인으로 거론되고 있습니다. 기존의 검증 체계는 위험한 유전자나 독성 물질의 생산을 어느 정도 차단해왔지만, 최근 AI 기반 단백질 설계 기술은 기존 데이터베이스를 우회하면서도 유사한 독성을 가진 물질을 설계할 수 있는 가능성을 보여주고 있습니다. 더 큰 문제는 이를 막기 위한 안전장치 역시 완벽하지 않다는 점입니다. 기업들이 악용 방지를 위한 장치를 마련하고 있지만, 이를 우회하는 이른바 ‘탈옥’ 기법도 함께 진화하고 있습니다. 결국 “AI를 누가 어떤 원칙으로 멈출 것인가”가 중요해지고 있습니다.

전문가들은 이번 앤트로픽 사건과 AI의 군사적 활용을 두고 선한 기업과 악한 정부의 구도가 아니라, 국가와 기업 모두를 견제할 공적 규범과 사회적 통제가 함께 필요하다고 말합니다. 또한, 이번 미 국방부와 앤트로픽의 충돌이 기술 경쟁이 아니라 AI 사용 규칙을 둘러싼 정치의 문제라고 짚습니다. 군사 AI의 허용 범위에 대한 시민 참여, 기업 윤리 원칙이 정부 계약 과정에서 무력화되지 않도록 하는 절차, 그리고 ‘안보’가 모든 판단을 덮지 않도록 하는 투명성 확보가 핵심이라고 보는 것입니다.

출처 : 셔터스톡

▶ 이번 사태를 통해 보는 한국의 방향성

이 논쟁은 한국에도 결코 먼 이야기가 아닙니다. 한국은 세계적 수준의 AI 역량을 보유한 동시에 남북 대치라는 지정학적 현실 한가운데 있는 나라입니다. 그렇기에 AI 군사화 문제는 단지 기술 경쟁의 이슈가 아니라, 안보와 제도 설계의 문제로 받아들여야 합니다. 먼저 필요한 것은 인간 통제 원칙의 명확한 제도화입니다. 중대한 생명·신체 위험을 초래할 수 있는 AI 활용에는 반드시 인간의 검토와 거부권이 작동하도록 법과 원칙을 분명히 할 필요가 있습니다.

동시에 외국 기업 AI에 대한 과도한 의존이 안보 취약성으로 이어질 수 있다는 점도 이번 사태는 보여줬습니다. 특정 기업의 정책 변화나 해당 국가의 판단에 따라 군사적 활용 범위가 제한될 수 있다면, 소버린 AI는 더 이상 산업 경쟁력만의 문제가 아닙니다. 안보 전략의 핵심 자산으로 다뤄져야 합니다.

이란 전쟁은 AI가 전쟁의 보조 수단을 넘어 속도와 양상을 좌우하는 주역으로 올라선 사례로 기록될 가능성이 큽니다. 그리고 앤트로픽을 둘러싼 갈등은 그 기술의 성능보다 더 중요한 것이 무엇인지 분명히 보여줍니다. 앞으로의 질문은 하나입니다. AI를 어디까지 사용할 수 있느냐가 아니라, 그 사용의 선을 누가 정하고 누가 멈출 수 있느냐입니다. 기술의 미래를 결정하는 것은 결국 기술 그 자체가 아니라, 그것을 둘러싼 사회의 규칙과 통제의 방식일지도 모릅니다.

 #앤트로픽 #AI #AI윤리 #군사활용 #이란 #트럼프 #뉴스레터 #트렌드

＊참고문헌 : 파도 <미국 정부와 앤트로픽이 싸우는 이유>
이코노미스트 <민간 기업이 만든 AI가 전쟁 핵심 전력 되는 시대[한세희 테크&라이프]>
연합뉴스 <[K-VIBE] 임기범의 AI혁신 스토리…국방부vs앤트로픽, AI 윤리는 누구의 것?>