이미지 크게보기

(서울=뉴스1) 안은나 기자 = 윤석열 대통령과 김건희 여사가 1일 충남 계룡대 대연병장에서 열린 제74주년 국군의 날 기념행사에 입장하고 있다. (대통령실 제공) 2022.10.1/뉴스1 Copyright ? 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

급변 상황에서 군 통수권자인 대통령과 군 수뇌부의 역할 비중, 표준적 선호경향 등을 고려해 '치명적 자율 무기'(Lethal Autonomous Weapons·LAWS)를 가동하는 군사용 AI(인공지능) 운용안이 우리 육군의 AI 연구 보고서에 등장했다. 지난해 2월부터 7월까지 군의 민간 발주를 거쳐 작성된 이 보고서에는 LAWS에 '약한 AI 윤리적 판단' 체계를 접목하면 대통령 유고 등의 사태에 대비할 수 있다는 주장이 실렸다.

연구진은 "유사시 의사결정을 최단시간 내 할 수 있는 것이 AI의 장점"이라고 썼다. △기획의 견실성 △구현의 효율성 △작동의 지속성 △데이터의 진실성 등 안전성 확보 목적의 군사용 AI 대상 윤리적 평가·검증 요소도 실렸다.

이미지 크게보기

육군 발주 용역 보고서 일부.

AI를 둘러싼 군비경쟁과 윤리적 기준 수립이라는 세계 각군의 고민에서 우리 군도 자유로울 수 없음을 보여주는 대목이다. 군 당국자는 용역 결과에 대해 "정책 참고 자료일 뿐 적용 계획은 없다"고 했다. 다만 AI가 지휘통제라는 고차원의 판단 영역으로 진화의 범위를 확장한 것은 부인할 수 없는 사실이다. 미군은 2019년부터 AI에 기반한 차세대 지휘통제체계를 추진하고 있다. 우리 군도 국방기획체계상 기획문서를 올해 4년만에 갱신하며 차세대 지휘통제체계 추진 계획을 밝혔다. 지휘통제를 수행하는 것은 인간이지만 AI 판단에 대한 의존도가 높아지는 것이다.
軍 보고서에 등장한 LAWS란?…드론 수준 벗어나 교전권·살상권

이미지 크게보기

카구2. /사진제공=STM

LAWS의 출현에 따라 영화 '터미네이터'를 연상시킬 만큼 AI 자율성이 강화되는 시대가 목전에 왔다. LAWS는 자율 무기체계(Autonomous Weapon System·AWS)의 한 갈래이자 진화형으로 자율적 교전권 살상권이 부여된 AI다. 유엔 리비아 전문가 패널이 유엔 안전보장이사회에 제출한 보고서를 통해 2021년 3월 리비아 통합정부군이 민병대 사살에 동원했을 가능성을 제기한 드론 카구2와 같은 무기체계다.

카구2는 인명살상용 폭발탄, 건물 파괴용 열압력탄 등으로 무장하고 30분간 비행하면서 목표와 자율적으로 교전할 수 있다. 작년 12월 우리 영공을 침범학 투입된 북한 무인기처럼 배후에서 입력을 받는 대로 움직이는 수준을 넘어선 것이다.만약 카구2가 리비아 내란 과정에서 인간을 실제로 공격했다면 세계 3대 SF 거장으로 불리는 소설가 아이작 아시모프(1920~1992년)가 주창한 '로봇3원칙' 중 첫 번째 원칙 '로봇은 인간에게 해를 입혀서는 안 된다'는 사실상 깨진 격이라는 평가가 나온다.

이미지 크게보기

(서울=뉴스1) = 북한 무인기 여러 대가 26일 군사분계선(MDL)을 넘어 우리 영공을 침입했으며 이중 1대는 서울 시내 상공에 진입했다가 빠져나갔다. 북한 무인기의 우리 영공 침범이 공식 확인된 건 2017년 6월 이후 5년6개월 만이다. 사진은 2017년 6월9일 강원도 인제군 야산에서 발견된 북한 소형 무인기. (뉴스1 DB) 2022.12.26/뉴스1 Copyright ? 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

교전, 살상권을 부여 받는 것이 적절하느냐의 논란이 있을 뿐 AI의 판단 능력은 이미 인간을 위협하는 수준까지 진화했다. 2020년 8월 미 공군은 AI 기업이 개발한 AI 파일럿과 미 공군의 F-16 조종사 간 가상 교전을 붙였는데 결과는 5대 0으로 AI의 압승이었다.

전문가들은 군사용 AI를 둘러싼 각국의 고민은 크게 두 방향으로 이어질 것으로 본다. 군사용 AI의 자율성을 통제하는 윤리적 기준 수립이 중요하지만 수면 아래에서는 비용을 절감하고 안보 위협에 대응하기 위해 AI 효율 극대화를 연구할 수 있다는 관측이다.

"무고한 민간인은 없다" 식으로 AI 무차별 진화할까

이미지 크게보기

2차 세계 대전 당시 미 육군 항공대가 공습한 도쿄. /사진제공=미군

2차 세계 대전 당시 민가를 포함한 도쿄 전역을 소이탄(착탄하면 화재 등을 일으키는 폭탄)으로 폭격한 커티스 르메이 미 공군 대장의 "무고한 민간인은 없다"는 발언처럼 전면전에서는 자국 승리라는 절대 목표를 윤리적 가치 수호보다 앞세우는 상황이 벌어질 수도 있다. 예비역 육군 준장인 한설 전 육군 군사연구소장은 'AI 윤리학'에 대해 "아마도 전쟁에서는 윤리를 별로 따지지 않고 가장 효과적인 방향을 찾으려 할 것 같다"며 "윤리에 대해 표면적으로 말은 하지만 실제적으로 적용되는 것은 안될 것"이라고 말했다.

이미지 크게보기

2016년 로버트 워크 미국 국방부 부장관은 "국방부는 '치명적 권한'(lethal authority)을 기계에 위임하지 않을 것이지만 어떤 독재 정권이 그렇게 할 수 있기 때문에 이것을 다시 생각할 필요가 있다"고 발언한 바 있다.

유엔이 2014년 LAWS에 관한 정부전문가그룹(GGE)을 결성하고 2019년 국제인도의 적용, 무기체계 사용결정에 대한 인간의 책임 등 11개 지도원칙을 발표하는 등 논의는 일찌감치 시작됐지만 관련 규범·협약과 관련한 논의가 지지부진하게 흐르고 있다는 분석도 있다. 이는 미국과 중국 등 AI를 활용한 군사 기술 개발에 관심이 높은 국가들이 LAWS 등 AI 규제를 원치 않는 속내이기 때문인 것으로 보인다.

이미지 크게보기

(남중국해 로이터=뉴스1) 권진영 기자 = 17일(현지시간) 미국 제7함대 소속 알레이버크급 유도미사일을 구축한 밀리우스함이 대만해협에서 통과 작전을 수행 중이다. ⓒ 로이터=뉴스1 Copyright ? 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

심지어 미국과 대만 해협 문제 등을 둘러싸고 패권 경쟁이 한창인 중국 인민해방군은 AI가 주도하는 정책 결정인 '뇌-기계 결합'(brain-machine) 프로젝트를 추진하고 있다.

국제법 전문가인 심상민 아산정책연구원 연구위원은 lAWS에 적용돼야 할 윤리적 기준에 대해 "국제법 원칙에 부합하는 한도 내에서만 전쟁 수행 행위를 할 수 있도록 사전 프로그래밍을 할 수 있게 하고 규제하는 정책을 미리 마련하는 것이 국가, 정부, 군 당국의 역할"이라며 "입법이나 교전 수칙 등에서 제도화가 필요할 것"이라고 말했다. 심 연구위원은 LAWS를 활용한 전쟁수행은 책임 소재와 관련한 논란에서 자유로울 수 없을 것이라고 지적했다.