[이데일리 김가은 기자] “인공지능(AI) 기술은 군사 분야에서 더 많이 확산할 것이다. 다만 사이버 해킹의 위험성이나 잘못된 데이터가 학습되는 등 위협 요소도 고려해야 대한민국 뿐만 아니라 전 세계의 평화를 유지할 수 있다”

이원태 아주대 연구교수(앞줄 왼쪽에서 세번째), 정경두 사이버안보연구소 대표(앞줄 왼쪽에서 네번째) 등 ‘REAIM’ 브레이크아웃 세션 참석자들이 기념촬영을 하고 있다(사진=김가은 기자)

<이미지를 클릭하시면 크게 보실 수 있습니다>

정경두 사이버안보연구소 대표(전 국방부 장관)는 9일 서울 중구 웨스틴 조선호텔에서 열린 ‘2024 제2차 AI의 책임있는 군사적 이용에 관한 고위급회의(REAIM)’에서 미래 전쟁의 핵심이 AI라면서도 이를 통해 발생할 수 있는 위험성 또한 충분히 고려해야 한다고 강조했다.

이날 열린 REAIM은 정부와 기업, 학계, 시민사회 등이 모여 AI 기술의 군사적 이용 방안을 논의하는 국제 행사다. 이날 열린 브레이크아웃 세션에서는 AI가 군사와 사이버 안보에 미치는 영향과 잠재력을 중심으로 토론을 이어갔다.

좌장을 맡은 이원태 아주대 연구교수(전 한국인터넷진흥원 원장)는 “AI를 군사 전략적 의사결정 수단으로 활용할 때 기능적, 기술적 위험성이 존재한다”며 “여러 한계점과 부작용에 대한 윤리적, 법적 대응 방안이 필요하다”고 강조했다. AI가 제공한 데이터를 기반으로 지휘관들이 판단을 내릴 때 나타날 수 있는 환각(할루시네이션)이나 AI가 자체적으로 판단해 공격과 방어 등을 수행하는 자율무기가 간과할 수 있는 윤리적 위험성 등을 없앨 방안이 필요하다는 의미다.

결국 이를 해결할 핵심 방안은 데이터에 있다는데 의견이 모아졌다. 발제자로 나선 이상용 서울시 디지털수석은 “데이터를 어떻게 준비하느냐에 따라 전장에서 의사결정에 쓸 수 있는지가 판가름 난다”며 “이를 위해 안전하고 효과적으로 데이터를 활용해야 하고, 안전을 보장하는 방향으로 수집된 데이터를 AI가 빠르게 인식할 수 있어야 한다”고 강조했다.

이어 “무인으로 운용되는 드론이나 로봇도 정밀하게 목표를 설정하려면 데이터 정확성이 담보돼야 한다”며 “의사결정과 판단을 위해 어떻게 데이터를 수집하고 분석할 지가 핵심”이라고 덧붙였다.

AI를 전쟁에서 활용할 경우 윤리적·법적 책임을 명확히 할 국제규범이 중요하다는 의견도 나왔다. 구태언 법무법인 린 대표(디지털플랫폼정부위원회 민간위원)는 “AI가 계속 발전함에 따라 기존에 존재하던 법적 틀이 충분하지 않다는 점이 점점 더 명확해지고 있다”며 “인간이 가진 윤리적 판단과 상황에 대한 추론 등을 AI가 갖추고 있는지, AI가 내린 판단에 대한 설명을 듣고 신뢰할 수 있는지가 중요하다”고 설명했다.

이어 “국제법에서 중요한 비례성 원칙 등에 대한 적용에서도 우려가 나온다”며 “복잡하고 빠르게 변하는 전시 상황에서 AI가 전투원과 민간인을 구분해야 하는데 이 같은 역량을 갖추고 있는지 확실하지 않다. 따라서 AI가 군사적 맥락에서 운용될 수 있도록 국제적 가이드라인이 필요한 상황”이라고 부연했다.

이진 사이버안보연구소 소장은 데이터 학습의 효율성을 높여야 한다고 말했다. 이 소장은 “지금의 AI 산업은 정확하게 과거 군비경쟁과 같다. 돈을 들인 만큼 결과가 나오고 있고, 미국을 이길 방도가 없다시피 한 상황”이라며 “파인튜닝과 프로파일링으로 AI를 고도화하는 것은 동일한 데이터를 기반으로 하기 때문에 한계가 생길 가능성이 크다. 결국 방법을 바꿔 똑같은 데이터를 기반으로 전쟁 상황에 대한 롤플레잉을 각각 돌리고 데이터셋을 여러 개 만든다면 더 심도있는 결과가 나올 것이라고 본다”고 말했다.