▲ KAIST 문술미래전략대학원 전우정 교수(사진=KAIST)  © 특허뉴스

KAIST는 문술미래전략대학원의 전우정 교수가 세계 최고 학술지 네이처의 자매지인 ‘네이처 일렉트로닉스(Nature Electronics)’에 한국 법학자로서는 최초로 군사 AI 통제의 과학적 과제에 관한 기고문을 게재했다고 밝혔다. 이 기고문은 군사적 목적의 AI 활용에서 투명성과 작전 보안을 균형 있게 유지할 수 있는 설명 가능한 AI(XAI)의 필요성을 강조하며, 국제적 협력의 필요성을 제기하고 있다.

지난 9월 9일부터 10일까지 서울에서 열린 ‘2024 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM 2024)’에서 AI 통제의 중요성이 재확인되었다. 한국을 포함해 네덜란드, 싱가포르, 케냐, 영국이 공동 주최한 이번 회의에서는 61개국이 군사 AI의 윤리적 사용과 통제를 담은 ‘행동을 위한 청사진(Blueprint for Action)’을 채택했고, 이후 2개국이 추가로 동참하면서 현재 총 63개국이 협약에 서명한 상태다.

전 교수는 기고문에서 이러한 윤리적 원칙들을 과학적·기술적 측면에서 구현하는 데에는 상당한 난관이 존재한다고 지적했다. 특히 AI가 현대 전장에서 육군, 해군, 공군, 우주, 사이버를 아우르는 5개 군사 분야의 핵심 기술로 자리 잡고 있는 만큼, 신속하고 정확한 의사 결정, 물류 최적화, 위성 영상 분석, 리스크 평가 등 다양한 영역에서 전투 효율성을 향상시킬 수 있지만 그로 인한 위험성도 동반된다고 설명했다.

전 교수는 초 단위로 이뤄지는 군사 작전에서 AI가 가져오는 신속성과 정확성은 큰 이점이나, 의도치 않은 사고나 오판을 방지하기 위해 의미 있는 인간의 개입이 필요하다고 주장했다. 또한, 핵 무기 통제에 AI가 통합될 때 발생할 수 있는 잠재적 리스크와 투명성을 유지하면서도 군사 작전의 보안을 지킬 수 있는 설명 가능한 AI(XAI) 개발의 중요성을 강조했다. 이는 군사 AI의 통제를 위한 구체적 조치가 절실하며, 전 세계 과학계와 정책 담당자들이 협력해야 할 과제라고 밝혔다.

이번 전 교수의 기고문 게재는 국내 AI 및 법학 연구의 국제적 입지를 확고히 다지는 계기가 될 것이며, 군사적 목적의 AI 개발과 통제에 관한 논의가 국제적 관심 속에서 더욱 심화될 전망이다.

한편, KAIST 문술미래전략대학원 전우정 교수는 공군 예비역 대위로, 공군학사장교회 국제위원장으로 봉사하고 있다. 

기고문 제목은 Scientific challenges in governing military AI 이다.