인공지능(AI)의 발전은 사회 전반에 혁신적인 변화를 불러왔으며 4차 산업혁명을 거쳐 초거대 모델,생성형 AI를 통해 폭넓은 가능성을 확장하고 있다.

세계 각국은 군수, 행정, 의료 등 국방 운영은 물론 전차, 항공기, C4I 체계와 같은 전력 체계까지 모든 국방 영역에서 AI 혁신을 도입하고, 최근 전쟁을 통해 작전 효율성 극대화, 인적 자원 경감, 신속 정확한 지휘관 판단을 위한 적극적인 군사적 AI 활용으로 전쟁 양상의 변화를 체감하였다.

이러한 국방 전략 패러다임 변화에 더해 책임 있는 군사적 AI 활용을 논의하는 REAIM 2024에 즈음하여 국방 산업의 AI 혁신과 책임에 대해 이야기하고자 한다.

우리 군은 주변국의 첨단 전력 강화, 초연결-초융합-초지능화에 따른 정보량 급증 등 다양한 위협과 복잡한 전장에 대비하는 AI 과학기술 강군 육성을 목표로, 국방혁신 4.0 이니셔티브를 통해 AI 혁신과 도전을 계속하고 있으며, 국방 산업은 군의 필요와 K-방산 글로벌 경쟁력의 성공 열쇠로서 AI 기반 무기 체계 등 국방 AI에 주목하고 있다.

국방산업 중 군수물류, 지식베이스 등 국방 운영 서비스산업 및 물자 생산효율화를 위한 공정 자동화 등 제조산업은 비용 절감, 인력 활용, 위험 감소 같은 일반산업용 AI와 유사하므로 초고속으로 발전하는 민간 AI 기술의 효과적 수용을 추진하며, EU AI Act와 같은 국내외 정책과 규제 대비를 통해 AI의 안전성, 투명성을 뒷받침할 수 있을 것으로 예상된다.

한편 군사적 AI 활용에 대한 우려의 중심에 있는 무기 체계 산업은 국방 로드맵에 따라 인지, 판단, 결심지능으로 발전하며, 국방 도메인 지식에 기반한 AI 기술 내재화를 통해 임무 숙련도를 보조하는 단계를 지나, 전장 인식, 자율 판단, 지휘 결심, 임무수행 능력의 비약적 확대를 준비하고 있다. 또한 인명과 밀접하게 관계된 국방에서 AI 혁신에 따른 윤리적 도전을 해결하기 위해 각국 정부의 군사적 AI 활용 방침, AI 위험관리 프레임워크와 같은 AI 개발과 사용 원칙을 준비해야 한다.

이에 대해 우리의 국방 AI는 개발부터 지휘관 확신을 위한 고도의 신뢰성을 요구한다. 다양한 인공지능 핵심 요소 중, 정확성, 무결성, 합리성 및 판단 근거를 제시할 수 있는 논리적으로 강건한 모델, 특수 센서와 비정형 극희소 사건 및 편향되지 않은 데이터 관리, 저전력 엣지컴퓨팅 등 제한된 운용 환경과 인프라에서도 신뢰할 수 있는 AI를 목표로 해왔다. 여기에 더해 완전한 국방 AI 성능 평가 및 안전성 인증 등 K-방산 AI의 신뢰성을 보장하는 시스템과 정책을 통해 국제적인 군사적 AI 안전과 윤리의 공감대를 주도해야 할 것이다.

AI는 군사 작전의 효율성과 효과성 향상을 통해 전쟁의 비윤리성과 함께 민간 피해 최소화 등 새로운 가능성을 열어줄 양면성을 가진 기술이다. 전 세계 정부 차원에서 긴밀하게 공조하여 책임 있는 AI에 대한 그라운드 룰(Ground rule)을 마련하고, 모든 이해당사자가 협력하여 책임 있는 군사적 AI 개발과 사용을 통해 AI가 국방에 주는 이점을 극대화하고 잠재적 위험성을 최소화하는 노력이 계속되어야 한다.

김종진 한화시스템 전무