국방 XAI와 적대적 공격에 대한 최신 동향 연구

최근 딥러닝 (Deep Learning) 기술의 눈부신 발전에 따라 AI (Artificial Intelligence) 기술은 사회 전반에 활발히 적용되고 있다. 하지만 딥러닝 알고리즘과 네트워크의 복잡한 구조는 딥러닝 모델 추론의 설명이 어렵다는 문제가 있다. 특히, 국방과 의료와 같이 인간의 생명과 밀접한 관련이 있는 분야에 있어 신뢰성과 안정성이 보장되지 않은 AI의 무분별한 적용은 큰 문제가 될 수 있다. 이를 극복하고자 설명가능한 인공지능(XAI: eXplainable AI) 기술이 출현하였다. 반면에, AI와 XAI 기술은 적대적 공격(Adversarial Attack)에 취약한 것으로 잘 알려져 있다. 따라서, 본 논문에서는 우선 XAI의 개념과 분류를 제시하고, 국방 분야에 어떻게 적용될 수 있는지를 소개하며, 끝으로 AI와 XAI의 성능과 신뢰성을 위태롭게하는 최신 적대적 공격에 대한 동향을 살펴보고자 한다. 이를 통해, XAI를 국방 분야에 적용할 때에 적대적 공격의 위험성을 이해하고 대응방안을 함께 모색하도록 돕고자 한다. Nowadays, with the remarkable advancement of deep learning technology, AI (Artificial Intelligence) is being actively applied across various domains of society. However, the complex structure of deep learning algorithms and networks presents a problem in explaining the inference process of deep learning models. This is particularly problematic in critical domains such as defense and healthcare, where human lives are closely involved, as the indiscriminate application of AI without guaranteed reliability and stability can lead to significant issues. To overcome this, explainable AI (XAI) technology has emerged. On the other hand, both AI and XAI technologies are known to be vulnerable to adversarial attacks. Therefore, this paper first presents the concept and classification of XAI, introduces its applications to the defense and military domains, and finally surveys the latest trends in adversarial attacks that significantly threaten the performance and reliability of AI and XAI. Through this, we aim to help understand the risks of adversarial attacks when applying XAI in the defense domain and explore possible countermeasures. KCI Citation Count: 0