Reference 기반 AI 모델의 효과적인 해석에 관한 연구

Vol. 33, No. 3, pp. 411-425, 6월. 2023
10.13089/JKIISC.2023.33.3.411, Full Text:
Keywords: Artificial Inteligence, Interpretation, Autoencoder, Reference
Abstract

오늘날 AI(Artificial Intelligence) 기술은 다양한 분야에서 활용 목적에 맞게 분류, 회기 작업을 수행하며 광범위하게 활용되고 있으며, 연구 또한 활발하게 진행 중인 분야이다. 특히 보안 분야에서는 예기치 않는 위협을 탐지해야 하며, 모델 훈련과정에 알려진 위협 정보를 추가하지 않아도 위협을 탐지할 수 있는 비 지도학습 기반의 이상 탐지 기법이 유망한 방법이다. 하지만 AI 판단에 대한 해석 가능성을 제공하는 선행 연구 대부분은 지도학습을 대상으로 설계되었기에 학습 방법이 근본적으로 다른 비 지도학습 모델에 적용하기는 어려우며, Vision 중심의 AI 매커니즘 해석연구들은 이미지로 표현되지 않는 보안 분야에 적용하기에 적합하지 않다. 따라서 본 논문에서는 침해공격의 원본인 최적화 Reference를 탐색하고 이와 비교함으로써 탐지된 이상에 대한 해석 가능성을 제공하는 기법을 활용한다. 본 논문에서는 산출된 Reference를 기반으로 실존 데이터에서 가장 가까운 데이터를 탐색하는 로직을 추가 제안함으로써 실존 데이터를 기반으로 이상 징후에 대한 더욱 직관적인 해석을 제공하고 보안 분야에서의 효과적인 이상 탐지모델 활용을 도모하고자 한다.

Statistics
Show / Hide Statistics

Statistics (Cumulative Counts from December 1st, 2017)
Multiple requests among the same browser session are counted as one view.
If you mouse over a chart, the values of data points will be shown.


Cite this article
[IEEE Style]
이현우, 이태진, 한태현, 박영지, "A Study on Effective Interpretation of AI Model based on Reference," Journal of The Korea Institute of Information Security and Cryptology, vol. 33, no. 3, pp. 411-425, 2023. DOI: 10.13089/JKIISC.2023.33.3.411.

[ACM Style]
이현우, 이태진, 한태현, and 박영지. 2023. A Study on Effective Interpretation of AI Model based on Reference. Journal of The Korea Institute of Information Security and Cryptology, 33, 3, (2023), 411-425. DOI: 10.13089/JKIISC.2023.33.3.411.