Current Issue

Journal of the Korean Institute of Industrial Engineers - Vol. 50 , No. 1

[ Article ]
Journal of the Korean Institute of Industrial Engineers - Vol. 48, No. 3, pp. 320-326
Abbreviation: JKIIE
ISSN: 1225-0988 (Print) 2234-6457 (Online)
Print publication date 15 Jun 2022
Received 02 Dec 2021 Revised 26 Feb 2022 Accepted 04 Apr 2022
DOI: https://doi.org/10.7232/JKIIE.2022.48.3.320

머신러닝을 이용한 해군 수리부속 수요예측 사례연구
손준형1 ; 안우선1 ; 임준성2 ; 조윤철2,
1해군본부 체계분석처
2합동참모본부 분석실험실

A Case Study on the Demand Forecasting of the Navy Repair Parts using Machine Learning
Junehyoung Son1 ; Woosun An1 ; Junsung Im2 ; Younchol Cho2,
1Navy Headquarters System Analysis Division
2Joint Chiefs of Staff Joint Analysis Center
Correspondence to : 조윤철 해군대령 : 04383 서울특별시 용산구 이태원로 22, Tel : 02-748-2920, E-mail : oknavycho@gmail.com


© 2022 KIIE

Abstract

The Naval Logistics Command forecasts demand for repair parts by compiling the time series techniques and qualitative judgment of repair parts item managers. However, the time series technique is difficult to forecast temporary and intermittent demand, and there is a problem in which it is difficult for an item manager dealing with more than 4,000 items to accurately grasp the demand information for each item. This paper proposes a demand forecasting method applied with machine learning techniques that have been actively utilized in many fields recently to improve those problems and increase demand forecasting rate. For the purpose of evaluating the proposed method of forecasting demand for repair parts, the accuracy was compared and analyzed by dividing the results of the forecast by item and quantity accuracy by applying the current procedure and method of forecasting demand for repair parts.


Keywords: Repairt Parts, Machine Learning, Demand Forecast, Time Series Technique

1. 서 론

전장에서 군의 작전지속능력 보장은 전쟁의 승패를 좌우하기 때문에 주요 장비의 안정적 운용에 필요한 수리부속 확보는 매우 중요하다. 해군은 매년 2,000억 원 상당의 수리부속 확보를 위한 예산을 집행하고 있으나, 사용하지 못한 누적 수리부속 재고는 꾸준히 증가하고 있다. 이는 수리부속 업무 및 집행예산의 적절성에 대한 문제를 야기할 수 있기 때문에 수리부속 수요를 정확히 예측하여 재고 발생을 최소화하는 노력이 필요하다. 그러나 현재 군의 수리부속 수요예측 방법은 여러 가지 원인으로 그 정확도에 대한 신뢰도가 높지 못하다. 해군 군수사령부(이하 군수사)에서는 수리부속 수요예측을 위해서 9가지 시계열 기법(산술, 이동, 최소자승, 추세보정, 단순지수, 이중지수, 홀트윈터스 2/3/4)을 사용하고 있다. 시계열 기법은 시간 경과에 따른 수요패턴을 분석하여 수요를 예측하는 방법이다. 따라서 수요의 변동이 크지 않고 수요 증감 패턴이 일정한 경우에 효과적이나, 수요가 간헐적이고 일시적인 경우에는 예측 정확도가 떨어질 수 있는 단점이 있다. 또한, 시계열 기법을 적용하기에는 데이터 양이 너무 부족하여 품목 수요 특성을 정확하게 반영하기 어려운 보다 근본적인 문제를 가지고 있다. 이러한 이유 때문에 군수사는 시계열 기법을 다양한 방법으로 확대 적용하고, 수리부속 품목별 수요 정보를 바탕으로 품목관리자의 정성적 판단을 고려한 수요 예측 방법을 적용하고 있다. 하지만, 품목관리자 1명이 담당하는 품목이 평균 4천종 이상으로 각 품목에 대한 수요 정보를 정확히 파악하여 특성을 뽑아내기에는 여력과 전문성이 충분하지 못하다는 것이 또 다른 문제로 인식되고 있다. 시계열 기법은 변동성이 큰 수요에 대한 예측이 제한되는 단점이 있는 반면, 머신러닝은 과거의 데이터를 활용하여 이러한 수요변화 특성에 대한 학습이 가능하다는 장점이 있다. 또한, 새롭게 식별한 변수는 수요예측 특성 데이터에 추가하여 학습할 수 있으므로, 모형의 확장이 쉬운 강점을 가지고 있다. 제2장에서는 기존 연구에 대해 고찰하고 제3장에서는 현재 해군 군수사에서 수행하고 있는 수리부속 수요예측 업무 및 절차를 소개한다. 제4장에서는 머신러닝을 이용한 수요예측 방법과 머신러닝 기법을 적용하기 위한 데이터 가공방법을 설명한다. 제5장에서는 머신러닝과 시계열 기법의 예측결과를 품목 및 수량 정확도 측면에서 본 연구에서 제안한 방법과 군수사 수요예측 결과를 비교평가 한다. 마지막으로 6장에서는 연구의 결론과 향후 연구방향을 제시한다.


2. 선행연구 고찰

군은 수리부속 수요예측 정확도를 높이기 위해 머신러닝을 활용한 다양한 예측 방법들을 연구해왔다(Bishop, 2006, Witten et al., 2016). 윤현민(2017)은 해군 구축함(DDH)의 수리부속 수요를 랜덤포레스트, 선형회귀 등의 기법을 이용하여 예측하였다. 김형태(2019), 최진석(2019)은 육군 전차, K-9 자주포, 대포병레이더 등 육군 장비를 대상으로, 김재동(2017), 김태균(2018), 이창호(2018)는 공군 항공기를 대상으로 머신러닝 기법을 활용하여 수리부속 수요를 예측하는 방법을 소개하였다. 국방부 차원에서는 군의 수리부속 수요예측 정확도 향상을 위해 수리부속 수요예측 및 재고관리 모형과 딥러닝 기반 수리부속 및 정비 수요예측 시스템 개발연구를 진행하고 있다. 먼저, 국방부-과학기술정보통신부는 위세아이텍(주)과 컨소시엄을 구성하여 육군의 K1A1과 공군의 T-50 수리부속 수요예측을 위해 2017~2020년간 95억 원의 예산을 투입, 딥러닝 기반 수리부속 및 정비 수요예측 시스템을 개발하였다. 또한, 국방부는 2012년부터 매년 10억 원의 예산을 투입하여 ‘수리부속 수요예측 및 재고관리 모형’ 연구를 KIDA와 함께 진행하고 있다. 이 연구에서 KIDA는 Decision Tree(DT), Support Vector Machines(SVM), K-Nearest Neighbor(KNN) 등 6개의 머신러닝 분류 알고리즘을 적용한 수요예측 모형을 개발하고 있으며, 이를 위해 60개의 머신러닝 활용변수를 입력데이터로 사용하고 있다(KIDA, 2017). KIDA의 모형은 매년 각 군의 주요 장비의 수리부속에 대한 수요예측을 위해 활용되고 있으며, 해군의 DDG, DDH-Ⅰ/Ⅱ, FFG, P-3 등의 수리부속도 연구대상 장비로 포함되어 연구가 진행되고 있다. KIDA는 기존 수요예측 방법인 시계열 기법과 달리 수리부속 수요발생 여부와 수량예측을 구분하여 머신러닝과 시계열 기법을 각각 적용하였다(KIDA, 2108). 하지만, KIDA는 3군 전체 수리부속을 대상으로 하지 않고 일부 장비에 대한 연구만을 진행하고 있으며, 각 군의 수요예측 결과에 대한 피드백을 제공하기 보다는 각 군의 수리부속 확보 요구예산을 조정하는 목적으로 활용되기 때문에 각 군의 수리부속 수요예측 업무 개선을 위해서 활용되는데 한계가 있는 것으로 인식되고 있다. 본 연구에서 해군 수리부속 수요예측을 위해 KIDA의 모형을 적용하지만, KIDA가 특정 장비에 대한 수요로 한정한 것과 달리 해군 군수사가 매년 수요예측을 수행하고 있는 전 수리부속 품목을 대상으로 F-5~F-1년간의 수요실적을 그대로 활용함으로써 실질적으로 업무에 참고 및 활용할 수 있도록 하였다.


3. 해군 수리부속 수요예측 방법

해군은 약 25만 여종에 이르는 많은 종류의 수리부속을 관리하고 있다. 그러나 수리부속에 따라 수요빈도, 장비 운용상의 중요도가 다르기 때문에 전 품목을 동일 재고량으로 관리하는 것은 비경제적이다. 따라서 파레토법칙에 의거 미래에 수요가 발생할 것으로 예상되는 수리부속을 ASL(Authorized Stockage List, 인가저장품목) 품목으로 선정하여 집중적으로 관리하고 나머지 품목(N-ASL)에 대해서는 수요가 발생하는 경우에만 조달하여 관리한다. 군수사는 매년 일정 재고량을 유지해야 할 수리부속을 ASL품목으로 선정하기 위해 전 수리부속으로부터 ASL품목의 조건을 만족하는 품목들을 선별한다. 이러한 품목을 ASL선정 대상품목(이하 ASL대상품목)이라한다.

ASL품목 선정절차는 <Figure 1>과 같이 ① 장비정보체계(DELLIS)로부터 ASL대상품목을 선별한 후 관련 자료를 가공하는 전산자료 구축단계, ② 품목관리자가 전산자료(시계열 기법의 수요예측 결과 등)와 단종, 조달 가능여부 등 품목특성을 기록한 자료를 종합하여 검토하는 품목관리자의 ASL품목 선정단계, ③ 품목관리자가 선정한 결과를 심의·조정하여 최종적으로 ASL품목을 결정하는 ASL 선정결과 심의·조정 단계로 구성되어 있다. ASL 대상품목 선정기준은 아래 <Table 1>과 같다.


Figure 1. 
ASL Item Selection Procedure

Table 1. 
ASL Target Item Selection Criteria
Item Contents
Demand ∙ More than one claim in the last five years, items with more than 2 years of performance
∙ New equipment(within 3 years of introduction)
Warranty ∙ Items that are not sufficient in demand but cannot be moved without them
∙ Items that must be deleted for ship safety and human life or operation of new equipment
Time-limited ∙ Items to be exchanged regardless of condition after the specified time
Average inter-failure exchange ∙ Items with an average failure time set after equipment operating

전산자료 구축은 ASL대상품목을 선정하고, 관련 데이터를 정제하여 품목관리자에게 제공하기 위한 준비 작업이며, ASL대상품목은 군수사 품목 DB에 등재된 수리부속 중 수요실적이 있는 품목을 대상으로 선정한다. 수요실적은 편성부대의 청구를 기준으로 하며, 청구를 취소하거나 회송한 경우 수요실적에서 제외한다. 수요실적 외에 보증품목, 시한성 품목(TCI: Time Change Item), 고장 간 평균교환품목(MTBF: Mean Time Between Failure) 같은 장비운용에 반드시 필요한 수리부속도 ASL대상품목으로 선정할 수 있다. 상기 기준에 따라 선정된 2010~2019년간 연도별 ASL대상품목 수는 <Table 2>와 같다.

Table 2. 
ASL Target Item Status By Year
Year 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019
Item 49,005 50,175 46,099 43,159 44,549 42,899 44,582 43,886 41,808 41,690

과거에는 약 50,000품목 이상이 선정되기도 하였으나, 최근에는 평균 41,000~42,000여 품목 정도가 ASL대상품목으로 선정되고 있다. 이는 철판, 앵글 등과 같은 물자품목에 대해 과거에는 ASL대상품목에 포함하던 것을 최근에는 전산자료를 구축하는 과정에서 제외함으로써, 감소하였기 때문이다. ASL대상품목으로 선정되면 F-5년∼F-1년까지의 수요량을 9개의 시계열 기법(산술평균, 이동평균, 최소자승, 추세보정, 단순지수, 이중지수, 홀트윈터스 2/3/4)을 적용해 F년도 수요량을 예측하여 자료를 생성한다.

아래 <Figure 2>에서 보는 바와 같이, 시계열 기법을 적용한 수요예측 결과는 청구횟수(OD(No. of recurring Demand) : 과거 1년간 자재 사용부대로부터 제기된 소요물자의 청구횟수), 청구량 (CD(Quantity of Recurring Demand): 과거 1년간 자재 사용부대로부터 제기된 소요물자의 청구수량), 수요패턴(TOD(Type of Demand) : TOD 1 최근 5년간 매년 수요, TOD 2 최근 5년간 4개년 수요, TOD 3 최근 5년간 3개년 수요, TOD 4 최근 5년간 2개년 수요, TOD 5 최근 5년간 1개년 수요) 등 품목 관련 자료와 함께 ASL대상품목을 관리하는 품목관리자에게 제공된다.


Figure 2. 
ROK Navy Logistics Command Demand Forcasting Utilization Data

품목관리자는 시계열 기법을 적용하여 생성된 수요예측 결과 자료와 단종, 조달 가능 여부, 가격 상승률, 과거 ASL 선정 여부 등을 정리해 별도 관리 중인 ASL대상품목 관련 자료를 종합적으로 고려해서 ASL품목을 선정하고 F년도 수요량을 결정한다. 또한, 수요가 거의 없을 것으로 예측되는 품목이라 하더라도 정비창, 작전사 요구가 있는 품목이나, 이동정비, 대체품목, 동류전용 실적이 있는 품목은 추후 수요가 발생할 수도 있기 때문에 보증품목(T)으로 선정할 수 있다. 이러한 종합검토 소요시간은 약 3주가 소요되며, 품목관리자는 ASL품목 선정결과를 품목 단가와 선정 사유에 따라 심의 대상 목록을 작성하고, 이를 ASL품목 선정결과 실무 및 심의 위원회에 각각 상정한다.

<Table 3>은 연도별 ASL품목 선정비율을 나타낸다. Q(소요목표(RO)를 재고수준으로 운영하는 품목)와 T(보증품목)품목은 ASL품목으로 선정된 품목이며, B품목은 ASL품목으로 선정되지 않은 N-ASL품목이다. 최근 ASL품목 선정비율은 약 26%를 차지하며, 과거보다 감소하는 추세이다. 이는 ASL품목으로 선정되었다가 이후 삭제되는 품목들이 관리대상에서 제외됨으로써 장기 사장 등의 문제가 발생할 수 있어 더욱 엄격한 기준을 적용하여 선정하기 때문이다.

Table 3. 
ASL Item Status By Year (%)
Item 2010 2011 2012 2013 2014 2015 2016 2017 2018 2019
ASL Q 24.8 19.1 23.9 23.1 22.2 22.5 20.4 22.0 23.3 22.1
T 5.7 12.7 9.9 7.8 7.3 6.9 5.6 4.4 4.1 4.1
30.5 31.8 33.8 30.9 29.5 29.4 26.0 26.4 27.4 26.2
N-ASL B 69.5 68.2 66.2 69.1 70.5 70.6 74.0 73.6 72.6 73.8


4. 머신러닝을 이용한 수요예측

본 연구에서 제안하는 방법은 최근 5년간의 수요실적을 바탕으로 수요 발생 여부를 예측하는 것으로 머신러닝 지도학습의 이진 분류 문제에 속한다. 머신러닝 분석을 위한 프로그램은 파이썬을 사용하였으며, 머신러닝의 학습을 위한 데이터는 군수사가 제공한 2010년~2020년 ASL대상품목으로부터 F-5년~F-1년의 수요 특징을 반영하여 생성한다.

예를 들어, <Figure 3>과 같이 2019년 ASL대상품목에 대한 2020년 수요를 머신러닝 기법을 통해 예측한다고 가정하자. 머신러닝 학습데이터는 품목 수요 추세를 가장 잘 반영할 수 있는 2018년 ASL대상품목을 활용한다. 학습데이터는 2018년 기준으로 최근 5개년 수요량의 특징을 반영한 특성(feature)데이터와 2019년 수요 발생 여부를 구분하는 개체(class)데이터로 구성된다. 학습데이터로 학습된 머신러닝은 2019년 대상품목의 특성데이터를 검증데이터로 입력받은 후, 2020년 수요 발생 여부를 예측한다. 마지막으로, 2020년 대상품목의 F-1년 수요 발생 여부를 비교하여 품목정확도를 산출한다. 머신러닝이 좋은 분류성능을 가지기 위해서는 예측대상에 대한 정보를 최대로 포함한 변수를 식별하고, 변수가 내포하고 있는 불필요한 정보를 최대한 제거하여 학습데이터를 생성해야 한다. 불필요한 정보를 제거하는 것을 데이터 가공 또는 정형화라고 하며, 머신러닝의 예측정확도 측면에서 변수식별만큼 중요하게 고려해야 하는 절차이다. 현재 군수사에서 활용하고 있는 과거 5년간의 수요데이터를 가공하지 않고 머신러닝 기법에 적용했을 때, 분류성능이 떨어지는 것을 확인할 수 있었다. 그 이유는 품목별로 연도별 수요량의 큰 편차로 인해 머신러닝이 데이터로부터 수요 발생 패턴이나 규칙을 탐색하여 학습하기 매우 어렵게 하기 때문이다. 이런 점을 개선하기 위해 다양한 방법으로 데이터를 가공한 결과, 수요량을 이진화하는 것이 수요 발생 여부의 예측정보는 유지하면서, 동시에 불필요한 정보를 제거하여 머신러닝의 예측정확도를 향상시키는 것을 확인하였다.


Figure 3. 
Demand Forecasting Process

위 그림은 머신러닝의 입력데이터를 이진화 방법을 설명하기 위한 예로, 현재 연도(2019년)의 ASL대상품목이 예측연도(2020년)에도 ASL대상품목인 경우를 가정한다. 2020년에 F-1년 수요량이 새롭게 추가되며, 2020년의 F-5년~F-2년의 수요량은 2019년의 F-4년~F-1년 수요량과 일치하는 것을 확인할 수 있다. 머신러닝 입력데이터는 특성데이터와 개체데이터로 구성이 되며, <Figure 4>의 경우 2019년의 F-5년~F-1년의 수요량은 수요 발생 여부에 따라 이진화한 후 특성데이터로 생성하고, 예측대상인 개체데이터는 2020년의 F-1년 수요 발생 여부를 비교하여 수요가 없는 경우는 0, 수요가 있는 경우는 1로 이진화하여 생성한다. 또한, <Figure 5>와 같이 2019년 대상품목이 2020년도에 존재하지 않는 경우는 2020년의 F-1년 수요량은 발생하지 않은 것으로 가정하여 개체데이터를 0으로 설정한 후 생성한다.


Figure 4. 
Any ASL Target Item


Figure 5. 
ASL Target Item

머신러닝 기반 수요예측 모형의 성능을 평가하기 위한 성과지표로 품목과 수량 기준 예측정확도를 사용한다. 해석과 적용의 편의를 위하여 품목 기준 예측정확도(이하 품목정확도)는 수요 발생 여부를 예측한 값과 실제 수요가 발생했는지를 비교하여 평가하는 국방부 훈령 상의 성과지표를 사용하며, 수량 기준 예측정확도(이하 수량정확도)는 예측 수요량이 실제 수요량에 얼마나 근접하게 발생했는지를 평가하는 KIDA의 수요예측 연구 성과지표를 적용하였다(KIDA, 2017). 품목정확도는 <Table 4>와 식 (1)에서 보는 것과 같이 전체품목 수(A+B+C+D)에서 수요예측 결과와 실제 수요가 일치하는 품목 수(A+D)의 비율로 산출한다.

=A+DA+B+C+D(1) 
=i=1nmin예측i,실제imax예측i,실제in(2) 
Table 4. 
Item Classification by Demand Forecasting and Actual Value
forecasting Demand > 0 Demand = 0 sum
actual
Demand > 0 A B A+B
Demand = 0 C D C+D
sum A+C B+D A+B+C+D

수량정확도는 식 (2)와 같이, 모든 품목에 대해 예측 수량과 실제 수량을 비교하여 큰 값을 작은 값으로 나눈 비율을 더한 후, 총 품목 수로 나눈 값으로 산출한다. 식 (2)에서 n은 품목수, i는 품목 인덱스이며, 예측치와 실제치가 모두 0인 경우 분자는 1로 처리한다. 일반적으로 예측 정확도를 RMSE 또는 MAPE와 같은 효과척도를 사용하나, RMSE의 경우 수요량이 상대적으로 큰 값에 크게 영향을 받거나 예측 오차가 적을수록 성능이 좋다는 오류에 빠지기 쉽고, MAPE의 경우에는 실제수요량이 1보다 작거나 0이면 MAPE가 무한대에 가까워져 의미없는 값을 가지게 된다. 해군의 수리부속 실제 수요량이 0이거나 수십만 개까지 편차가 상당히 큼에 따라 RMSE 또는 MAPE를 적용하기에는 어려워 해군과 KIDA에서 적용하고 있는 품목정확도와 수량정확도를 효과척도로 사용하였다.


5. 머신러닝 기법 성능 검증

머신러닝과 시계열 기법을 이용하여 품목 정확도를 예측하고 수요가 예측된 품목에 대해서는 다시 시계열 기법을 이용해 최종적으로 수요량 예측 정확도를 비교한다. 이를 통해 머신러닝의 효과를 검증한 다음 기존 군수사의 방법과 결과를 비교한다.

5.1 머신러닝과 시계열기법 정확도 비교

최근 머신러닝 활용 추세와 수요예측 데이터를 고려하여 수리부속 수요예측을 위해 DT, SVM, KNN 세 가지 기법을 선정하였다. 먼저, F-5년~F-1년의 수요량을 이진화한 경우 머신러닝(DT)과 시계열 기법을 적용했을 때의 품목정확도 비교결과는 <Figure 6>에서 보는 바와 같다.


Figure 6. 
If Characteristic Data is Binarized

과거 10년(2011년~2019년) 기간에 대해 비교결과 시계열 기법 보다 머신러닝에 의한 수요예측 방법이 정확도가 높다는 것을 확인할 수 있다. 머신러닝에 의한 평균 수요예측 정확도는 79.3%이며, 시계열 기법에 의한 정확도는 70.5%로 머신러닝에 의한 수요예측 정확도가 약 9% 정도 높다. 머신러닝과 시계열 기법에 적용된 각 기법별 同 기간 동안 평균 품목정확도는 <Table 5>에서 보는 바와 같다.

Table 5. 
TForecasting Accuracy by Technique(if binarized)
Time
series
Arithmetic Moving Min Simple Trend Towfold Holt
77.9 70.6 62.6 71.2 70.9 71.3 68.8
ML DT SVM KNN
79.4 79.1 79.3

머신러닝의 경우 DT의 품목정확도가 평균 79.4%로, 연도별 全 기간에서 다른 기법(SVM, KNN)보다 높았다. 일반적으로 머신러닝 기법간 우열을 가리는 것이 쉽지는 않지만 본 연구에서 특별히 DT기법이 우수한 이유를 추정해본다면 데이터가 이진화되어 있어 SVM, KNN과는 다르게 특별한 파라미터 튜닝을 하지 않고도 불순도 척도(Impurity measurement)를 통해 확률적으로 최적의 가지치기를 유한한 수만큼 반복하여 분류가 가능하기 때문이다. 각각의 머신러닝 기법은 사이킷런(sklearn)에서 구현한 라이브러리를 활용하였으며, 예측정확도가 가장 높은 DT의 목적함수(G)만 설명하자면, m번째 노드에 Nm개의 품목을 가진 Qm의 데이터가 있고, 특성(feature) j와 임계값(threshold) thm으로 구성된 조합 θ = (j, tm)이 있을 때 아래 식 (3)과 같이 표현된다.

GQm,θ=NmNmHQmθ+NmNmHQmθ(3) 

Figure 7. 
Quantity Accuracy Comparison Result (%)

QmQmθ = (j, thm)에 의해 좌ㆍ우 가지치기로 분류한 데이터이며, NmNm는 각 데이터의 품목의 수이다. 또한, Hθ = (j, thm)에 대한 impurity measurement(불순도 척도)로 m번째 노드에서 목적함수 G를 최소화하는 θ*를 구하기 위해 활용하는 효과척도이다. 본 논문에서는 impurity measurement로 Gini 계수를 적용하였다.

시계열 기법 중에서는 산술평균에 의한 품목정확도가 평균 77.9%로 가장 높은 예측결과를 제시한다는 것을 알 수 있다. 머신러닝으로 수요가 발생할 것으로 예측한 품목은, F-1년~F-5년 실수요량을 시계열 기법에 적용하여 예측 수량을 산출한다. 수요 발생 여부는 분류성능이 가장 뛰어난 DT의 결과를 적용하였으며, 군수사의 시계열 기법에 의한 수량정확도와 비교평가하였다. 머신러닝 기법 중 DT와 시계열 기법으로 각각 수요 발생 여부를 예측하고, 수요가 발생할 것으로 예측한 품목에 대해 시계열 기법을 적용하여 산출한 수량정확도는 편의를 위해 전자를 DT(품목)→시계열(수량)로 하고, 수요 발생 여부와 수량예측 모두를 시계열기법을 적용한 결과를 시계열(품목)→시계열(수량)로 표기한다.

DT→시계열 방법에 의한 예측 정확도는 72.9%이며, 시계열→시계열 방법은 61.4%로 머신러닝을 이용한 방법이 약 11.5% 정도 정확도가 높았다.

<Table 6>에서 보는 것처럼 DT→시계열 기법의 수량정확도는 이동평균을 적용했을 때 평균 73.2%로 가장 높으며, 시계열→시계열 기법은 산술평균을 적용했을 경우가 가장 높았다.

Table 6. 
Quantity Accuracy Comparison between Time Series Techniques (%)
구분 Arithmetic Moving Min Simple Trend Towfold Holt
Time series → Time series 70.1 61.2 52.7 62.4 61.5 61.8 60.1
DT → Time series 73.1 73.2 72.8 73.1 72.9 72.9 72.2

5.2 머신러닝과 군수사의 수요예측 방법 비교

군수사의 품목관리자는 수요발생 또는 미발생으로 예측하여 품목별 Q, T, B로 부과하는 임무 긴요도 부호와 예측연도의 실수요와 비교해 품목 정확도를 산출한다. Q품목과 T품목은 수요 발생을 예측한 품목이며, B품목은 수요 미발생을 예측한 품목이다.

예를 들면, <Figure 8>에서 보는 것 같이 2019년 Q 또는 T품목이 2020년 F-1년에 수요량이 있는 경우 예측이 성공한 것으로 판단하며, 수요가 발생하지 않는 경우 예측실패로 판단한다. B품목인 경우는 Q 또는 T품목과는 반대로 수요예측 성공 여부를 판단한다. 만약 2020년에 대상품목이 존재하지 않는 경우 수요량이 없는 것으로 간주하여, 각 품목의 예측 성공 여부를 판단한다. <Figure 9>는 2011년~2019년 ASL대상품목에 대한 군수사와 머신러닝 기법(DT)의 품목정확도 비교결과이다.


Figure 8. 
ROK Navy Forecasting Ac Uracy Computation Result


Figure 9. 
Forecasting Accuracy Comparison Result (%)

머신러닝을 활용한 수요예측 결과가 평균 79.4%로 군수사의 수요예측 결과보다 약 2.2% 높은 정확도를 보였다. KIDA의 연구결과에 따르면 全軍의 수리부속 예측 정확도가 약 1% 예측률 상승 시 130억 원 정도의 비용이 절감 가능할 것으로 판단하였다. 따라서, 전체 예산에서 해군의 비중을 고려했을 때 머신러닝 활용으로 약 1%의 예측률이 상승할 경우 약 26억 원의 예산이 절감되며, 2.2%의 정확도가 개선되었으므로 약 57.2억 원의 예산 절감 효과가 발생할 것으로 보인다. 군수사의 수량정확도는 현재 연도의 ASL 선정결과를 바탕으로 Q와 T품목에 대해 시계열 기법을 적용하여 수량을 예측하고, 그 결과를 예측연도의 실수요량과 비교하여 산출한다. <Figure 10>은 2011년~2019년 ASL대상품목에 대한 군수사와 본 연구에서 제안한 머신러닝(DT)-시계열에 의한 수량정확도(각 시계열 기법의 평균값으로 산출) 비교결과이다.


Figure 10. 
ML vs ROK Navy Quantity Accuracy Comparison (%)

본 연구에서 제안한 예측모형에 의한 평균 수량정확도는 72.9%, 군수사는 71.7%로 全 실험대상 기간(2011~2019년)에 대해서 군수사 보다 높은 것으로 확인되었다.


6. 결 론

본 연구에서는 ASL품목 선정 시 수요예측 정확도 향상을 위한 방법으로 머신러닝 기반 수요예측 모형 적용사례를 소개하였다. 연도별 ASL대상품목의 자료를 가공한 후 모형에 입력하여 산출한 예측정확도는 평균 품목 기준 79.4%, 수량 기준 72.9%로 군수사 보다 각각 2.2%, 1.2% 향상된 결과를 확인하였다. 하지만, 금번 연구는 수리부속 수요예측에 머신러닝을 적용한 최초 사례로 기존 연구와 달리 해군 전체 수리부속을 대상으로 수요예측함으로써 소요군에서 정확한 수요예측을 통한 예산 낭비를 방지할 있는 방안을 제시하였다는데 큰 의미가 있다. 하지만 아직 수리부속 데이터에 대한 정보 부족 문제가 상존하고, 수요예측 정확도에 영향을 미치는 특징변수의 발굴과 적용이 미흡하므로, 향후 품목 기준 예측정확도를 높이기 위한 지속적인 연구가 필요하다. 이를 위해서는 수요량 이외의 수요를 발생시키는 다양한 외생변수를 식별하고 데이터화 하는 것이 중요하며, 이를 위해 장비의 도입시기, 가동률, 운용실적, 정비실적, 고장원인, 조달기간, 수리부속 수요량과의 상관관계 분석 등을 통해 적절한 변수를 찾아 모형에 적용하는 것이 필요하다. 또한, DT·SVM·KNN 외 다른 머신러닝 기법들을 모형에 적용하여 예측정확도를 향상시킬 수 있는 연구도 필요하다.


References
1. A Study on the Development of Demand Forecasting Model for Repair Parts (2017), Korea Institute for defense Analyses, Technical Report.
2. A Study on the Development of Demand Forecasting Model for Repair Parts (2018), Korea Institute for defense Analyses, Technical Report.
3. Bishop, C. M. (2006), Pattern Recognition and Machine Learning, Springer, Second Edition.
4. Choi, J. and Kim, K. (2019), A Study on Spare Parts Forecasting based on Time Series Analysis Considering Demand Features, Journal of Military Science and Technology Studies, 12(1), 45-53.
5. Kim, H. and Kim, S. (2019), Data Mining based Army Repair Parts Demand Forecast, Journal of the Korean Data & Information Science Society, 30(2), 429-444.
6. Kim, J. and Lee, H. (2017), A Study on Forecasting Spare Parts Demand based on Data-mining, Journal of Internet Computing and Services(JICS), 18(1), 121-129.
7. Kim, T. and Ma, J. (2018), A Data Mining Approach for Intermittent Demand Forecasting of Aircraft Spare Parts, Journal of Aviation Management Society of Korea, 16(4), 155-164.
8. Lee, C. and Kim, W. (2018), An Empirical Study on Aircraft Repair Parts Prediction Model Using Machine Learning, Journal of the Korean Society for Aviation and Aeroautics, 26(4), 101-109.
9. Machine Learning Bbased Military Power Equipment Repair Parts and Maintenance Demand Prediction (2019), Wiseitech, Technical Report.
10. Witten, I. H., Frank, E., and Hall, M. A. (2016), Data Mining : Practical Maching Learning Tools and Techniques, Morgan Kaufmann, Fourth Edition.
11. Yoon, H. and Kim, S. (2017), Naval Vessel Spare Parts Demand Forecasting Using Data, Journal of Society of Korea Industrial and Systems Engineering, 40(4), 253-259

저자소개

손준형 : 대구한의대학교 환경공학과에서 1995년 학사학위를 취득하고 국방대학교 안보정책학과에서 2008년 석사학위를 취득하고 한남대학교 산업공학과에서 2022년 박사학위를 취득하였다. 연구분야는 데이터사이언스, 딥러닝, 국방 M&S이다.

안우선 : 중앙대학교 컴퓨터공학과에서 2001년 학사, 2004년 미국 플로리다 대학교 전기컴퓨터공학과에서 석사학위를 취득하고 2011년 미국 코네티컷 대학 전기컴퓨터공학과에서 박사학위를 취득하였다. 연구분야는 머신러닝, 강화학습, 국방M&S 및 최적화이다.

임준성 : 해군사관학교 전자공학과에서 2003년 학사, 2012년 서울대학교 산업공학과에서 석사학위를 취득하고 2022년 한남대학교 산업공학과에서 박사학위를 취득하였다. 현재 합참 분석실험실 해상전모델담당으로 재직하고 있다. 연구분야는 국방M&S, 군사 OR이다.

조윤철 : 해군사관학교 조선공학과에서 1993년 학사, 국방대학교 국방관리학과에서 2002년 석사학위를 취득하고 미국 Auburn대학교 산업시스템공학과에서 박사학위를 취득하였다. 2020년까지 해군 체계분석처 과장 및 처장을 역임하고 현재는 합참 분석실험실 전력분석 2과장으로 재직하고 있다. 연구분야는 최적화, 시뮬레이션, 머신러닝이다.