기계 건강 지표 구축을 위한 재구성 기반 이상 탐지

2.1 예지 보전

PHM의 대표적 방법론인 예지보전에는 도메인 기반 방법론, 모델 기반 방법론 그리고 데이터 기반 방법론이 존재한다. 도메인 기반 예지보전 방법론은 주로 전문가의 지식 또는 경험을 기반으로 한다. 도메인 기반 방법론은 비교적 구현이 간단하다는 장점을 갖고 있지만, 전문 지식이 존재하는 경우만 적용할 수 있다는 단점이 존재한다(Gao et al., 2015).

모델 기반 예지보전 방법론은 시스템의 열화 과정을 상세한 수학적 모델로 해석한다. 모델 기반 방법론은 제일원리(First principle)를 바탕으로, 시스템 식별 및 추정 기술을 사용하여 모델의 매개변수를 추정한다. 해당 방법론의 장점은 정확한 모델이 구축되면 다양한 작동 조건을 설명할 수 있다는 점이다. 다만, 시스템에 해당하는 적합한 모델이 존재하지 않는 경우가 많으며, 존재한다 하더라도 다른 종류의 시스템에 재활용할 수 없다는 단점이 있다(Liao et al., 2014).

데이터 기반 예지보전 방법론은 데이터를 통해 직접 추론할 수 있다는 가정을 기반으로 한다(Baur et al., 2020). 데이터 기반 방법론은 대규모 데이터에 대한 분석이 가능하며, 시스템의 구성 요소에 대한 사전 지식 또는 통계적 모델 지식이 필요로 하지 않다는 장점이 존재한다. 본 논문에서는 데이터 내의 관계를 찾기 위한 방법으로 데이터 기반 예지보전 방법론을 사용한다.

2.2 건강 지표 구축

데이터 기반 PHM 기술은 기계 고장이 발생 시 데이터를 수집하고, 수집된 데이터를 기반으로 공정 설비의 수명을 대표할 수 있는 HI를 구축한다. 그 후, 구축된 HI를 바탕으로 설비의 잔존수명을 예측하는 세 가지 단계를 거친다(Yu et al., 2019). 본 논문에서는 수집된 데이터를 기반으로 공정 설비의 수명을 대표할 수 있는 HI를 고도화하는 것을 목표로 한다.

인공지능을 통한 HI 구축은 크게 예측 기반 모델(predictive-based model)과 재구성 기반 모델(reconstruction-based model)의 두 가지 방법으로 나뉜다. 예측 기반 모델은 수집된 데이터의 미래 값을 예측하고, 실제 데이터와의 차이를 통해 예측 오차를 산출한다.

Park et al.(2020)은 many-to-one 구조를 갖는 다중 채널(channel) Long Short-Term Memory(LSTM)를 사용해 배터리의 다변량 요소를 활용한 잔존 수명(remaining useful life, RUL) 예측모델을 제안하였다. 해당 모델은 간단한 구조로 효율적이지만, 멀티모드 데이터와 같은 복잡한 데이터를 학습하는데 어려움이 존재한다.

She and Jia(2021)은 Bidirectional Gated Recurrent Units(Bidirectional GRU)를 사용하여 베어링의 RUL과 신뢰 구간(control limit)을 예측하였다. 그러나 해당 모델은 다중 변수가 존재하고 가변적인 작업 조건에서 예측 불확실성을 보인다는 문제가 존재한다.

Cai et al.(2020)은 최대 평균 불일치(maximum mean discrepancy, MMD)와 kernel two sample test(KTST)를 사용해 데이터의 유사도를 측정 후, Rao-Blackwellized 파티클 필터(particle filter)로 열화 매개변수(parameter)를 업데이트하는 방법을 제안하였다. 그러나, 해당 모델은 멀티 모드 상황을 고려하지 않기 때문에 일반화 성능이 떨어지는 문제가 존재한다.

한편, 재구성 기반 모델은 수집된 데이터에 대한 재구성 오류를 통해 설비의 성능 저하를 탐지한다. Qin et al.(2021)은 새로운 제약식을 Variational Autoencoder(VAE)에 사용하여 베어링 데이터의 일정한 열화 경향을 파악해 HI를 구축하였다. 그러나, 멀티 모드 상황은 일정한 열화 경향을 반영할 수 없다는 단점이 존재한다.

Fu et al.(2021)은 오토인코더(Autoencoder, AE)와 LSTM을 사용하여 변수 차원과 시간 차원의 데이터의 특징을 추출해 데이터의 유사도를 기반으로 HI를 구축하는 방법을 제안하였다. 하지만, 해당 방법은 초기 HI를 정확하게 반영하는 것이 어렵다는 문제점을 갖고 있다.

Yu et al.(2020)은 Recurrent Neural Network (RNN)와 AE를 사용해 Commercial Modular Aero-Propulsion System Simulation (CMAPSS)에 대한 RUL을 재구성하였다. 그러나 해당 방법은 run-to-failure 학습 데이터가 존재해야만 적용할 수 있다는 문제점을 갖고 있다.

선행 연구들의 공통적인 단점은 멀티 모드 상황에서 하나의 모델만을 적용하여 멀티 모드 데이터를 충분히 반영하지 못한다는 것이다. 따라서 본 논문에서는 하나의 재구성 기반 모델의 다중 레이어(layer)를 사용하여, 모델 학습 시 가장 적은 재구성 값을 얻을 때까지 모델 선택을 연기해 정교한 HI를 구축한다.

2.3 이상치 탐지 모델 구축

본 논문에서는 정상 데이터만 포함된 훈련 데이터 세트(training dataset)와 정상 및 비정상 데이터가 포함된 테스트 데이터 세트(test dataset)를 사용한다.

기계의 상태를 나타내는 시계열 데이터에서 앞부분은 정상 데이터로 설정되며, 나머지 부분은 비정상 데이터로 설정된다. 시계열 데이터에서는 보통 전체 데이터 중 대부분이 정상 데이터로 구성되어 있으므로, 정상 데이터만을 학습하여 모델을 구축하는 것을 목표로 한다. 비정상 데이터는 정상 데이터만을 학습한 모델에 비해 재구성 오류의 편차(deviation)가 클 것이므로, 이를 이용하여 HI 구축을 수행한다.

본 논문에서는 시계열 데이터에서의 이상탐지 문제를 단순화한다. 이상 시점은 <Figure 2>에서 주황색 선으로 표시된 부분과 같이 한 번만 발생하지만, 이후 기계가 교체되기 전까지의 모든 시점에 대해 비정상 상태라고 가정한다.

Figure 2.

Anomaly Detection in Time-series Data

본 논문에서 이상 탐지 모델을 구축하기 위한 단계는 다음 두 단계로 구성된다. 첫 번째 단계에서는 제안 방법을 사용하여 훈련 데이터 세트에서 정상 데이터만을 학습한다. 특히, 정상 데이터를 가능한 한 정확하게 재구성하는 모델을 구축한다.

두 번째 단계에서는, 첫 번째 단계에서 구축한 모델을 사용하여 테스트 데이터 세트의 값을 순차적으로 재구성한다. 그러나, 일반적으로 시계열 데이터에는 노이즈가 포함되어 있다. 노이즈는 모델 결과에 영향을 미칠 가능성이 높기 때문에, 재구성 값에 대해 저주파 통과 필터(low-pass filter, LPF)를 적용한다. 이후 재구성 오류를 통해 이상 정도를 나타내는 이상 점수(anomaly score)를 계산한다.

3.1 LSTM-AE를 활용한 다중 학습

본 논문에서는 이상 탐지를 위해 LSTM 기반 AE를 사용한다. AE와 LSTM은 이상 탐지 분야에서 다양한 방식으로 연구되어 왔다.

Xu et al.(2018)은 주기성을 갖는 시계열 데이터의 이상 탐지를 위해 VAE 기반 이상 탐지 모델을 제안했다. VAE는 데이터의 분포를 학습하기 때문에 AE보다 데이터의 저차원 표현을 정밀하게 나타냄으로써 재구성 성능을 높일 수 있다는 장점이 존재한다.

Chen et al.(2020)은 산업용 로봇의 제어기에서 수집된 다변량 시계열 데이터의 이상 탐지를 위해 Sliding-Window Convolutional VAE(SWCVAE) 모델을 제안하였다. SWCVAE는 슬라이딩 윈도우를 전체 데이터에 적용함으로써 데이터의 주기성을 찾아내고, 다변량 시계열 데이터의 특징을 추출할 수 있다는 장점이 존재한다.

Ghrib et al.(2020)은 LSTM-AE와 Support Vector Machine(SVM)을 결합한 하이브리드 방법을 제안하였다. 복잡한 고차원의 시계열 데이터에 LSTM-AE를 적용하여 정상 데이터의 저차원 표현을 효율적으로 학습하고 정상 데이터와 비정상 데이터의 상관성을 감소시켰다.

Zhao et al.(2020)은 Bidirectional LSTM-AE를 통해 시계열 데이터를 양방향으로 학습하면서 예측 형태로 재구성하고, 재구성 오류에 가우시안(Gaussian) 분류 모델을 적용하여 이상을 탐지하였다. 하지만, 이러한 방법들은 특정 문제 설정이 존재하는 시계열 데이터 적용이 어렵다는 단점이 존재한다.

한편, Maya et al.(2019)은 delayed Long Short-Term Memory(dLSTM)을 제안하여 멀티 모드 문제를 반영한 이상 탐지 모델을 제안했다. dLSTM은 LSTM의 중간 층의 가중치를 공유하면서 마지막 층에만 다중 모델을 설정하여, 예측 시점 직전에 가장 작은 예측 오류를 가진 모델을 선택한다.

본 논문에서는 이에 영감을 받아 LSTM-AE를 이용한 다중 학습 방법을 제안한다. 시계열 데이터의 예측 기반의 dLSTM과 달리, 제안 방법은 재구성 오류에 초점을 둔다. 즉, 제안방법은 인코더(encoder)와 디코더(decoder)가 LSTM 레이어로 구성되어 데이터의 시간 의존성을 고려한다. 또한, 디코더 마지막 레이어가 AE의 재구성 값과 입력값의 차이를 최소화하는 다중 레이어로 구성되어 있다. 이를 통해 재구성 시점 직전, 가장 작은 재구성 오류를 가진 모델을 선택할 수 있도록 한다. 재구성 오류에 대한 식은 다음 식 (1)과 같다.

재구성 오류는 재구성 값과 입력값의 차이로 정의된다. 식 (1)에서 f_θ는 인코더를 의미하며, g_θ는 디코더를 의미한다. 즉, 입력 값 x와 인코더와 디코더를 통과한 재구성 값 g_θ(f_θ(x))의 차이로 재구성 오류가 정의되는 것이다. 본 논문에서는 이러한 특성을 이용하여 해당 입력값을 사용할 수 있을 때까지 재구성 값을 얻는 타이밍을 지연시킨다. 제안 방법은 재구성 오류가 가장 적은 모델을 선택하고, 역전파(backpropagation)를 이용하여 해당 모델의 매개변수만 업데이트한다. 따라서, 입력값에 보다 구체적인 모델을 생성할 수 있다.

제안방법은 크기 w 데이터를 순차적으로 재구성한다. 즉, <Figure 3>과 같이 시점 t + 1에서 t + w에 대한 입력값에서 재구성 값을 얻는 경우를 고려한다. 일반적으로 기존 모델들의 재구성 값은 배치(batch) 단위로 학습이 진행되기 때문에, 동일 배치에서 같은 크기인 w만큼 j + 1에서 j + n + 1 사이값으로 전부 재구성된다(Chauhan and Vig, 2015). 여기서 j는 재구성되는 값을 나타내며, n은 각 시점에서 재구성되는 값의 변동을 나타낸다. 이는 <Figure 3>의 녹색 원으로 표시된다.

Figure 3.

Example of Obtain Reconstructed Values

대조적으로, 제안 방법은 시점 t에서 크기 w 데이터들에 대해 회색 원으로 표시된 후보 값(candidate values)을 제공한다. 따라서, 해당 재구성 값을 얻은 시점에서 빨간색 원으로 표시된 입력값과의 차이가 가장 적은 값으로 재구성 값(파란색 원)을 결정한다. 즉, 제안 방법은 시점 i(t + 1 ≤ i ≤ t + w)에서 재구성된 값의 정보를 고려하여 값을 순차적으로 재구성한다. 따라서 기존의 방법에서 입력값의 정보를 전부 포함하지 않는 것과는 달리, 제안 방법은 재구성 값을 결정할 때 입력값의 정보가 포함되는 것이다.

제안 방법은 <Figure 4>와 같이 디코더 부분에 다중 레이어를 사용하며, 다중 레이어의 수를 N으로 표시한다. 시점 t + 1에서 t + w에 대한 입력 및 재구성 값을 $$ X_{t+1:t+w},Y_{t+1:t+w}\in R^w$$로 정의하고 f_n을 N번째 재구성 모델이라 하면, 해당 모델의 재구성 값은 식 (2)와 같이 표현된다.

Figure 4.

Overview of Reconstruction-based Anomaly Detection for the Proposed Method

식 (2)에서 $$ Y_{t+1:t+w}^n$$는 각 시점에서의 재구성된 값의 집합 $$ \left[y_{t+1}^n,\cdots ,y_{t+w}^n\right]$$를 의미하며, n ∈ {1, 2, ..., N}이다.

본 논문에서는 재구성 값을 구하는 모델에 대해 LSTM 기반 AE를 사용한다. 딥러닝(deep learning) 모델을 사용하기 때문에 복잡한 입출력 관계를 포착할 수 있다는 장점이 존재한다. 따라서, 제안 방법은 LSTM 기반 AE를 통해 특정 시점 i에서 재구성 값의 후보($$ y_i^n$$) 중 가장 작은 재구성 오류를 갖는 재구성 값(y_i)을 결정한다.

$$ X_{t+1:t+w}$$는 각 시점에서의 입력값의 집합 $$ \left[x_{t+1},\cdots ,x_{t+w}\right]$$를 의미하므로, 특정 시점 i에서 최종 재구성 값은 식 (3)과 같이 계산된다.

제안 방법은 최적의 재구성 값 $$ Y_{t+1:t+w}^{n^{\mathrm{*}}}$$를 얻기 위해 시점 t + 1에서 t + w까지 동일 절차를 반복한다. 이를 통해 재구성 오류가 가장 작은 모델을 선택하고 역전파를 이용하여 해당 모델의 매개변수만 업데이트하여 재구성 오류가 감소하도록 한다. 그 결과, 입력값에 보다 구체적인 모델을 생성할 수 있다.

본 논문에서 고려하는 멀티 모드 상황의 데이터는 하나의 데이터가 동일한 입력값에 대해 다양한 출력값을 보이는 경우를 의미한다. 제안 방법은 모든 시점에 대해 재구성 오류가 작은 값을 사용하기 때문에 기존 방법보다 데이터에 구체적인 모델을 구축할 수 있다. 따라서, 복잡한 시계열 데이터에 대해 정교한 이상 탐지가 가능하다.

3.2 건강 지표 계산

시계열 데이터는 종종 노이즈의 영향을 받는다. 본 논문에서는 재구성 오류를 기반으로 노이즈의 영향에 강건한(robustness) 이상 점수를 도출하기 위해 특정 필터를 사용한다. 크기 w 데이터에 대해 중간값 필터(median filter) 유형의 LPF를 사용한다. 시점 t에서 이상 점수는 다음 식 (4)와 같이 도출된다.

모델의 대부분의 매개변수는 훈련 데이터 세트의 정상 데이터에서 학습된다. 따라서 S(t)는 테스트 데이터 세트의 비정상 데이터에 대해서도 정상 상태로부터 데이터의 편차를 측정한다. 초 매개변수(hyperparameter) w는 데이터에 따라 사용자가 설정하는 값이다. 큰 크기의 w는 노이즈 영향을 제거하기 때문에 성능이 안정화된다. 그러나 작은 크기 w는 시계열 데이터에 대한 이상 징후를 보다 신속하게 감지할 수 있다는 장점이 존재한다.

일반적으로 제조 공정에서는 두 가지 오류, 정상을 비정상으로 잘못 분류하는 거짓 양성(false positive, FP)과 비정상을 정상으로 잘못 분류하는 거짓 음성(false negative, FN)이 존재한다. 제조 공정 상황을 고려하면 FP가 FN보다 더 문제가 될 가능성이 높다. 오탐(false alarm)이 자주 발생하게 되면, 이를 처리하기 위한 인력 수요가 증가한다. 이러한 문제상황은, 실제 이상이 발생했을 때 처리할 여력이 없는 경우가 발생할 수 있다. 따라서, 본 논문에서는 적절한 크기의 w를 실험적으로 설정하였다.

4.1 데이터 전처리

일반적으로 정상 데이터에도 이상치가 포함되는 경우가 존재한다. 단순히 정상 데이터를 나누고, 이에 대한 모델을 구축하면 일반화 성능이 저하될 수 있다. 따라서, 본 논문에서는 훈련 데이터 세트에서 이상치를 제거하여 일반화 성능을 향상시켰다.

훈련 데이터 세트의 평균과 표준편차를 각각 μ와 σ로 표현하면, 시점 t의 값이 다음 식 (5)를 만족하지 않을 때 이상치로 간주한다.

이상치로 간주된 데이터 포인트들은 일반화 성능을 위해 제거하였다.

4.2 실험 설계

본 논문에서 사용한 데이터 셋은 해외 제조회사의 배관 평가 데이터이다. 데이터는 압력, 하중, 펌프 온도, 보조난방, 음향 유발 진동의 총 5개 변수로 이루어져 있으며, 데이터의 형태는 <Figure 5>와 같다. 데이터의 전체 타임스탬프(timestamp)의 길이는 2,600이다.

Figure 5.

Assessment Data of Machinery

데이터의 보안상 x축과 y축에 대한 자세한 범주 정보는 표기하지 않았으며, <Figure 5>를 통해 데이터가 멀티 모드 상황을 갖는 것을 확인할 수 있다.

제조 공정에서 일반적으로 사용되는 스케일링(scaling) 방법으로 Z-normalization을 사용하였으며, 최적화 함수로는 ReLU를 사용하였다. 또한 역전파 방법에는 Adam(Kingma and Ba, 2014)을 사용하였으며, 재구성 오류를 구하기 위한 손실 함수(loss function)로 식 (6)과 같이 mean absolute error (MAE)를 사용하였다.

식 (6)에서 x_i는 실제 값이고 $$ y_i^{n^{\mathrm{*}}}$$는 재구성 값을 의미한다. 즉, 식 (6)은 실제 값과 재구성 값의 차이의 합에 대해 전체 개수 n으로 나눈 값으로, 오류 크기의 평균을 의미한다. MAE는 오류의 차이를 직관적으로 판단할 수 있다는 장점이 있기 때문에, 본 논문에서 이를 손실 함수로 사용한다.

훈련 데이터 세트와 테스트 데이터 세트의 비율을 4:6으로 나누었다. 훈련 데이터 세트는 본 논문에서 사용된 데이터의 완전한 정상 상태만을 포함하기 위해 전체 데이터 길이의 40%로 설정하였다. 또한, 이상 탐지의 특정 기준인 임계값(threshold)를 결정하기 위해, 테스트 데이터 세트에서 앞 시점 일부분을 검증 데이트 세트(validation dataset)로 사용하였다. 따라서 훈련 데이터 세트와 검증 데이터 세트, 그리고 테스트 데이터 세트의 비율은 4:1:5이다.

훈련 데이터 세트로 모델을 학습하고 검증 데이터 세트를 통해 모델의 과적합을 판별하였다. 반복적인 실험을 통해 모든 모델의 Epoch는 100으로, w의 크기는 15로 임의 설정하였다.

4.3 모델 간 성능 비교

본 논문에서 모델의 성능을 평가하기 위해, 두 가지 모델과 비교하였다. 우선, 단일 재구성 모델과 비교하기 위해 일반적인 Vanilla LSTM-AE를 선정하였으며, 다중 재구성 모델로는 Vanilla LSTM-AE가 여러 개 사용된 Ensemble LSTM-AE를 선정하여 비교하였다. 제안 방법 디코더 부분의 다중 레이어의 수 N은 5로 설정하였으며, Ensemble LSTM-AE도 동일하게 Vanilla LSTM-AE가 5개로 이루어진 앙상블(ensemble) 결과로 모델을 구성하였다.

Ensemble LSTM-AE는 Vanilla LSTM-AE에 대한 앙상블 결과로 구성되어 있기 때문에, Vanilla LSTM-AE와 학습 구조 및 매개변수가 동일하다. 따라서, 모델의 손실 함수도 동일하다고 볼 수 있다. 본 논문에서 임계값 설정을 위해 고려해야 할 손실 함수의 분포는 <Figure 6>과 같이 두 가지로 구성된다.

Figure 6.

MAE Loss Distribution

<Figure 6>의 (a)는 제안 방법에 대한 MAE 손실 함수의 분포를 나타낸다. <Figure 6>의 (b)는 Vanilla LSTM-AE에 대한 MAE 손실 함수의 분포를 나타낸다. 손실 함수 분포에 대해 99.9% 분위수(quantile) 값을 기준으로 임계값을 설정하였으며, 각각 0.12와 0.14의 값을 갖는 것을 확인 가능하다.

임계값을 기준으로 각 모델의 테스트 데이터 세트에 대한 이상 점수 시각화 성능 비교 결과는 <Figure 7>과 같다.

Figure 7.

Experimental Results for Anomaly Score

제안 방법은 노이즈 영향을 완화하기 위해 재구성 값에 대해 LPF를 적용한 뒤 점수를 계산한다. <Figure 7> (a), (b)는 제안 방법의 시각화 결과를 나타낸다. 재구성 오류가 가장 적은 모델을 선택하기 때문에, 다른 방법 대비 안정적인 이상 점수를 보인다. 특히, LPF 적용 유무에 따라 노이즈 완화 효과를 확인 가능하다. 하지만 <Figure 7> (c)의 Vanilla LSTM-AE의 경우, 이상 점수가 안정적으로 학습되지 못한 것을 확인 가능하다. 또한 <Figure 7> (d)의 Ensemble LSTM-AE는 어느정도 안정적으로 학습이 되었으나, 제안 방법에 비해서는 느린 탐지를 보이는 것을 확인 가능하다.

본 논문에서는 실제 이상 시점 이후 기계가 교체되기 전까지의 모든 시점에 대해 비정상 상태라고 가정하였다. <Figure 7>에서 초록색으로 표시되는 부분이 실제 이상을 나타내며, 노란색 부분은 각 모델 별 이상을 나타낸다. 이상 점수의 정량적 성능은 식 (7)과 같이 실제 이상 대비 모델 이상의 비율로 측정하였다.

<Figure 7> (a), (b), (c), 그리고 (d)의 이상 비율(anomaly ratio)은 각각 0.67, 0.61 0.35, 그리고 0.53의 값을 갖는다. 간단한 가정을 전제로 단순 이상의 비율로 측정하였기 때문에, 전체적인 이상 비율은 낮은 것을 알 수 있다. 하지만, 제안 방법이 다른 모델 대비 학습의 안정성이 뛰어난 것으로 확인 가능하다.

제안 방법은 모델 학습 시 가장 적은 재구성 값을 얻을 때까지 모델 선택을 연기해 정교한 HI를 구축한다. 제안 방법과, Vanilla LSTM-AE, 그리고 Ensemble LSTM-AE에 대한 학습 안정성 및 성능을 파악하기 위해 특정 시점 구간에 대한 MAE 값을 비교한 결과는 <Table 1>과 같다. 특정 시점 구간으로 본 논문에서 사용된 배치의 크기인 w만큼 MAE 값을 비교하였다. 본 논문에서는 w의 크기를 편의상 15로 설정하였기에 15개 시점을 기준으로 결과를 비교하였다.

Table 1.

Performance Comparison for 15 Time Points

Ensemble LSTM-AE도 우수한 학습 안정성 및 성능을 보이는 것을 확인 가능하지만, 제안 방법이 안정적으로 높은 성능을 보이는 것을 알 수 있다. 제안 방법이 각 시점 별 후보 값들 중 가장 적은 재구성 오류를 가지는 값을 선택하기 때문에 안정적인 학습이 가능한 것이다.

Vanilla LSTM-AE와 Ensemble LSTM-AE의 경우 15개의 시점이 한 번에 재구성되지만, 제안 방법은 모델에서 각 시점 별 후보 값들 중 가장 적은 재구성 오류를 가지는 값을 선택한다. 제안 방법이 최적의 모델을 선택하는 과정에 대한 MAE 값의 비교는 <Table 2>와 같다.

Table 2.

MAE Candidate Values by Model of Our Method

<Table 2>는 제안 방법에 사용된 5개의 모델들의 15시점에 대한 후보 값을 나타낸다. 각 모델 별 볼드(bold) 표시는 각 시점 별 가장 적은 MAE 값을 나타내며, 표의 마지막 열은 시점 별 가장 적은 MAE 값으로 구성된 것을 확인 가능하다. Ensemble LSTM-AE와 비슷한 방법으로 학습이 수행되지만, 특정 시점 구간의 재구성 값을 전부 고려한다는 점에서 제안 방법과의 차이가 존재한다.