RUL论文阅读—— A Novel Evaluation Framework for Unsupervised Domain Adaption on Remaining Useful Lifetime

(https://github.com/tilman151/DomainAdaption_PHM2020)

### 一、 Introduction

由PMD（Predictive Maintenance） 提出 RUL

DNN（require large amount data 但是RUL问题失败数据少 data imbalence）传统有监督学习方法不行

提出无监督DA，介绍DA。对于RUL就是P（Xs）不等于P（Xt）也就是边缘分布不同，所以训练这个模型主要是bridge the difference of margibal feature distributions

_**扩充：**_ 迁移学习的几种分类方式  
![迁移学习的一种分类方式 https://www.jianshu.com/p/e4a293bb3614](https://ad.itadn.com/c/weblog/blog-img/images/2025-08-17/pLxHRZrlFdVW2Ugw3va5A9b6uGJn.png)  
![Reference A Survey on Transfer Learning](https://ad.itadn.com/c/weblog/blog-img/images/2025-08-17/PJ1ozfKXZjDFku4VqYt9cslHp5MW.png)

_对于DA，是满足两个条件 ：一、有标签的数据只能用在source domain 二、不同域（边缘分布不同）相同task（条件分布相同）  
在RUL中正好合适，  
对于第一点，由于RUL需要失败的数据，数据不平衡，也没有标签。但是有一个相关的有标签的数据集可以来利用，然后用这个数据集训练好的模型，给自己需要的target dataset  
对于第二点，不同工况不同机器不同可以看成是边缘分布不同，但是target是相同的都是进行预测RUL。_

DA apply on RUL 利用DNNs 和 unsupervised DA，针对Remaining useful lifetime prediction via deep domain adaptation文章进行分析 两个主要问题：一、系统数量有限 二、可收集的无标签的系统数量（接近失效的无标签系统）

解决这两个问题，提出新的评估框架，按照一些之前的文章标准，进行比较

剩下章节的介绍

### 二、Relation Work

##### RUL Estimation with DNNs

由DNN引出CNN/LSTM 由于数据是time series 介绍各类文章CNN/LSTM applied on RUL

##### Unsupervised Domain Adaption

DA method 基于参数 基于特征 基于数据 大多数用基于特征，TCA（Pan）/ GFK（Long）一个是基于MMD显式距离度量，一个是基于几何特征（对应迁移导论书中第六章和第七章）

DNN 的能力就是特征提取，所以利用DNN应用到Unsupervised DA 里面有两个方法，分别是moment matching and adversarial training

moment matching 是 利用metric 减少marginal distribution metric including MMD JAN joint JAN  
adversarial training 是 有一个域判别器进行对抗训练

##### DA for RUL Estimation

这方面工作少，主要针对 unsupervised DA 故障诊断和 supervsied DA for RUL  
最近Da Costa 证明了对抗方法在 LSTM on CMAPSS上的可行性

##### Evaluation Framework for RUL

pair source and target to form tasks  
metric 和其他的一样

### 三、Methods

##### Evaluation framework

两个影响DA表现的方面  
一个是target domian的数据数量 20% 40 60 80 100  
第二个是target domian 数据库下降程度 在数据failure 开始 保留20% 40 60 80 100  
提出三个问题 首先多少system和多少下降程度最好相对于无DA 第二个是负迁移  
有25个scenario 从最简单100 100 到 20 20%（few systems and no degradation）

##### DA Approach

选择JAN和DANN  
JAN loss CE+JMMD  
DANN loss CE+BCE  
几点改变：一、JAN变成 RMSE+JMMD  
二、JAN backbone change AlexNet to CNN（Li）1d-CNN+two FC  
三、not pre-train for backbone net

### 四、Experimental Setup

##### Data Preparation

介绍CMAPSS

12个task选8个

选14个sensors 、min-max scaling、 sliding window with one step to obtain frames of unified length in time demension with size 30、 pad zero if necessary 、piece-wise linear degradation model with maximum 125

##### Training Procedure

weight bias initialization、activation functions、loss RMSE、optimization ADam、epoch  
试验次数 实验环境

##### Evaluation Metric

RMSE and RUL-score

##### Hyperparameter Tuning

选择一个实验取得lamada DANN and JAN

### 五、Experimental Results

##### Influence of data Scenarios

对两种factor进行分析  
metric 值 图解释含义

##### Evaluation of Methods

哪个方法好？分析图

##### Discussion and Caveats

超参数确定  
scale 方法  
可能因为CMAPSS是模拟数据集（low varience among differnet systems），对于真实的数据集可能DA更好  
可以降低到20%以下

### 六、Conclusion

总结全文  
提出一种Unsurpervised DA for RUL。之前的scenario不必要，所有过高的评价  
我们框架考虑了两个因素：数量和下降程度，  
相比之前DA Costa的我们的优点 同时 unsupervised DA更适用于实际情况  
我们描述了unsupervised DA和我们的框架b比较方法

**Reference：**  
1.https://www.jianshu.com/p/e4a293bb3614  
2.S. J. Pan and Q. Yang, “A Survey on Transfer Learning,” in IEEE Transactions on Knowledge and Data Engineering, vol. 22, no. 10, pp. 1345-1359, Oct. 2010, doi: 10.1109/TKDE.2009.191.