基于虚拟测量建模与可解释人工智能的不平衡鲁棒预测性维护 - 生物通
High confidence: full text extraction produced 5926 characters.
¡¶Scientific Reports¡·£ºImbalance-robust predictive maintenance using deep learning with virtual measurement modeling and explainable AI
±à¼ÍƼö£º
¡¡¡¡Ô¤²âÐÔά»¤ÒѳÉΪÖÇÄܹ¤ÒµÏµÍ³µÄ¹Ø¼üÍƶ¯Á¦£¬µ«ÆäÓÐЧÐÔ³£ÊÜÏÞÓÚ²âÁ¿²»È·¶¨ÐÔ¡¢Ôʼ´«¸ÐÆ÷ÐźŵÄȱʧÒÔ¼°Õý³£Ê¼þÓë¹ÊÕÏʼþÖ®¼äµÄÑÏÖØÀà±ð²»Æ½ºâ¡£±¾Ñо¿Ìá³öÁËÒ»ÖÖ¿¼ÂDzâÁ¿µÄÔ¤²âÐÔά»¤¿ò¼Ü£¬ÀûÓÃÔËÐбäÁ¿×÷ΪÐéÄâ²âÁ¿´úÀí£¬´Ó¶øÔÚÎÞÐèÔʼ´«¸ÐÆ÷ÐźŵÄÇé¿öÏÂʵÏÖÃæÏò²âÁ¿µÄ·ÖÎö
¡¡¡¡
Ô¤²âÐÔά»¤ÒѳÉΪÖÇÄܹ¤ÒµÏµÍ³µÄ¹Ø¼üÍƶ¯Á¦£¬µ«ÆäÓÐЧÐÔ³£ÊÜÏÞÓÚ²âÁ¿²»È·¶¨ÐÔ¡¢Ôʼ´«¸ÐÆ÷ÐźŵÄȱʧÒÔ¼°Õý³£Ê¼þÓë¹ÊÕÏʼþÖ®¼äµÄÑÏÖØÀà±ð²»Æ½ºâ¡£±¾Ñо¿Ìá³öÁËÒ»ÖÖ¿¼ÂDzâÁ¿µÄÔ¤²âÐÔά»¤¿ò¼Ü£¬ÀûÓÃÔËÐбäÁ¿×÷ΪÐéÄâ²âÁ¿´úÀí£¬´Ó¶øÔÚÎÞÐèÔʼ´«¸ÐÆ÷ÐźŵÄÇé¿öÏÂʵÏÖÃæÏò²âÁ¿µÄ·ÖÎö¡£Ê¹ÓÃAI4I 2020Ô¤²âÐÔά»¤Êý¾Ý¼¯£¬¸Ã¿ò¼Ü¼¯³ÉÁËÒ»ÖÖ»ìºÏ²»Æ½ºâ´¦Àí²ßÂÔ£¬½áºÏÁ˺ϳÉÉÙÊý¹ý²ÉÑù¼¼Êõ£¨SMOTE£©ºÍ´ú¼ÛÃô¸Ðѧϰ£¬ÒÔÔڸ߶Ȳ»Æ½ºâÌõ¼þÏÂÌáÉý¹ÊÕϼì²âÐÔÄÜ¡£ÊµÑé½á¹û±íÃ÷£¬ËùÌá³öµÄ»ìºÏ¿ò¼ÜÔÚÐÔÄÜÉϳÖÐøÓÅÓÚ»ùÏß¡¢½öSMOTEÅäÖúͽö´ú¼ÛÃô¸ÐÅäÖá£ÔÚÆÀ¹ÀµÄ·ÖÀàÆ÷ÖУ¬LightGBMÈ¡µÃÁË×î¼ÑÕûÌåÐÔÄÜ£¬F1µÃ·ÖΪ0.9043£¬Æä´ÎÊÇÉî¶ÈÉñ¾ÍøÂ磨DNN£©£¨0.8708£©ºÍXGBoost£¨0.8680£©¡£»ùÓÚSHAPµÄ¿É½âÊÍÐÔ·ÖÎö½«µ¶¾ßÄ¥ËðºÍŤ¾ØÈ·¶¨Îª»úÆ÷¹ÊÕÏ×î¾ßÓ°ÏìÁ¦µÄÔ¤²âÒò×Ó¡£Í¬Ê±£¬ÔÚÄ£Äâ¸ß˹²âÁ¿ÔëÉùϵij°ôÐÔʵÑé±íÃ÷£¬¸Ã¿ò¼ÜÔÚµÍÔëÉùºÍÖÐÔëÉùˮƽϾù±íÏÖÎȶ¨¡£ÏûÈÚÑо¿½øÒ»²½Ö¤ÊµÁËSMOTEÓë´ú¼ÛÃô¸ÐѧϰµÄ»¥²¹¹±Ïס£×ÜÌå¶øÑÔ£¬ËùÌá³öµÄ¿ò¼ÜΪ»ùÓÚAI4I 2020»ù×¼Êý¾Ý¼¯µÄÔ¤²âÐÔά»¤ÌṩÁËÒ»ÖÖÓÐЧÇҿɽâÊ͵ķ½·¨£¬µ«ÔÚʵ¼Ê²¿ÊðÇ°ÈÔÐèʹÓÃÕæʵ¹¤ÒµÊý¾Ý¼¯½øÐнøÒ»²½ÑéÖ¤¡£
Ò»¡¢Ñо¿±³¾°ÓëÏÖ´æÎÊÌâ
ÏÖ´úÖÇÄÜÖÆÔìϵͳµÄ·¢Õ¹Ê¹Ô¤²âÐÔά»¤³ÉΪ¹¤ÒµÊµ¼ùµÄºËÐÄ¡£Ïà½ÏÓÚʺó¾ÀÕýÐÔά»¤ºÍ»ùÓÚʱ¼äµÄÔ¤·ÀÐÔά»¤£¬Ô¤²âÐÔά»¤Ö¼ÔÚÌáÇ°Ô¤ÅÐÉ豸¹ÊÕÏ£¬´Ó¶ø¼õÉٷǼƻ®Í£»ú¡¢½µµÍά»¤³É±¾²¢Ìá¸ßϵͳ¿É¿¿ÐÔÓëÔËÐа²È«ÐÔ¡£È»¶ø£¬ÏÖÓÐÔ¤²âÐÔά»¤·½·¨ÃæÁÙÈý´óÌôÕ½£ºµÚÒ»£¬´ó¶àÊý·½·¨¼ÙÉè¿É¿¿µÄÔʼ´«¸ÐÆ÷ÐźſÉÖ±½Ó»ñÈ¡£¬µ«Êµ¼Ê¹¤Òµ³¡¾°ÖÐÍùÍùÖ»ÄÜ»ñµÃ¼ä½ÓµÄÔËÐбäÁ¿£¬È±·¦¶Ô²âÁ¿ÖÊÁ¿ºÍ²»È·¶¨ÐÔµÄÏÔʽ½¨Ä££»µÚ¶þ£¬¹¤ÒµÊý¾Ý¼¯ÖйÊÕÏʼþµÄÕ¼±È¼«µÍ£¬ÑÏÖصÄÀà±ð²»Æ½ºâµ¼ÖÂѧϰË㷨ƫÏò¶àÊýÀ࣬ʹµÃ¶ÔÏ¡Óе«¹Ø¼üµÄ¹ÊÕϼì²âЧ¹û²»¼Ñ£»µÚÈý£¬Ëæ×Å»úÆ÷ѧϰÓëÉî¶ÈѧϰģÐÍÈÕÒ渴ÔÓ£¬Ä£Ð͵Ä͸Ã÷ÐԺͿɽâÊÍÐÔ²»×㣬ά»¤¹¤³Ìʦ²»½öÐèҪ׼ȷµÄÔ¤²â½á¹û£¬»¹ÐèÒªÀí½âÔ¤²â±³ºóµÄÔÒò¡£
ΪӦ¶ÔÉÏÊöÌôÕ½£¬±¾Ñо¿Ìá³öÁËÒ»ÖÖ¿¼ÂDzâÁ¿µÄÔ¤²âÐÔά»¤¿ò¼Ü£¬¸Ã¿ò¼Ü¼¯³ÉÁËÐéÄâ²âÁ¿´úÀí½¨Ä£¡¢»ìºÏ²»Æ½ºâ´¦Àí²ßÂԺͿɽâÊÍÈ˹¤ÖÇÄÜ£¬Ö¼ÔÚÎÞÔʼ´«¸ÐÆ÷Ðźš¢¸ß¶È²»Æ½ºâÊý¾ÝÒÔ¼°Ðè¿É½âÊ;ö²ßµÄÏÖʵ¹¤ÒµÔ¼ÊøÏ£¬ÊµÏÖ¿É¿¿ÇÒ¿ÉÀí½âµÄ¹ÊÕÏÔ¤²â¡£
¶þ¡¢Ö÷Òª¼¼Êõ·½·¨
Ñо¿ÈËÔ±²ÉÓÃÁËÒÔϹؼü¼¼Êõ·½·¨£º
- 1.ÐéÄâ²âÁ¿´úÀí½¨Ä££º½«¿ÕÆøζȡ¢¹ý³Ìζȡ¢×ªËÙ¡¢Å¤¾ØºÍµ¶¾ßÄ¥ËðµÈÔËÐбäÁ¿ÊÓΪÐéÄâ²âÁ¿´úÀí£¬½¨Á¢¸ÅÄîÉϵIJâÁ¿Ä£ÐÍÒÔ½øÐÐÁéÃô¶È·ÖÎöºÍ¿É¿¿ÐÔÆÀ¹À¡£
- 2.»ìºÏ²»Æ½ºâ´¦Àí²ßÂÔ£º½áºÏÊý¾Ý²ãÃæµÄSMOTE¹ý²ÉÑùºÍËã·¨²ãÃæµÄ´ú¼ÛÃô¸Ðѧϰ¡£SMOTEͨ¹ýÔÚÉÙÊýÀàʵÀý¼°Æä×î½üÁÚÖ®¼äÏßÐÔ²åÖµÉú³ÉºÏ³ÉÑù±¾£»´ú¼ÛÃô¸ÐѧϰÔòÔÚËðʧº¯ÊýÖÐΪ¹ÊÕÏÀà·ÖÅä¸ü¸ßµÄȨÖØ£¬ÒԳͷ£Â©±¨¡£
- 3.Éî¶ÈѧϰÓë»úÆ÷ѧϰ·ÖÀàÆ÷£º¹¹½¨ÁËÒ»¸ö°üº¬4¸öÒþ²Ø²ã£¨Éñ¾ÔªÊý·Ö±ðΪ256¡¢128¡¢64¡¢32£©¡¢²ÉÓÃReLU¼¤»îº¯Êý¡¢Åú¹éÒ»»¯¡¢DropoutÕýÔò»¯£¨¶ªÆúÂÊΪ0.3£©µÄÉî¶ÈÉñ¾ÍøÂ磬²¢Ê¹ÓÃAdamÓÅ»¯Æ÷£¨³õʼѧϰÂÊ0.001£¬ÅúÁ¿´óС64£©ÑµÁ·¡£Í¬Ê±¶Ô±ÈÁËÂß¼»Ø¹é¡¢Ö§³ÖÏòÁ¿»ú¡¢Ëæ»úÉÁÖ¡¢ÌݶÈÌáÉý¡¢XGBoost¡¢LightGBM¡¢AdaBoostºÍ¾ö²ßÊ÷µÈ»ùÏßÄ£ÐÍ¡£
- 4.SHAP¿É½âÊÍÐÔ·ÖÎö£º»ùÓÚºÏ×÷²©ÞÄÂÛµÄSHAPÖµÁ¿»¯Ã¿¸öÊäÈëÌØÕ÷¶Ôµ¥¸öÔ¤²âºÍÕûÌåÄ£ÐÍÐÐΪµÄ¹±Ï×£¬Ìṩȫ¾ÖºÍ¾Ö²¿Á½Öֳ߶ȵĽâÊÍ¡£
- 5.³°ôÐÔÆÀ¹À£ºÍ¨¹ýÄ£Äâ¸ß˹²âÁ¿ÔëÉù²âÊÔ¿ò¼ÜÔÚ²»Í¬ÔëÉùˮƽϵÄÎȶ¨ÐÔ¡£
Èý¡¢Ñо¿½á¹û
1. »ùÏßÐÔÄÜ£¨SMOTE֮ǰ£©
ÔÚ²»Ó¦ÓÃÈκβ»Æ½ºâ´¦Àí·½·¨µÄÇé¿öÏ£¬ËùÓÐÄ£ÐÍÔÚÔʼ²»Æ½ºâÊý¾ÝÉϾù±íÏÖ³ö¸ß¾«È·Âʵ«µÍÕÙ»ØÂʵÄÌص㣬˵Ã÷Ä£ÐÍÆ«ÏòÓÚÔ¤²â¶àÊýÀࣨÕý³£ÔËÐУ©£¬µ¼Ö´óÁ¿¹ÊÕϱ»ÒÅ©¡£XGBoostÈ¡µÃ×î¸ßµÄ»ùÏßF1·ÖÊý£¨0.5374£©£¬¶øÉî¶ÈÉñ¾ÍøÂçµÄROC-AUC×î¸ß£¨0.9805£©µ«ÕÙ»ØÂʽöΪ0.3676£¬F1·ÖÊý½öΪ0.3207¡£Õâ±íÃ÷Ö±½ÓÔÚ²»Æ½ºâÊý¾ÝÉÏѵÁ·»áµ¼Ö±£Êصľö²ß±ß½ç¡£
2. SMOTE¶Ô·ÖÀàÐÔÄܵÄÓ°Ïì
Ó¦ÓÃSMOTEºó£¬¼¸ºõËùÓÐÄ£Ð͵ÄÕÙ»ØÂʾùÓÐÏÔÖøÌáÉý£¬±íÃ÷ºÏ³ÉÉÙÊýÀàÑù±¾°ïÖú·ÖÀàÆ÷ѧϰÁ˸ü¾ß´ú±íÐԵľö²ß±ß½ç¡£Ëæ»úÉÁÖÈ¡µÃ×î¸ßF1·ÖÊý£¨0.5909£©£¬XGBoost½ôËæÆäºó£¨0.5876£©¡£Éî¶ÈÉñ¾ÍøÂçµÄÕÙ»ØÂÊ´ïµ½0.9118£¬µ«¾«È·ÂÊϽµÖÁ0.2995£¬µ¼ÖÂF1·ÖÊýÊÜÏÞ£¨0.4509£©¡£»ìÏý¾ØÕóÏÔʾ£¬SMOTEÓÐЧ¼õÉÙÁ˼ÙÒõÐÔ£¬µ«Ôö¼ÓÁ˼ÙÑôÐÔ¡£
3. ´ú¼ÛÃô¸ÐѧϰµÄЧ¹û
´ú¼ÛÃô¸Ðѧϰͨ¹ýµ÷ÕûÎó·ÖÀà´ú¼Û¸ÄÉÆÁ˶à¸ö·ÖÀàÆ÷µÄÐÔÄÜ¡£XGBoostÈ¡µÃ×î¸ßF1·ÖÊý£¨0.7067£©£¬Æ½ºâÁ˾«È·ÂÊ£¨0.6463£©ºÍÕÙ»ØÂÊ£¨0.7794£©¡£LightGBMÈ¡µÃ×î¸ßÕÙ»ØÂÊ£¨0.8676£©£¬µ«¾«È·Âʽϵͣ¨0.5221£©¡£Ëæ»úÉÁÖ±£³ÖÁ˼«¸ßµÄ¾«È·ÂÊ£¨0.9412£©£¬µ«ÕÙ»ØÂʽöΪ0.4706£¬ÏÔʾ³ö±£ÊصķÖÀà²ßÂÔ¡£
4. »ìºÏ¿ò¼Ü£¨SMOTE + ´ú¼ÛÃô¸Ðѧϰ£©µÄЧ¹û
»ìºÏ¿ò¼ÜͬʱÔÚÊý¾ÝºÍËã·¨²ãÃæ´¦Àí²»Æ½ºâ£¬ÏÔÖøÌáÉýÁ˾«È·ÂʺÍÕÙ»ØÂʵÄƽºâ¡£LightGBMÈ¡µÃ×îÓÅÐÔÄÜ£¬F1·ÖÊý´ï0.9043£¬¾«È·ÂÊ0.9273£¬ÕÙ»ØÂÊ0.8824¡£XGBoostµÄF1·ÖÊýΪ0.8680£¬Éî¶ÈÉñ¾ÍøÂçµÄF1·ÖÊýΪ0.8708£¬ÕÙ»ØÂÊ×î¸ß£¨0.9118£©¡£Ëæ»úÉÁÖҲȡµÃÁ˾ºÕùÁ¦µÄF1·ÖÊý0.8199¡£¸Ã½á¹ûÖ¤Ã÷»ìºÏ²ßÂÔÓÅÓÚµ¥¶ÀʹÓÃÈκÎÒ»ÖÖ·½·¨¡£
5. SHAP¿É½âÊÍÐÔ·ÖÎö
SHAP·ÖÎö±íÃ÷£¬µ¶¾ßÄ¥ËðºÍŤ¾ØÊÇ×î¾ßÓ°ÏìÁ¦µÄÔ¤²âÒò×Ó£¬Æä´ÎΪתËÙ¡¢¿ÕÆøζȺ͹ý³Ìζȡ£»úÆ÷ÀàÐͱäÁ¿µÄÓ°ÏìÏà¶ÔÓÐÏÞ¡£¾Ö²¿½âÊÍʾÀýչʾÁ˵¥¸öÔËÐÐ״̬ϸ÷ÌØÕ÷µÄ¹±Ï×·½Ïò£¬ÔöÇ¿ÁËÔ¤²â¹ý³ÌµÄ͸Ã÷¶È¡£ÔÚËùÓв»Æ½ºâ´¦ÀíÅäÖÃÏ£¬ÌØÕ÷ÖØÒªÐÔÅÅÐò±£³ÖÒ»Ö£¬Çҹ̶¨Ëæ»úÖÖ×Ó±£Ö¤Á˽á¹ûµÄ¸´ÏÖÐÔ¡£
6. ÏûÈÚÑо¿Óë³°ôÐÔÆÀ¹À
ÏûÈÚÑо¿È·ÈÏÁËSMOTEºÍ´ú¼ÛÃô¸ÐѧϰµÄ»¥²¹¹±Ïס£ÔÚÄ£Äâ¸ß˹²âÁ¿ÔëÉùÏ£¬¿ò¼ÜÔÚµÍÔëÉùºÍÖÐÔëÉùˮƽϱ£³ÖÎȶ¨µÄÐÔÄܱíÏÖ¡£
ËÄ¡¢ÌÖÂÛÓë½áÂÛ
ÌÖÂÛ²¿·ÖÖ¸³ö£¬SHAP·ÖÎöʶ±ðµÄ¹Ø¼ü±äÁ¿£¨È絶¾ßÄ¥ËðºÍŤ¾Ø£©ÓëÒÑÖªµÄÎïÀíÍË»¯»úÖÆÒ»Ö£¬ÎªÎ¬»¤¾ö²ßÌṩÁ˿ɲÙ×÷µÄ¼û½â¡£ÀýÈ磬¸ßŤ¾Ø»ò¸ßµ¶¾ßÄ¥Ëð¹±Ï׿ÉÄÜԤʾÐèÒªÔ¤·ÀÐÔ¹¤¾ß¼ì²é»ò¸ü»»£¬¶øÒ쳣ζÈÏà¹Ø¹±Ï×ÔòÌáʾ¿ÉÄÜÐèÒªÀäȴϵͳ¼ì²é¡£Ñо¿»¹Ç¿µ÷Á˼ÙÒõÐԺͼÙÑôÐԵIJ»Í¬·çÏյȼ¶£ºÂ©±¨¿ÉÄܵ¼Ö·Ǽƻ®Í£»úºÍ¸ü¸ßά»¤³É±¾£¬¶øÎó±¨Ëä·çÏսϵ͵«»áÔì³É²»±ØÒªµÄά»¤²Ù×÷¡£
Ñо¿½áÂÛ×ܽáÈçÏ£º±¾Ñо¿Ìá³öÁËÒ»ÖÖ¿¼ÂDzâÁ¿µÄÔ¤²âÐÔά»¤¿ò¼Ü£¬Í¨¹ýÐéÄâ²âÁ¿´úÀí½¨Ä£¡¢»ìºÏ²»Æ½ºâ´¦Àí£¨SMOTE + ´ú¼ÛÃô¸Ðѧϰ£©ºÍSHAP¿É½âÊÍÐÔ·ÖÎö£¬ÔÚÎÞÔʼ´«¸ÐÆ÷Ðźŵĸ߶Ȳ»Æ½ºâÊý¾ÝÉÏʵÏÖÁËÓÐЧÇҿɽâÊ͵ĹÊÕÏÔ¤²â¡£ÔÚAI4I 2020Êý¾Ý¼¯ÉÏ£¬LightGBMÔÚ»ìºÏ¿ò¼ÜÏÂÈ¡µÃ×î¼ÑÐÔÄÜ£¨F1·ÖÊý0.9043£©¡£µ¶¾ßÄ¥ËðºÍŤ¾Ø±»Ê¶±ðΪ×î¹Ø¼üµÄÔ¤²âÒò×Ó¡£Â³°ôÐÔʵÑéÖ¤Ã÷ÁË¿ò¼ÜÔÚÖеÈÔëÉùˮƽϵÄÎȶ¨ÐÔ¡£¾¡¹Ü¸Ã¿ò¼ÜÔÚ»ù×¼Êý¾Ý¼¯ÉϱíÏÖÓÅÒ죬µ«ÔÚʵ¼Ê¹¤Òµ²¿ÊðÇ°ÈÔÐèʹÓÃÕæʵ¹¤ÒµÊý¾Ý½øÐнøÒ»²½ÑéÖ¤¡£Î´À´Ñо¿·½Ïò°üÀ¨À©Õ¹µ½¶àÀà¹ÊÕÏģʽ·ÖÀà¡¢²ÉÓ÷ֲ㽻²æÑéÖ¤ÒÔ»ñµÃ¸üÎȽ¡µÄÐÔÄܹÀ¼Æ£¬ÒÔ¼°ÔÚÕæʵ¹¤Òµ»·¾³ÖÐÑéÖ¤¿ò¼ÜµÄÓÐЧÐÔ¡£