# 人工智能决策系统如何防范数据投毒和泄密风险？ - 手机新浪网

*Источник: 手机新浪网*
*Дата: 2026-08-02*
*Язык: zh*

**Кратко:** ããä¸ãæºå¤´æ²»çï¼çç¢æ°æ®çº¯åç第ä¸éé²çº¿
ããä¸¥æ ¼æ°æ®å级ä¸å®¡æ¥ï¼ä¾æ®ãç½ç»å®å ¨æ³ããæ°æ®å®å ¨æ³ãçæ³è§ï¼å»ºç«AIæ°æ®åç±»å级ä¿æ¤å¶åº¦ï¼ä»æºå¤´ä¸æç»æ±¡ææ°æ®ç产çã
ãã强åæ°æ®æ¸ æ´ä¸å¯¹é½ï¼å¯¹è¯æåºè¿è¡æ·±åº¦æ¸ æ´ï¼åé¤èåä¿¡æ¯ãèæå 容ååè§æ§è§ç¹ãå½å®¶å®å ¨æºå ³å¼ºè°ï¼éä»âé£æâæºå¤´æå ³ï¼åä¿éé£åå®å ¨ä¸æ ·ç¡®ä¿è®ç»æ°æ®ççå®å¯é ã
ããå¼å ¥å¯¹æè®ç»ï¼å¨æ¨¡åè®ç»é¶æ®µæ¨¡ææ¶ææ°æ®æ»å»åºæ¯ï¼æåæ´é²å¹¶ä¿®å¤æ¼æ´ãç 究表æï¼ä» 0.01%çèåææ¬å°±è½å¯¼è´æ¨¡åæ害è¾åºå¢å 11.2%ï¼å æ¤ä»æºå¤´æå¶å¾®å°æ±¡æè³å ³éè¦ã
ãã
ããäºãå ¨çå½å¨æé²æ¤ï¼ç¡®ä¿æ°æ®æµè½¬æ æ»è§
ããæ建模ååæ²»çæ¡æ¶ï¼å¨æ°æ®çééãåå¨ãä¼ è¾ã使ç¨ã交æ¢åå¤ä»½å ¨ç¯èï¼å®æ½å¯çæµãå¯æ©å±çå®å ¨ç®¡æ§ï¼å®æä¾æ®æ³è§æ åæ¸ æ´åä¿®å¤å污æ°æ®ã
ãã建ç«å¯è¿½æº¯æºå¶ï¼AIè¿è¥è éä¸¥æ ¼æ ¸æ¥è¯ææ¥æºï¼å»ºç«ä»æ°æ®æåå°æ¨¡åè¾åºçå®æ´è¿½æº¯é¾æ¡ï¼ç¡®ä¿ä»»ä½å¼å¸¸è¾åºé½å¯ååå®ä½æ±¡ææºã
ããé²èéå½æ±¡æï¼é对å½åäºèç½ä¸AIçæå 容已è¿è¶ 人类ç产å 容çç°ç¶ï¼å»ºç«åºåâåçæ°æ®âä¸âäºæ¬¡çææ°æ®âçé离æºå¶ï¼é¿å 模åå âåèªå·±äº§çç²®é£âè导è´è®¤ç¥ææ²ã
ããä¸ã人æºååä¸åºæ¥ååºï¼å®ä½å³ççæç»é²çº¿
ããåæâ人主æºè¾ âååï¼å¨åäºå³ççé«å±åºæ¯ä¸ï¼AIä» ä½ä¸ºè¾ å©å·¥å ·æä¾åèæ¹æ¡ï¼æç»å³çæå§ç»ç±äººç±»ææ¡ãæ ¸å¿ååæ¯å°AIè§ä¸ºâè½å强ä½å¤æåä¸ç¨³å®çå©æâï¼èéç»å¯¹å¯é çä¸å®¶ã
ãã建ç«è¡ä¸ºè¿½æº¯åé£é©æ示æºå¶ï¼æç¡®AIå³çç³»ç»çæéåè¡ä¸ºè¾¹çï¼å½ç³»ç»æ£æµå°å¯çæ°æ®è¾å ¥æè¾åºå¼å¸¸æ¶ï¼èªå¨è§¦åé£é©é¢è¦å¹¶æåè¿è¡ã
ããæå»ºå ¨æ°åä¸ççç£ç½æ ¼ï¼å®æ对AIç³»ç»è¿è¡ååæµè¯åå®å ¨å®¡è®¡ï¼åæ¶æåæä½äººåçâæ°åç´ å »âââ对AIç»åºçä¿¡æ¯ä¿æé度æçï¼å½¢æ主å¨æ¥è¯å ³é®æ¥æºç使ç¨ä¹ æ¯ã
ãã
#è¦å®è¯´æ³# #å¼ è¦å®å享# ãé²å®ï¼å«
ãåç»AIç"æ¯æ°æ®"æå¤å¯æï¼#å½å®æº
ãåç»AIç"æ¯æ°æ®"æå¤å¯æï¼#å½å®æº
ã#è¦æAIæ°æ®ææ¯##å½å®¶å®å ¨é¨åå¸A
#AIææ¯é»äº§ææ被å¢å¤å¿åå©ç¨#ã#A
ã#AIå¦ä¼ä½¿åæ们æä¹å#ï¼ã#AIæ´
#æ¯æ¥ç§æ®#ã为ä»ä¹AIè¶è½å¹²å®å ¨é£é©å
ãè°æ¥è人工æºè½å¯è½å¤±æ§è¿å£âé âï¼ãå ¨
1.

ããä¸ãæºå¤´æ²»çï¼çç¢æ°æ®çº¯åç第ä¸éé²çº¿
ããä¸¥æ ¼æ°æ®å级ä¸å®¡æ¥ï¼ä¾æ®ãç½ç»å®å ¨æ³ããæ°æ®å®å ¨æ³ãçæ³è§ï¼å»ºç«AIæ°æ®åç±»å级ä¿æ¤å¶åº¦ï¼ä»æºå¤´ä¸æç»æ±¡ææ°æ®ç产çã
ãã强åæ°æ®æ¸ æ´ä¸å¯¹é½ï¼å¯¹è¯æåºè¿è¡æ·±åº¦æ¸ æ´ï¼åé¤èåä¿¡æ¯ãèæå 容ååè§æ§è§ç¹ãå½å®¶å®å ¨æºå ³å¼ºè°ï¼éä»âé£æâæºå¤´æå ³ï¼åä¿éé£åå®å ¨ä¸æ ·ç¡®ä¿è®ç»æ°æ®ççå®å¯é ã
ããå¼å ¥å¯¹æè®ç»ï¼å¨æ¨¡åè®ç»é¶æ®µæ¨¡ææ¶ææ°æ®æ»å»åºæ¯ï¼æåæ´é²å¹¶ä¿®å¤æ¼æ´ãç 究表æï¼ä» 0.01%çèåææ¬å°±è½å¯¼è´æ¨¡åæ害è¾åºå¢å 11.2%ï¼å æ¤ä»æºå¤´æå¶å¾®å°æ±¡æè³å ³éè¦ã
ãã
ããäºãå ¨çå½å¨æé²æ¤ï¼ç¡®ä¿æ°æ®æµè½¬æ æ»è§
ããæ建模ååæ²»çæ¡æ¶ï¼å¨æ°æ®çééãåå¨ãä¼ è¾ã使ç¨ã交æ¢åå¤ä»½å ¨ç¯èï¼å®æ½å¯çæµãå¯æ©å±çå®å ¨ç®¡æ§ï¼å®æä¾æ®æ³è§æ åæ¸ æ´åä¿®å¤å污æ°æ®ã
ãã建ç«å¯è¿½æº¯æºå¶ï¼AIè¿è¥è éä¸¥æ ¼æ ¸æ¥è¯ææ¥æºï¼å»ºç«ä»æ°æ®æåå°æ¨¡åè¾åºçå®æ´è¿½æº¯é¾æ¡ï¼ç¡®ä¿ä»»ä½å¼å¸¸è¾åºé½å¯ååå®ä½æ±¡ææºã
ããé²èéå½æ±¡æï¼é对å½åäºèç½ä¸AIçæå 容已è¿è¶ 人类ç产å 容çç°ç¶ï¼å»ºç«åºåâåçæ°æ®âä¸âäºæ¬¡çææ°æ®âçé离æºå¶ï¼é¿å 模åå âåèªå·±äº§çç²®é£âè导è´è®¤ç¥ææ²ã
ããä¸ã人æºååä¸åºæ¥ååºï¼å®ä½å³ççæç»é²çº¿
ããåæâ人主æºè¾ âååï¼å¨åäºå³ççé«å±åºæ¯ä¸ï¼AIä» ä½ä¸ºè¾ å©å·¥å ·æä¾åèæ¹æ¡ï¼æç»å³çæå§ç»ç±äººç±»ææ¡ãæ ¸å¿ååæ¯å°AIè§ä¸ºâè½å强ä½å¤æåä¸ç¨³å®çå©æâï¼èéç»å¯¹å¯é çä¸å®¶ã
ãã建ç«è¡ä¸ºè¿½æº¯åé£é©æ示æºå¶ï¼æç¡®AIå³çç³»ç»çæéåè¡ä¸ºè¾¹çï¼å½ç³»ç»æ£æµå°å¯çæ°æ®è¾å ¥æè¾åºå¼å¸¸æ¶ï¼èªå¨è§¦åé£é©é¢è¦å¹¶æåè¿è¡ã
ããæå»ºå ¨æ°åä¸ççç£ç½æ ¼ï¼å®æ对AIç³»ç»è¿è¡ååæµè¯åå®å ¨å®¡è®¡ï¼åæ¶æåæä½äººåçâæ°åç´ å »âââ对AIç»åºçä¿¡æ¯ä¿æé度æçï¼å½¢æ主å¨æ¥è¯å ³é®æ¥æºç使ç¨ä¹ æ¯ã
ãã
#è¦å®è¯´æ³# #å¼ è¦å®å享# ãé²å®ï¼å«
ãåç»AIç"æ¯æ°æ®"æå¤å¯æï¼#å½å®æº
ãåç»AIç"æ¯æ°æ®"æå¤å¯æï¼#å½å®æº
ã#è¦æAIæ°æ®ææ¯##å½å®¶å®å ¨é¨åå¸A
#AIææ¯é»äº§ææ被å¢å¤å¿åå©ç¨#ã#A
ã#AIå¦ä¼ä½¿åæ们æä¹å#ï¼ã#AIæ´
#æ¯æ¥ç§æ®#ã为ä»ä¹AIè¶è½å¹²å®å ¨é£é©å
ãè°æ¥è人工æºè½å¯è½å¤±æ§è¿å£âé âï¼ãå ¨
1. #è¦å®è¯´æ³# #å¼ è¦å®å享# ãé²å®ï¼å«
2. ãåç»AIç"æ¯æ°æ®"æå¤å¯æï¼#å½å®æº
3. ãåç»AIç"æ¯æ°æ®"æå¤å¯æï¼#å½å®æº
4. ã#è¦æAIæ°æ®ææ¯##å½å®¶å®å ¨é¨åå¸A
5. #AIææ¯é»äº§ææ被å¢å¤å¿åå©ç¨#ã#A
6. ã#AIå¦ä¼ä½¿åæ们æä¹å#ï¼ã#AIæ´
7. #æ¯æ¥ç§æ®#ã为ä»ä¹AIè¶è½å¹²å®å ¨é£é©å
8. ãè°æ¥è人工æºè½å¯è½å¤±æ§è¿å£âé âï¼ãå ¨
æ¬æç±AIçæ
æ°åªä½å®éªå®¤
举æ¥é®ç®±ï¼jubao@vip.sina.com

[Оригинал](https://k.sina.com.cn/article_7879995964_1d5af323c068014r9w.html?from=tech)