失控事件频发，AI发展需要减速吗 - 中国科技网

Кратко: ç§ææ¥æ¥è®°è è¡å®å¤ æ¥åï¼ç¾å½äººå·¥æºè½ï¼AIï¼ä¼ä¸OpenAI宣å¸ï¼ç±äºæºè½ä½å©ç¨æ¼æ´ç»è¿ç½ç»éå¶ï¼å¹¶è®¿é®äºå¤é¨è天æºå¨äººï¼è¯¥å ¬å¸å·²æåè®ç»ææ°AI模åãåæ¥ï¼OpenAIè¯å®ä»å¹´å¤å¤©æ¾åçAI失æ§äºä»¶ï¼å¤ä¸ªç¾å½æ¿åºç½ç«å æ¤åå°å¹²æ°ã æè¿ï¼ä¸å°ç¾å½ç§æä¸å®¶å¼å§å¼åAIä¼ä¸æ¾ç¼æ¨¡åå¼åï¼ä»¥å 强对æºè½ä½å¤±æ§é£é©çå®å ¨é²æ¤ãæ¯å°Â·çè¨çè³è¦å说ï¼AIå¯è½å¼å导è´å亿人æ»äº¡çäºä»¶ãAIåå±ççéè¦åéæ¥ä¿è¯å®å ¨åï¼ ç¾å½æ¿åºç½ç«çéæ»å» æ ¹æ®OpenAIåå¸çäºä»¶æ¥åï¼å¯¼è´å ¶æå模åè®ç»çç´æ¥å¯¼ç«ç´¢æ¯åçå¨9æ20æ¥çä¸èµ·AI失æ§äºä»¶ã å½æ¶ï¼å®çä¸æ¬¾æºè½ä½è¢«è¦æ±å¯»æ¾ä¸ç¯å客æç« çä½è ï¼ä½å ¶ä½¿ç¨çæç´¢å·¥å ·ä¸æ æè·ãäºæ¯ï¼æºè½ä½è¯å¾è®¿é®è°·æãå¿ åºçæç´¢å¼æï¼ä½é½è¢«æç»ãæç»ï¼æºè½ä½åç°äºè®ç»âæ²çâçæ¼æ´ï¼æåè¿æ¥å°ç¬¬ä¸æ¹è天æºå¨äººãOpenAIç§°å ¶çæ§ç³»ç»å¨äºä»¶åç12åéå ååºæé«ç级è¦æ¥ï¼äººå·¥å®¡æ¥å¢éå¨3åéåä»å ¥ï¼å¹¶å¨2.5å°æ¶åç»æ¢äºè¯¥è®ç»ä»»å¡ã ä¸è¿ï¼çç¸å¯è½æ¯è¿æ´å¤æãæ®ã纽约æ¶æ¥ãæ´å¼AIç ç©¶å ¬å¸Transluceçææ°åç°ç§°ï¼ä»å¹´å¤å¤©ï¼OpenAIçæºè½ä½æ¾è¯å¾å ¥ä¾µç¾å½æè²é¨ç½ç«ï¼ä½æ²¡ææåãOpenAIæºè½ä½è¿å©ç¨ä»ç½ä¸æ¾å°çç»å½åè¯ï¼å¨é¶å±ç¾å½åå¡é¨çä¸ä¸ªç½ç«ä¸è·åäºä¸äºæ°æ®ãåæ¶ï¼OpenAIæºè½ä½è¿è·åäºé¨åç¾å½è¯å¸äº¤æå§åä¼ï¼SECï¼ç½ç«çå ¬å¼æ°æ®ã æ¤å¤ï¼Transluceç§°å ¶è¿åç°äºä¸äºé对ç¾å½å¸æ³é¨åå¤ä¸ªå·æ¿åºç½ç«çæ¶ææ´»å¨ï¼ä½å ¶ä¸æäºæ´»å¨æ æ³æç¡®å½å äºOpenAIã OpenAIè¯å®äºæ¶åç¾å½åå¡é¨åè¯å¸äº¤æå§åä¼çäºä»¶ï¼å¹¶è¡¨ç¤ºæ£å¨ä¸ç¾å½æè²é¨å ±åå¼å±è°æ¥ãè¯¥å ¬å¸ç§°å·²éç¥æ°å家æ¿åºã大å¦çæºæï¼å ¶AI模åå¨è®ç»åè¯ä¼°æé´çäºèç½æ´»å¨å¯è½ç»è¿äºæºæçç½ç«å¸¦æ¥äºè´é¢å½±åã ä¸ç对åå±é度æè§ä¸ä¸ è¿æ¯OpenAIä¸ä¸ªæå 第äºæ¬¡æå模åè®ç»ã第ä¸æ¬¡æ¯å¨7æ份ï¼å½æ¶å ¶å¤±æ§æºè½ä½æ»å»äºäººå·¥æºè½ååå ¬å¸Hugging Faceãä»å¹´9æï¼ç¾å½å¦ä¸å®¶AI巨头Anthropicå ¬å¸ä¹å å ¶æ¨¡åå¨ç½ç»å®å ¨æµè¯ä¸åçå ¥ä¾µç¬¬ä¸æ¹ç³»ç»çå®å ¨äºä»¶ï¼æåé¨åè®ç»æ´»å¨æ°å¨ã ä»å¹´å¤å¤©ä»¥æ¥ï¼ç¾å½ç§æçé¢ç¹ååºä¸ºäºå®å ¨åæ ¢AIç åé度ç声é³ãä½æ¯ï¼è¿äºè¦å主è¦é对AIâèªææ¹è¿âæç»å®ç°çâè¶ çº§æºè½âã7æï¼è¶ 1000åå沿AIå®éªå®¤åå·¥èååå¸å ¬å¼ä¿¡ï¼è¦åâèªå¨åâAIç 究çé£é©ï¼å¼åç¾å½æ¿åºæ§å¶èªå¨åAIå¼åçå沿é度ã9æï¼Anthropicå ¬å¸é¦å¸æ§è¡å®è¾¾é奥·é¿è«è¿ªåå¸é¿æï¼ç§°âèªææ¹è¿â带æ¥çAIå éå¯è½é æç¾é¾æ§å½±åï¼å¼åä¼ä¸åè°æ¾ç¼AIç åçé度ï¼ä¸ºæåAIçå®å ¨æ§äºåæ¶é´ãé¿è«è¿ªçè§ç¹å¾å°äºxAIåå§äººé©¬æ¯å ã诺å¥å¾ä¸»å¾·ç±³æ¯Â·åè¨æ¯æ¯ãOpenAIåå§äººè¨å§Â·å¥¥å°ç¹æ¼ç人çæ¯æã åæï¼Anthropicå ¬å¸ç 究åé åå¸Â·èå æ£®å ¬å¼å®£å¸è¾èï¼è¦åAIå¯è½å¨10å¹´å ææ»ææ人ãè¯¥å ¬å¸â对é½ç§å¦è´è´£äººâåæ·ä¼å®¾æ ¼æ¯æè¿ä¸è§ç¹ï¼å¹¶è¯´è¿ä¸å¯è½æ§è¶ è¿10%ãä½æ¯ï¼ä¼å®¾æ ¼å¼ºè°ï¼å½å模åçé£é©ä»ç¶è¾ä½ï¼çæ£ä»¤äººæ å¿çæ¯âèªææ¹è¿â产ççè¶ çº§æºè½ã ä¸è¿ï¼å¹¶éææä¸ç人士é½è®¤åAIåå±éè¦åéã9æä¸æ¬ï¼è±ä¼è¾¾CEOé»ä»åå¨åå æ´»å¨æ¶ç§°ï¼å¨å®å ¨åé度ä¹é´ä½åºéæ©æ¯â伪å½é¢âï¼ä¸¤è å®å ¨å¯ä»¥å ¼å¾ãå ä¹åæ¶ï¼Google Brain项ç®åå§äººå´æ©è¾¾ä¹å¯¹åªä½è¡¨ç¤ºï¼AI导è´äººç±»çç»ç说æ³æ´åç§å¹»å°è¯´èéç§å¦ï¼AIè¡ä¸ä¸ºäºååç¼çåå½±åç管æ¿çèç ½å¨è¿ç§è¨è®ºãç¾å½èå计ç®æºç§å¦å®¶Yann LeCunåå¨ç¤¾äº¤åªä½ä¸è°ä¾é¿è«è¿ªè¯´ï¼âè¾¾é奥æ©å¨2019年就声称GPT-2太å±é©ãâ æ¯å¦æ¥éç管ä»å¾ 讨论 ä»å¹´7æï¼å沿å®éªå®¤åå·¥çå ¬å¼ä¿¡ä¹çªåºäºæ¿åºâæ²»çå·¥å ·âå¨é²èAI失æ§ä¸çä½ç¨ãé¿è«è¿ªä¹å¨é¿æä¸å»ºè®®ï¼æ¯å®¶å沿AIå ¬å¸é½åºè®¾ç«ç¬¬ä¸æ¹è¯ä¼°å¢éï¼æ£éªå ¬å¸æ¯å¦éµå¾ªå®å ¨è§èï¼åå©è¯ä¼°æ¨¡åçå®å ¨æ§çï¼èæ¨è¿è¿ä¸æªæ½æææçæ¹å¼å°±æ¯ç管ãä»å¼åææå沿å®éªå®¤é½åºä¸æ¿åºåä½ï¼å®æ½æ¨å¨å¹³è¡¡AIè½åä¸å®å ¨æ§çç管æªæ½ã ç¶èï¼ä¸é¿è«è¿ªç¸åï¼é»ä»åæç¡®å对设ç«æ°çç管è§å®ï¼ä¸»å¼ åºæ主导æ交ç»å¸åºåä¼ä¸ãç¾å½æ»ç»ç§æ顾é®å§åä¼ä¸»å¸å¤§å«Â·è¨å æ¯ä¹è®¤ä¸ºï¼AIå®å ¨ç责任å¨äºå¼åè ï¼èä¸æ¯ç管æºæãä»å¨ç¤¾äº¤åªä½ä¸è¡¨ç¤ºï¼å¦ææ个模åå®æ½äºä¸æ¬¡æç ´åæ§çç½ç»æ»å»ï¼ä¼ä¸å°é¢ä¸´å·¨å¤§ç责任é£é©ãå´æ©è¾¾åä¸ç´æ 忧ï¼å¤§åå ¬å¸å©ç¨äººä»¬çâææ§å¿çâæ¥å¶å®è§åï¼ä»èé»æ¢æ°è¿å ¥è çåå±ã äºå®ä¸ï¼é¤äºç§æçï¼ç¾å½æç¥çå¨AIåå±æ¯å¦æ¥éç管çé®é¢ä¸ä¹æåæ§ãä»å¹´8æï¼ç¾å½è¿æ¥ç 究æåå¸çæ¥å认为ï¼âèªå¨åâAIç åå°å¸¦æ¥å¤å¤§çè½åæååæ½å¨é£é©å°ä¸æç¡®ï¼ä»»ä½åç¼AIåå±é度çå³å®é½ä¸åºèçä½åºï¼ç¾å½è¿æåºé¿å 建ç«å¯è½è¢«æ»¥ç¨çç管æºå¶ã9æï¼ç¾å½å¤äº¤å ³ç³»å§åä¼AIé«çº§ç 究åé®è£åå¨æç« ä¸è¡¨ç¤ºï¼çæ£çå®å ¨éè¦å¯æ§è¡æ ååç¬ç«çç£ï¼å»ºè®®ç¾å½å½ä¼ææ设ç«AIè¡ä¸èªæçç£ç»ç»ã æ»ä¹ï¼å¨AIåå±ä¹è·¯ä¸ï¼å¿½è§å®å ¨æè è¿åº¦å ³æ³¨å®å ¨ä¼¼ä¹é½ä¸å¯åãAIå¦ä½æè½å®å ¨åå±ï¼éè¦è°¨æ å°æ¢ç´¢ä¸è®¨è®ºã