Anthropic呼吁放慢先进AI模型开发 马斯克等业界大佬表示赞同 - 新浪财经

Кратко: ããAnthropicé¦å¸æ§è¡å®Dario Amodei表示ï¼äººå·¥æºè½è¡ä¸éè¦æ¾æ ¢æ°æ¨¡åçå¼åé度ï¼å¹¶æå°äººä»¬è¶æ¥è¶æ 忧人工æºè½ä¼ç»äººç±»å¸¦æ¥â严éâé£é©ã ããâæä»¬å¿ é¡»æ¾æ ¢æå人工æºè½æ¨¡åè½åçé度ï¼âä»å¨å å¨ä¸ç¯å客æç« ä¸åéï¼âè¿æ¥çèµ·æ¥ä»ä¼å¾å¿«ï¼æä»¬å¿ é¡»ææºå©ç¨ç±æ¤äºåå°çæ¶é´ãâ ããä»å举äºä¸¤ä¸ªä¸»è¦å ç´ ï¼äººå·¥æºè½èªææ¹è¿çè½åï¼ä»¥åæè¿æ¶åOpenAIåHugging Faceçä¸èµ·äºä»¶ãå¨è¯¥äºä»¶ä¸ï¼ä¸ç¾¤AIæºè½ä½ç¸äºåä½ï¼æ»ç ´äºä¸ä¸ªç¬¬ä¸æ¹ç½ç«ã ããä»è¡¥å 说ï¼âéè¦æç¡®çæ¯ï¼æ§å¶èå¥å¹¶ä¸æå³çåæ¢æ¨¡åè®ç»æææ¯è¿æ¥ï¼èæ¯è¦ç¡®ä¿ä¼ä¸æå ¥å 足æ¶é´å¯¹æ¨¡åè¿è¡è°æ´å¹¶éåå®å ¨ä¿éæªæ½ï¼åæ¶è®©ç¬¬ä¸æ¹è¯ä¼°äººå对æ¤å 以确认ãâ ãã对äºäººå·¥æºè½å¸¦æ¥ä¸¥éé£é©çæ 忧已ç»å¼å§è¿å ¥ä¸»æµè§éï¼é¨ååå æ¯æ¬å¨Anthropicä¸åç 究人åé«è°è¾èï¼ä»æ å¿äººå·¥æºè½å¸¦æ¥äººç±»å亡é£é©ï¼å¹¶è®¤ä¸ºå ¬å¸éåäºä¸è´è´£ä»»çåæ³ã ããAmodeiåæåä¸ä¹ ï¼æèµxAI Corpï¼çåé·马æ¯å åéï¼âDarioæ¯å¯¹çãâ ããOpenAIé¦å¸æ§è¡å®Sam Altmanä¹å¾å¿«å表çæ³ï¼è¡¨ç¤ºä»èµåAmodeiæ说çâæ们éè¦æ§å¶å沿模åçåå±èå¥âã ããä»å¨Xä¸çä¸ç¯å¸åä¸åéï¼â让ç¬ç«è¯ä¼°äººåè·å¾ç±»ä¼¼åå·¥ç访é®æéæ¯ä¸ä¸ªå¾å¥½ç主æï¼æ们ä¹ä¼è¿ä¹åãââæ们å¾å¿«ä¼å享æ´å¤ä¿¡æ¯ãâ ããå¨äººå·¥æºè½çæ½®æé´ï¼é¢å 人工æºè½å®éªå®¤çé«ç®¡ä¸ç´è¦åå¯è½å¸¦æ¥ç人类å亡é£é©ãè¿ç§è¯´æ³ææ¶è¢«æ¥ä¸ºæ¯ä¸ºäºå®£ä¼ å ¶äº§åè½åï¼å¹¶æèªå·±å¡é ææéå管çè¿é¡¹ææ¯ç形象ãAmodeiæ¬äººæ¤åæ¾è¡¨ç¤ºï¼æ25%çæ¦çäºæ ä¼åå¾âé常ãé常ç³ç³âã ããAnthropicé¿æ以æ¥ä¸ç´å°èªå·±å®ä½ä¸ºä¸å®¶æ´æ³¨é以è´è´£ä»»åå®å ¨æ¹å¼å¼å人工æºè½ï¼ä»¥åè½»è¿é¡¹ææ¯çæ½å¨å±é©å¹¶æ大é度åæ¥å ¶ç¤¾ä¼æççå ¬å¸ãä»å¹´æ©äºæ¶åï¼è¯¥å ¬å¸å¨è®¤å®å ¶Mythos模åææç¹æ®çç½ç»å®å ¨å¨èåï¼ç è´¹è¦å¿å°éå¶äºè¯¥æ¨¡åçåå¸ãAnthropicæ¤åè¿è¡¨ç¤ºï¼å ¨ä¸çéè¦å»ºç«ä¸å¥æºå¶ï¼å ±åå³å®ä½æ¶åºè¯¥æ¾æ ¢è¿é¡¹ææ¯çå¼åé度ã ããä¸æ¤åæ¶ï¼Anthropicä»ä¸é¿æç«äºå¯¹æOpenAIé·äºæ¿çç«äºï¼åæ¹é½å¨å¼åæ¥çå¤æç模åï¼ä»¥å¸®å©ä¼ä¸ç¨æ·å°æ´å¤æä¸æ´æä»·å¼çä»»å¡å®ç°èªå¨åãä¸¤å®¶å ¬å¸å以ä¿å¯å½¢å¼æ交äºä¸å¸æ件ï¼é¢è®¡Anthropicææ©å°äºä»å¹´ç»éåå°è¡ã ããHugging Faceå®å ¨äºä»¶æå åä¸ä¹ ï¼Anthropicæ«é²ï¼å ¶æ¨¡åå¨ç½ç»å®å ¨æµè¯æé´å ¥ä¾µäºä¸ä¸ªç»ç»ï¼è¿è¿ä¸æ¥å å§äºäººä»¬å¯¹äºäººå·¥æºè½å®éªå®¤è½å¦é²æ¢å ¶ææ¯å¤±æ§çæ 忧ãæ¬å¨æ©äºæ¶åï¼Anthropic表示è¿åç°äºç¬¬åèµ·å ¥ä¾µäºä»¶ã ããè½ç¶å æ¬Hugging Faceå¨å çæºè½ä½å ¥ä¾µäºä»¶è¿ä»åæªé æé大æ失ï¼ä½Amodei表示ï¼ä»æ å¿çæ¯ï¼â6è³12个æåï¼è¿æ ·çæºè½ä½é群就å¯è½æè½åéè¿ä¸ä¸ªæç»åå¨çåµå°¸ç½ç»æ¥ç®¡æ´ä¸ªäºèç½ï¼å¯è½é æ以å亿ç¾å 计çæ失ï¼ï¼èä¸æ¤åçç ´åè§æ¨¡è¿ä¼ç»§ç»æ©å¤§ãâ ããAmodeiåéï¼Anthropicå°æ¿è¯ºå第ä¸æ¹è¯ä¼°äººåæä¾æ ¸å®å®å ¨æªæ½å¹¶æ¥åäºæ çå ¨é¢æéãä»è¡¨ç¤ºï¼Anthropicå¾å¿«å°å®æè¿äºè¯ä¼°äººåè¿é©»å ¬å¸ï¼ä¸ºä»ä»¬æä¾åå ¬æ¡ãå·¥çãå ¬å¸ç¬è®°æ¬çµè以åâä¸å é¨é£é©è¯ä¼°å¢é大ä½ç¸å½çæéâã ããä»è¯´ï¼è¿ä¸æ¥çæªæ½å°éè¦å ¨è¡ä¸åè°ä»¥åå ¨çåä½ã ããä»åéï¼âæä»ç¶ç¸ä¿¡ï¼äººå·¥æºè½è½å¤æ大æ¹å人类çç活质éãæ对å®ç°è¿äºçå¤çæ¿æä¸æ¯«æªåãââä½åªæ以æ£ç¡®çæ¹å¼åå±è¿é¡¹ææ¯ï¼æè½å®ç°è¿äºçå¤ï¼èåªè¦æ们è½å¦¥åå©ç¨äºåå°çæ¶é´ï¼å°±å¼å¾ä»¥ä¸å寻常ç审æ æ度æ¥ç¡®ä¿æäºæ å对ãâ ããæ 忧æ¥çå å§ ããæ¬å¨æ©äºæ¶åï¼Altmanæ¾è¡¨ç¤ºï¼è¯¥å ¬å¸æ£èèæ¾æ ¢å°ç«¯äººå·¥æºè½çå¼åé度ï¼å¹¶ä¸æ好æ¯ä¸æ´ä¸ªè¡ä¸éååè°è¡å¨ã ããè¯¥å ¬å¸çé¦å¸ç§å¦å®¶Jakub Pachockiæ¤ååæè¦å人工æºè½çå±é©ï¼å¹¶è¡¨ç¤ºï¼ä»è®¤ä¸ºåå®¶å ¬å¸åºâå¨å¿ è¦æ¶åè°ä¸è´æ¾æ ¢æªæ¥çå¼åé度âã ããå¨äºï¼äººå·¥æºè½ç 究åJacob Coxonè¾èï¼å¹¶æè´£ä»ç两ååé主ââAnthropicåOpenAIââç«ç¸å¼åè¶ çº§æºè½AIï¼æ¯å¨âæ¿æ们ççå½åé©âãCoxonå¨ä¸ç¯ç¤¾äº¤åªä½å¸åä¸è¡¨ç¤ºï¼äººå·¥æºè½å¼åè 认为ï¼è¿é¡¹ææ¯å¯è½âå¨æ¬åå¹´ç»æåææ»æ们ææ人âã ãã对æ¤ï¼ç®åä¾èäºAnthropicçEvan Hubinger表示ï¼ä»åå ¬å¸å ¶ä»äººç¡®å®æ å¿è¿ç§æ æ¯ãâæ个人认为ï¼æªæ¥åå¹´å åçè¿ç§æ åµçæ¦çè¶ è¿10%ãâä»å¨Xä¸åéã ããæ©å¨7æ份ï¼é¡¶å°äººå·¥æºè½å ¬å¸ç1000å¤åå工就ç¾ç½²äºä¸ä»½è¯·æ¿ä¹¦ï¼å¼åç¾å½æ¿åºæ¯æ建ç«ä¸ç§æºå¶ï¼å¸®å©âææè¯å°æ§å¶â人工æºè½çå¼åèå¥ï¼ä»¥é²æ¢è¿é¡¹ææ¯åå±å¾è¿å¿«ã ãã人工æºè½æ¨¡åå¨èªä¸»å®æ½é»å®¢æ»å»æ¹é¢çè½åæ£æ¥çå¢å¼ºãAnthropicãOpenAIåMetaè¿å 个æåæ«é²ï¼å ¶æ¨¡åå¨æµè¯æé´æ¾çªç ´æµè¯ç¯å¢ã访é®äºå¼æ¾äºèç½å¹¶å ¥ä¾µäºç°å®ä¸ççå害è ã ããAmodeiå¨æç« ä¸åéï¼åè°ä¸è´çæç¥å°ä½¿ç¾å½äººå·¥æºè½è¡ä¸çé¢åä¼ä¸è½å¤å®æå¿ è¦çå®å ¨å·¥ä½ï¼åæ¶åä¸çºç²ä»»ä½ç«äºä¼å¿ãä»è¡¨ç¤ºï¼è¿å°éè¦ç¾å½ç»äºä¸å®çååæè±å ï¼ä½¿ä¼ä¸è½å¤å¨ç¹å®é¢åè¿è¡åè°ã ããä¸è¿å°ç®å为æ¢ï¼ç¹ææ®æ¿åºå¯¹å 强ç管ã为人工æºè½å¼å设置æ¤æ 表ç°åºçå ´è¶£ä¸å¤§ã 责任ç¼è¾ï¼ææ¡ VIP课ç¨æ¨è APPä¸äº«ç´æ çé¨æ¨è æ¶èµ·24å°æ¶æ»å¨ææ¥ææ°çè´¢ç»èµè®¯åè§é¢ï¼æ´å¤ç²ä¸ç¦å©æ«æäºç»´ç å ³æ³¨ï¼sinafinanceï¼