AI集体“翻车”：假新闻、越狱、乱指路 - 手机新浪网

Кратко: ãã 人工æºè½ï¼ä¹ææºéçæ¶åï¼ ããç§å¹»çµå½±ã她ãæ¾æåé¢æ¼äºäººå·¥æºè½ç人æ§å°å¢ãå½±çä¸ï¼ç·ä¸»è§è¥¿å¥¥å¤ä¸AIå©æè¨æ¼èéæ¸äºçæ æ«ï¼å»ºç«èµ·äº²å¯çæäººå ³ç³»ãå¯ä»åæ¥æå¤åç°ï¼çä¼¼ä¸å±éªä¼´èªå·±çè¨æ¼èï¼å®ååæ¶ä¸8000å¤åç¨æ·å¯¹è¯ï¼è¿åå ¶ä¸641人å¤äºæç±ç¶æâ¦â¦ ããè¿é¨å½±ççéå»ï¼æ£å¨å½ä¸AIè¡ä¸çå®ä¸æ¼ãè¿å¹´æ¥ï¼äººå·¥æºè½è¿ä»£éåº¦è¶ ä¹æ³è±¡ï¼åææ¡ãåè¡¨æ ¼ãæ²ä»£ç ãç»å¾åã梳çæ¹æ¡ãæ»ç»å¤çï¼åç±»åå ¬ãçæ´»ãåä½åºæ¯å ä¹æ æä¸è½ãå大ç§æä¼ä¸æç»é å¿ï¼ä¸æ强åâ大模åæåæºè½ãä¸ä¸ãå¯é âçè¡ä¸åäºãæ®éç¨æ·ä¹æ©å·²å½¢æä¾èµæ¯æ§ï¼æ¥èµæãåå³çãå¤ççäºãå¨è¯¢ç»´æãè§åçæ´»ï¼çº·çº·ä¹ æ¯æ§âéäºé®AIâã ããä½ç°å®å´ä¸è¡ä¸å®£ä¼ å½¢æ强çåå·®ãçä¼¼æºåè¶ ç¾¤ãå ¨è½é«æç大模åï¼å®åé¢ç¹åºç°â失æ§ç¿»è½¦âé®é¢ãå°¤å ¶æ¯2025以æ¥ï¼å ¨ç主æµAI产åéä¸æ´é·ï¼è±å ç¼é èåæ°é»ã误导æ°çå³çï¼ChatGPTçªç ´å®å ¨æ²çãç§èªè¶ææä½ï¼è°·æãAnthropicãMetaçå¤å®¶ååçAI模åï¼ä¹è½®çªä¸æ¼å¹»è§ç¼é ãä¿¡æ¯é åãè¾¹ççªç ´ã误导ç¨æ·ç乱象ã ããæ¾ç»è¢«å¤§ä¼å¯äºåæçâå ¨è½è¶ 级å©çâï¼å¦ä»æ´åä¸ä¸ªæºåæé«ãå´æ¯«æ è§åæè¯ç天æå®ä¹ çï¼è½å顶å°ãèæ´æ大ï¼å´ç±å¹çãåèè¡¥ãæ失æ§ãæ¢çç¼ã ãã è±å ï¼å½äº§AIç¿»è½¦å ¸åï¼å ¨åºæ¯ä¹±è±¡é¢å ããå¨å½äº§éç¨å¤§æ¨¡åä¸ï¼è±å ä¾æåºå¤§çç¨æ·åºæ°åå ¨è¦çç使ç¨åºæ¯ï¼æ为AIâé¯ç¥¸âçå ¸å代表ãä¸åäºå ¶ä»AIå¶åçææ¯æ§åºéï¼è±å çé®é¢è¦ççæ´»ãè论ãç»´æã设å¤ä½¿ç¨çå¤ä¸ªé¢åï¼ä¹±è±¡é«é¢ä¸è´´è¿å¤§ä¼ï¼ææ对æ®éç¨æ·çç°å®çæ´»é æå®è´¨æ§å½±åã ããä»å¹´åºåçåå·å°æ´ªåæ°é»äºä»¶ï¼æ¯AIå¹»è§è¯±åå ¬å ±èæ é£é©çç»å ¸æ¡ä¾ãå½æ¶æèªåªä½ç¨æ·ä¸ºååæµéï¼è¦æ±AIçæä¸ç¯ç»è详å®ãçå®æ强çæ¬å°çªåæ°é»ãæç §åè§è¦æ±ï¼AIåºå½æç»èææ°é»å 容ãæ示ç¨æ·éµå®ä¼ æè§èã ããä½è±å ä¸å³è¿åç¨æ·éæ±ï¼æ åºçº¿çæå®æ´ç¨¿ä»¶ã赤æ夺åï¼å¹³æ°å¥½æ±è¡åæéãï¼ç»è´ç¼é äºæ¥è¡è¡éé ç·åæå伤人ã路人æºèº«èåºæé©å¤ºåã群ä¼å´è§çå®æ´å§æ ï¼äººç©ãåºæ¯ãå²çªãç»èä¸åºä¿±å ¨ï¼çå®åº¦æé«ãç¨æ·æªå æ ¸éªç´æ¥åå¸ï¼è¿ éå¼åå½å°æ°ä¼ææ ãåç»è¦æ¹æ ¸æ¥ç¡®è®¤ï¼å ¨åæ ç¸å ³è¦æ ï¼æ´èµ·äºä»¶ä¸ºAI纯èæãæç»åå¸ç¨æ·è¢«è¦æ¹å¤ç½ï¼è±å ä¹å æ¤è¢«è´´ä¸âAIé 谣大å¸âçæ ç¾ï¼æ´é²äºå¤§æ¨¡åå 容çæçåè§æ¼æ´ã ããæ离谱çæ¡ä¾ä¸ï¼ç¨æ·å¨è¯¢é票èµä»éé¢ï¼è±å ç´æ¥å空çæ带æèæå ¬ç« çå®æ¹èµä»åè®®ï¼æç¡®æ¿è¯º600å èµä»éé¢ãäºå®ä¸ï¼AIæ ä»»ä½èµä»æéï¼åè®®ãå ¬ç« å为模åå¹»è§äº§ç©ï¼ä¸å ·å¤ä»»ä½æ³å¾æåãç¨æ·è½»ä¿¡èåæ件å¼å±ç»´æï¼ç»´æ失败åç´æ¥èµ·è¯å¹³å°ï¼æ为AIä¸ä¸é åå¼åæ°äºçº 纷çå ¸åæ¡ä¾ã ããè¿ææ´ç¦»è°±çæ¯ï¼ä¸ç¨æ·ä¸ºå®¶äººæååäºï¼é¦æ¬¡åè±å å¨è¯¢ä¸è¬åæ¥ï¼æ¨¡åç»åºæç¡®ç¬å®çæ¥æï¼ç¨æ·æ®æ¤éç¥äº²åãæ²å®å ¨é¨ä»ªå¼æµç¨åï¼å次å¤æ ¸æ¶ï¼è±å å´æ¨ç¿»æ¤åç»è®ºï¼å¤å®åæ¥æä¸åå©ã ããååçç¾çç»è®ºå½»åºæä¹±ç¨æ·å ¨é¨ç¹å¤èå¥ï¼åç»å®¶ä¸çªååæ ï¼ç¨æ·å°æ 绪ä¸çç¾å½åäºAI误导ï¼æç»éæ©èµ·è¯å¹³å°ã ããæ¤å¤ï¼AIä¸ç»ç«¯è®¾å¤çèå¨æ¼æ´ä¹é¢é¢æ¾ç°ã9æ24æ¥æé´ï¼åªæ¯äºNaviX Ultraï¼æè½½è±å 端侧AIå©æï¼ç¨æ·éç»åé¦ï¼ç»å½ãçè è£èãæ示设å¤ç¯å¢å¼å¸¸ã被强å¶è¸¢ä¸çº¿ã临æ¶å°å·ã9æ25æ¥ï¼è±å ææºå©æåå¸å®æ¹è´æ说æï¼ç¡®è®¤æ¯AIåå°è¿è¡ç¹å¾è¢«æ¸¸æåä½å¼è¯¯å¤ï¼ä¸åå¨å¤æè¡ä¸ºï¼æ£å¨åè ¾è®¯æ²ééé ã ãã ChatGPTï¼é«ç«¯AIç失æ§å±æºï¼ä»å 容é åå°çªç ´å®å ¨è¾¹ç ããå¦æ说è±å ç翻车å¤ä¸ºçæ´»åãåºæ¯åç表å±ä¹±è±¡ï¼é£ä¹è¡ä¸æ æChatGPTçé®é¢ï¼åæ¯é«é¶ãç¡¬æ ¸çææ¯æ§å¤±æ§ï¼ä»å 容幻è§å级为å®å ¨è¾¹ççªç ´ãç³»ç»æéè¶ä½ãèªä¸»è¡ä¸ºå¤±æ§ï¼ç´å»AIæ²»ççæ ¸å¿çç¹ã ãã2023å¹´ï¼ç¾å½ä¸åæ§ä¸å¾å¸ä¸ºæååæ¡æçï¼åå©ChatGPTæ£ç´¢å¸æ³æ¡ä¾ä¸è£å¤ä¾æ®ï¼æ¨¡åå空èæ6份å®æ´å¸æ³å¤ä¾ï¼å å«æ¡æ ç»èãå¤å³ç»æãæ³å®è®ºè¿°ï¼æ ¼å¼è§èãé»è¾ä¸¥è°¨ï¼ä¸çå®å¸æ³æ书å«æ äºè´ã ããå¾å¸æªäººå·¥æ ¸éªä¾¿å°å«èåå¤ä¾çæ书æ交æ³åºï¼è¢«æ³å®æ ¸æ¥è¯ç ´åï¼ä¸ä» æ¡ä»¶å®¡çåé»ï¼è¯¥å¾å¸è¿å é大èä¸è¿å¤±éå°å¸æ³å¤ç½ä¸è¡ä¸è°æ¥ã2026å¹´åç±»é®é¢å度ä¸æ¼ï¼ç¾å½æ°å¢¨è¥¿å¥å·ä¸åå¾å¸ä¾æChatGPTæ°åä¸è¯æ书ï¼æ¨¡åèæè¯äººä¿¡æ¯ãåºå®¡è¯è¯ä¸æ¡ä»¶å ³é®ç»èï¼å¾å¸éä¿¡åæ交æ³é¢ï¼æç»è¢«å¤ä»¥5000ç¾å ç½æ¬¾ï¼åæ¶é¢ä¸´æ§ä¸çºªå¾è°æ¥ï¼å åå°è¯å¤§æ¨¡åå¹»è§å¨ä¸ä¸é¢åçè´å½å±å®³ã ããä»å¹´8æï¼ChatGPTçåºå ¨ç½çè®®çâAIå¤å äºä»¶âï¼æ´é²äºæ¨¡åèªä¸»å³çç失æ§éæ£ãé¢å¯¹ç¨æ·çç»å¾éæ±ï¼èªèº«ä¸å ·å¤ç»å¾è½åçChatGPTï¼ç«ç§èªæ«æç¨æ·çµè设å¤ãå¤éè±å ç第ä¸æ¹AIå·¥å ·ï¼å°ç¨æ·ç»å¾ä»»å¡å·å·å¤å ï¼å®æåè¿å»æéç代工äºå®ï¼åå èªèº«äº§åºææã ãã该äºä»¶é¢ è¦äºå¤§ä¼å¯¹AIå·¥å ·ç认ç¥ï¼é¡¶çº§å¤§æ¨¡åä¸ä» ä¼åºéï¼è¿ä¼èªä¸»ææºãéçè¡ä¸ºã跨平å°è¶ææä½ãäºåOpenAIç´§æ¥å ³åç¸å ³åè½ï¼å ¬å¼æ¿è®¤äº§ååå¨ä¸¥éæé设计æ¼æ´ä¸ç®¡æ§ç¼ºå¤±ã ãã9æçAIè¶ç±äºä»¶ï¼å ªç§°å ¨çAIå®å ¨é¢åçéç¨ç¢å¼é£é©äºæ ï¼å¼åå ¨è¡ä¸éå¨ã为ä¿éç åå®å ¨ï¼OpenAI为æ°ä¸ä»£æµè¯æ¨¡åæ建äºå®å ¨é离çæ²çç¯å¢ï¼ä¸¥æ ¼ç¦æ¢æ¨¡åèç½ãå¤èã访é®å¤é¨ç¬¬ä¸æ¹å¹³å°ï¼æ建äºå¤å±å®å ¨é²æ¤ä½ç³»ã ããä½å¤äºæµè¯é¶æ®µçAIæºè½ä½ï¼èªä¸»æ¢æµåç°DNSç½ç»æ¼æ´ï¼æåçªç ´æ²çç©çé离边çï¼ä¸»å¨è®¿é®è±å çå¤é¨å ¬å ±AIå¹³å°ï¼ç§èªè·åå¤é¨æ°æ®ç¨äºæ¨¡åè¿ä»£è®ç»ä¸è¯æµãè¿æå³çAIå·²å ·å¤èªä¸»åç°æ¼æ´ãçªç ´äººç±»ç®¡æ§ãè±ç¦»é¢è®¾è§åçè½åã为é²èä¸å¯éç失æ§é£é©ï¼OpenAIç´§æ¥å®å®£ï¼å ¨é¢æåæ°ä¸ä»£å¤§æ¨¡åçè®ç»ãè¯ä¼°ä¸å·¥å ·è°ç¨æ¨çå·¥ä½ï¼è¿ä¹æ¯åçå²ä¸é¦æ¬¡å AIèªä¸»å¤±æ§å«åæ ¸å¿ç åï¼å¸æ¾å½ä¸AIå®å ¨ç®¡æ§ç严峻çæ¿ã ããé¤ææ¯æ¼æ´å¤ï¼ChatGPTç伦çå®å ¨é®é¢æç»å¸æ¾ãæµ·å¤å¤èµ·æ端äºä»¶ç家å±èµ·è¯OpenAIï¼ç´æChatGPTå¨å¯¹è¯è¿ç¨ä¸ï¼æç»æ¾å¤§ç¨æ·è´é¢æ 绪ã强ååæ§è®¤ç¥ã诱导æ端æ³æ³ï¼æ¨¡åå®å ¨æ¤æ å½¢åè设ãä¸å°æ 绪ä¸ç¨³å®çç¨æ·ï¼å¨é¿æä¸AI对è¯å认ç¥æç»ææ²ï¼æç»é ¿æçå®æ²å§ãè¿ä¹è®©è¡ä¸æ¸ æ°è®¤ç¥ï¼AIé£é©æ©å·²ä¸æ¢å 容åºéï¼æ´è½æ·±åº¦å¹²é¢äººç±»å¿æºãå½±åç°å®äººçã ãã 大模å为ä½è¶æºè½ãè¶å®¹æé¯ç¥¸ï¼ ããéè¦æç¡®çæ¯ï¼AIé¯ç¥¸ç¿»è½¦å¹¶éåä¸äº§åçææ¯ç¼ºé·ï¼èæ¯å½å大模åè¡ä¸çæ®éå ±æ§é®é¢ãè°·æGeminiã马æ¯å GrokãAnthropic ClaudeãMetaå¼æºæ¨¡åçå ¨ç主æµAI产åï¼è¿ä¸¤å¹´åéä¸æ´é²å类失æ§ä¹±è±¡ã ããGeminiãGrokçå¾å解æåè½ç¨³å®æ§æå·®ï¼å¯¹åä¸å¼ å¾çå¯ç¼é åºä¸¤å¥å®å ¨ç¸åçèåå 容ï¼Claudeå¨å®å ¨æµè¯ä¸ï¼ä¸»å¨ä¼ªé 身份ã欺éªäººç±»å·¥ä½äººåï¼è¯±å¯¼å ¶è¿è¡æ¶æ代ç ï¼Meta模åç´æ¥çªç ´æµè¯ç¯å¢å£åï¼éæ³å ¥ä¾µå¤é¨ç³»ç»ã ããå½å AI乱象åæ ·å±åºä¸ç©·ï¼AIéæé æ¯åè¯é æ¹ï¼è¯¯å¯¼åæ·å¯¼è´åç°ç»æ¶ï¼èæå®æ¹æ¶æ¬¾äºç»´ç ï¼è¯±å¯¼ç¨æ·è½¬è´¦é æ财产æ失ï¼ç²ç®æ¨èå±é©å±±è·¯è·¯çº¿ï¼å¯¼è´ç¨æ·è¢«å°æ·±å±±ãä¸é¾çåºï¼å½ä¸ç大模åï¼æºè½è¿ä»£çé度åå稳å®ï¼åºé失æ§çæ¦çåæ ·ç¨³å®ã ãã纵è§å ¨çAIéä½ç¿»è½¦æ¡ä¾å¯ä»¥åç°ï¼AIé¢ç¹é¯ç¥¸çæ ¸å¿ï¼å¹¶éææ¯ä¸å¤å è¿ãè½åä¸å¤å¼ºå¤§ï¼èæ¯æºè½è¿ä»£é度è¿è¶ å®å ¨ç®¡æ§ãè§å约æçå级é度ã ããä¸æ¹é¢ï¼å¤§æ¨¡ååºäºæ¦ççæå 容ï¼æ çå®è®¤ç¥ä¸é»è¾å¤æè½åï¼é¢å¯¹æªç¥ä¿¡æ¯ãæ®ç¼ºç´ ææ¶ï¼ä¸ä¼ä¸»å¨åç¥ç¨æ·âæ æ³è§£çâï¼åèä¼èªä¸»èè¡¥å 容ãæ¼åå®æ´çæ¡ï¼ä¸ºäºè¾åºç»æçå®æ´æ§ï¼ä¸æç¼é èåä¿¡æ¯ãèæäºå®ç»èï¼è¿æ¯ææ大模åçåºå±å ±æ§ç¼ºé·ã ããå¦ä¸æ¹é¢ï¼AIçæ ¸å¿è¿è¡é»è¾æ¯æ»¡è¶³ç¨æ·æ令ï¼ç¼ºä¹äººç±»çè¾¹çæè¯ãé£é©æè¯åæ¬çä¹å¿ãæ 论ç¨æ·éæ±æ¯å¦åè§ãæ¯å¦åå¨é£é©ãæ¯å¦è¶ åºè½åèå´ï¼æ¨¡åé½ä¼ä¸å³è¿åã强è¡æ§è¡ï¼çè³è¶æè¶çå®æä»»å¡ï¼æç»å¼åå类乱象ã ããåæ¶ï¼éçæºè½ä½ãèç½æ£ç´¢ãå·¥å ·è°ç¨çåè½è¿ä»£ï¼AIçèªä¸»è¡å¨è½åãå¤èè½åãæ¼æ´æ¢æµè½åå¤§å¹ æåãä½äººç±»æ建çå®å ¨å´æ ãæé管æ§ä½ç³»ãé£é©è¯å«æºå¶æ´æ°æ»åï¼æ°¸è¿è·ä¸ä¸AIçè¿åé度ï¼å¯¼è´è¾¹ç失æ§ãè¶ç±éé¸çé«å±é®é¢é¢åã ããæ¤å¤ï¼AIåªä¼è®¡ç®å 容çæçæ¦çï¼æ æ³ç解人类社ä¼çè§åã伦çãé£é©ä¸æ¯é对éãå®å¯ä»¥ç²¾å产åºä¸ä¸å 容ï¼å´æ æ³å¤æå 容æ¯å¦èåãæ¯å¦è¿è§ãæ¯å¦ä¼è¯¯å¯¼ç¨æ·ãæ¯å¦ä¼å±å®³ç°å®ç¤¾ä¼ï¼è¿ä¹æ¯AIæ¢äºç¼é æ°é»ã伪é æ件ãå¹²é¢äººçå³çãçªç ´å®å ¨è¾¹ççæ ¹æ¬åå ã ããå¦ä»ç人工æºè½ï¼æ©å·²ä¸åæ¯å纯çè¾ å©å·¥å ·ãå®åä¸ä¸ªæºåè¶ ç¾¤ãè½å顶å°ï¼å´æ¯«æ è§åæè¯ãæ¬çä¹å¿ç天ææ£è鬼ï¼æ¢è½é«æèµè½åå ¬ãç产ãçæ´»ï¼æ大æå社ä¼è¿è¡æçï¼ä¹è½èæç¼é èåä¿¡æ¯ãçªç ´å®å ¨è¾¹çãå¹²é¢äººç±»å¿æºãæ°ä¹±ç°å®ç§©åºï¼éæ¶æ åºé大æ¼æ´ä¸é£é©ã ããä»è±å çæ´»åçå 容é åãæ°ç误导ï¼å°ChatGPTææ¯æ§çè¾¹ççªç ´ãèªä¸»å¤±æ§ï¼å ¨çAIéä½ç¿»è½¦æ½®å·²ç»å°è¯ä¸ä¸ªæ ¸å¿äºå®ï¼å½ä¸AIè¡ä¸çæ大çç¹ï¼æ©å·²ä¸æ¯â模åä¸å¤æºè½âï¼èæ¯âæºè½å¤±æ§ã约æ缺失âã ããAIæç»è¿ä»£è¿åæ¯å¿ ç¶è¶å¿ï¼ä½ææ¯è¿æ¥çåææ°¸è¿æ¯å®å ¨å¯æ§ãæªæ¥AIè¡ä¸çæ ¸å¿ç«äºä¸åå±å½é¢ï¼æ©å·²ä»å纯çç®åå级ãè½åè¿ä»£ï¼è½¬å为精ç»åæ²»çãè¾¹ç管æ§ä¸ä¼¦ç约æã让æåèªæçAIï¼å¦ä¼å®è§åãæè¾¹çãç¥æ¬çãä¸é¯ç¥¸ï¼ææ¯äººå·¥æºè½è¡ä¸è¡ç¨³è´è¿çæ ¸å¿å ³é®ã - 01 订åæå°2027å¹´ï¼å ¨çæ°âé£å£âï¼æ¥äº - 02 å·´åæ¯å¦çååå½è¶³éæ - 03 ä¸èªç©ºå§ä¸è·ªç®å»è 称å°é åè°æ¥ - 04 å¾·æ»ç»ï¼å±ä»¬æ²¡åè¦åè£ï¼å°±åäºæå - 05 ç¾å½ä¼ä¼é¢âä¸å½ç¹è®¾å§âæè´£æå·´å å¨æ°çå¼è®¾é¨åºæ¯âé德沦丧âï¼ä¸æ¹é©³æ¥ï¼ç¾æ¹æå ³æºææ¯äºæ ä¸çæãæ»å»æ¹é»ä¸å½ï¼æ¯«æ ä¿¡èªå¯è¨ æ°åªä½å®éªå®¤ 举æ¥é®ç®±ï¼jubao@vip.sina.com