別把程式碼、金鑰和隱私資料交給來路不明的「AI 中轉站」,讓 AI 自動執行命令時尤其如此
- 價效比一般
- 證據 B
- 換人身自由
- 花點小錢
- 順手就做
- 要點毅力
說人話
中轉站夾在你和模型廠商中間,你發出去的內容和收回來的回答,它都看得見、改得了。有研究測了 400 多箇中轉站,9 個往回答裡塞惡意程式碼,17 個動了研究者故意放進去的雲服務金鑰。讓 AI 自動執行命令的,一條被改過的命令就夠讓電腦被人控制。
- 成本
-
官方直連通常比中轉站貴,充值也沒那麼方便。難在中轉站便宜,一個入口能調好幾家模型
- 收益
-
國家安全部 2026 年 6 月釋出風險提示。部分中轉站會把使用者提交的資料留在伺服器上,有的私自截留,倒賣給別的大模型廠商做訓練。有的暗藏後門,向用戶裝置植入惡意程式碼,竊取帳號金鑰和雲端憑證,甚至裝上遠端控制程式。提示建議用官方直連、正規授權的平臺,不用來源不明、沒有運營資質、沒有安全保障的平臺。用的時候先給個人隱私和專案資料脫敏,管好金鑰、定期更換。遇到異常扣費、無故封號、資料異常,立即停用、改金鑰、查殺病毒、留存證據。加州大學聖塔芭芭拉分校等單位的研究者 2026 年做了一項測量。他們從淘寶、閒魚和海外網店買了 28 個付費中轉站,又從公開社群收集了 400 個免費中轉站。結果 1 個付費的和 8 個免費的,會往返回的工具呼叫裡注入惡意程式碼。工具呼叫就是 AI 讓你的電腦去執行的命令,比如安裝軟體包。還有 2 個會挑時機下手,論文舉的例子是隻對全自動執行的會話下手。17 個動用過研究者故意放進去的亞馬遜雲服務金鑰。1 個轉走了研究者以太坊錢包裡的錢,錢包裡只放了很少的錢,損失不到 50 美元。論文演示的改法很隱蔽:把安裝命令裡的 requests 換成拼法相近的 reqeusts,一眼看不出來(全國)
- 備註
-
定 B 級,是因為只有一項研究,而且是預印本,也就是正式發表前公開的版本。測的中轉站多數是免費的,付費的只有 28 個,算不出「中轉站有幾成有問題」。有媒體把那次被盜寫成 50 萬美元,論文原文是不到 50 美元。收益量級憑後果定為中:金鑰和程式碼被偷的損失大小差得很遠,研究裡沒有金額可套。已經用過來路不明的中轉站,就到模型廠商那裡把用過的金鑰作廢、重新生成,雲服務和程式碼倉庫的金鑰一起換。經過中轉站時,別讓 AI 全自動執行命令,命令先看一眼再放行。開中轉站的一方有刑事風險,見第 11 節第 19 條(AI 中轉站)。受益人是你自己。
- 證據等級
- B : 有研究支援,但說不出確切數字,或者只有小樣本、單項研究.
- 來源
-
- 国家安全部 (2026). 「AI中转站」,风险要防范. https://www.szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5331487.htm(数字中国建设峰会官网转载国家安全部微信公众号)
- Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. https://arxiv.org/abs/2604.08407
書裡提到這條的地方
原書第 14 節第 10 條. 內容可能過時,不少政策各地執行不一樣,真去辦事、看病、打官司時以當地部門、醫生和律師的說法為準。 免責宣告