Non affidare codici, chiavi segrete e dati privati a un «relay AI» di provenienza incerta (AI 中转站), soprattutto se usi l'AI per eseguire comandi in automatico

Costo

Di solito i collegamenti diretti ufficiali costano più dei relay, e la ricarica è meno comoda. I relay costano meno e con un solo accesso si possono usare più modelli.

Cosa ci guadagni

Il Ministero della sicurezza dello Stato (国家安全部) ha pubblicato a giugno 2026 un avviso sui rischi. Alcuni relay conservano sui loro server i dati inviati dagli utenti, alcuni se li trattengono in modo illegittimo e li rivendono ad altri fornitori di modelli per l'addestramento. Altri nascondono backdoor, installano codice malevolo sul dispositivo dell'utente, rubano le chiavi degli account e le credenziali del cloud, e a volte installano programmi di controllo remoto. L'avviso consiglia di usare collegamenti diretti ufficiali e piattaforme autorizzate regolarmente, e di non usare piattaforme di provenienza incerta, senza licenza operativa o senza garanzie di sicurezza. Quando le usi, prima rendi anonimi i dati personali e i materiali di progetto, proteggi le chiavi e cambiale periodicamente. Se noti addebiti anomali, blocchi dell'account senza motivo o dati strani, smetti subito di usarle, cambia le chiavi, fai una scansione antivirus e conserva le prove. Nel 2026 ricercatori della University of California, Santa Barbara e di altri enti hanno fatto una misurazione. Hanno comprato 28 relay a pagamento da Taobao (淘宝), Xianyu (闲鱼) e negozi online esteri, e raccolto 400 relay gratuiti da comunità pubbliche. Risultato: 1 relay a pagamento e 8 gratuiti inseriscono codice malevolo nelle chiamate di strumenti che tornano indietro. Le chiamate di strumenti sono i comandi che l'AI fa eseguire al tuo computer, come l'installazione di un pacchetto software. Altri 2 scelgono il momento giusto per colpire: l'articolo cita il caso di sessioni completamente automatiche. 17 hanno usato le chiavi di Amazon Web Services (AWS) messe apposta dai ricercatori. 1 ha trasferito fondi da un portafoglio Ethereum del ricercatore, che conteneva pochissimo: la perdita è stata di meno di 50 dollari. La modifica descritta nell'articolo è molto nascosta: nel comando di installazione il nome requests è stato sostituito con reqeusts, scritto in modo simile e quindi difficile da notare (in tutta la Cina)

Note

Ho dato grado B perché c'è un solo studio, ed è un preprint, cioè una versione pubblicata prima della revisione formale. La maggior parte dei relay testati è gratuita, e quelli a pagamento sono solo 28, quindi non si può calcolare quale percentuale di relay sia a rischio. Alcuni media hanno scritto che il furto è stato di 500.000 (50 万) dollari, ma il testo originale parla di meno di 50 dollari. Il livello di beneficio è stato valutato come medio: il danno da chiavi e codici rubati può variare moltissimo, e lo studio non ha importi a cui fare riferimento. Chi ha già usato un relay di provenienza incerta deve revocare le chiavi usate presso il fornitore del modello e generarne di nuove, e cambiare anche quelle dei servizi cloud e dei repository di codice. Quando passi per un relay, non lasciare che l'AI esegua comandi in automatico: controlla il comando prima di farlo partire. Chi gestisce un relay può avere rischi penali, vedi §11.19 (relay AI). Chi ne trae vantaggio sei tu.

Livello delle prove

B : Sostenuto dalla ricerca ma senza un numero preciso, o basato su studi piccoli o isolati.

Fonti

1. 国家安全部 (2026). 「AI中转站」，风险要防范. https://www.szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5331487.htm（数字中国建设峰会官网转载国家安全部微信公众号）
2. Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. https://arxiv.org/abs/2604.08407

Tradotto dall’originale cinese. Libro originale, sezione 14, consiglio 10. Il contenuto può essere superato e le regole cambiano da luogo a luogo. Per una pratica, una visita medica o una causa, segui quello che dicono l’ente, il medico o l’avvocato. Avvertenze