Code, Schlüssel und private Unterlagen nicht über einen unbekannten KI-Weiterleitungsdienst (AI 中转站) schicken, vor allem nicht, wenn die KI Befehle automatisch ausführen lässt

Kosten

Der direkte Zugang beim offiziellen Anbieter ist meist teurer als ein Weiterleitungsdienst, und das Aufladen ist umständlicher. Schwierig daran ist: Weiterleitungsdienste sind günstig, und über einen einzigen Zugang lassen sich mehrere Modelle ansprechen.

Was es bringt

Das Ministerium für Staatssicherheit (国家安全部) hat im Juni 2026 eine Risikowarnung herausgegeben. Manche Dienste speichern die Daten, die Nutzer einreichen, auf ihren Servern; einige behalten sie heimlich zurück und verkaufen sie an andere Anbieter großer Modelle zum Trainieren weiter. Manche haben Hintertüren, pflanzen schädlichen Code auf den Geräten der Nutzer ein, stehlen Kontoschlüssel und Cloud-Zugangsdaten oder installieren sogar Fernsteuerungsprogramme. Die Warnung rät, nur offizielle Direktverbindungen und ordnungsgemäß zugelassene Plattformen zu nutzen, nicht solche mit unklarer Herkunft, ohne Betriebslizenz oder ohne Sicherheitsvorkehrungen. Wenn Sie doch einen nutzen, entfernen Sie vorher persönliche Angaben und Projektinhalte, verwalten die Schlüssel sorgfältig und wechseln sie regelmäßig. Bei unerklärlichen Abbuchungen, grundloser Sperrung des Kontos oder auffälligen Daten: sofort nicht mehr benutzen, Schlüssel ändern, Virenscan machen und Beweise aufheben. 2026 haben Forscher der University of California, Santa Barbara und anderer Institute eine Messung durchgeführt. Sie kauften 28 kostenpflichtige Weiterleitungsdienste auf Taobao, Xianyu und bei Online-Shops im Ausland und sammelten 400 kostenlose aus öffentlichen Communities. Ergebnis: 1 kostenpflichtiger und 8 kostenlose Dienste schleusten schädlichen Code in die zurückgeschickten Werkzeugaufrufe ein. Werkzeugaufrufe sind Befehle, mit denen die KI Ihren Computer etwas ausführen lässt, etwa die Installation eines Softwarepakets. 2 weitere warteten auf den richtigen Moment; im Beispiel der Studie griffen sie nur bei vollautomatischen Sitzungen ein. 17 nutzten die Amazon-Cloud-Schlüssel, die die Forscher absichtlich hinterlegt hatten. 1 transferierte Geld aus einer Ethereum-Wallet der Forscher, die nur wenig Geld enthielt; der Verlust lag unter 50 US-Dollar. Die im Papier gezeigte Manipulation ist unauffällig: Im Installationsbefehl wird «requests» durch das ähnlich geschriebene «reqeusts» ersetzt, was man auf den ersten Blick nicht erkennt (landesweit).

Hinweise

Eingestuft als B, weil es nur eine Studie gibt, und zwar eine Vorveröffentlichung (Preprint), also eine Fassung, die vor der formellen Veröffentlichung öffentlich zugänglich ist. Die meisten getesteten Dienste waren kostenlos; nur 28 waren kostenpflichtig, daher lässt sich nicht sagen, welcher Anteil der Dienste Probleme hat. Einige Medien schrieben, der Diebstahl habe 500.000 USD (50万美元) betragen; im Papier steht aber unter 50 USD. Die Größe des Nutzens ist nach den Folgen als «mittel» eingestuft: Der Schaden durch gestohlene Schlüssel und Code kann sehr unterschiedlich ausfallen, und die Studie nennt keinen Betrag, den man übertragen könnte. Haben Sie schon einen unbekannten Weiterleitungsdienst benutzt, sperren Sie beim Modellanbieter die benutzten Schlüssel und erstellen neue; bei Cloud-Diensten und Code-Repositorys wechseln Sie die Schlüssel ebenso. Beim Weiterleiten über einen solchen Dienst lassen Sie die KI keine Befehle vollautomatisch ausführen, sondern prüfen jeden Befehl, bevor Sie ihn freigeben. Für den Betreiber eines solchen Dienstes besteht ein strafrechtliches Risiko; siehe §11.19 (KI-Weiterleitungsdienste). Begünstigt sind Sie selbst.

Evidenzgrad

B : Durch Forschung gestützt, aber ohne genaue Zahl, oder nur kleine bzw. einzelne Studien.

Quellen

1. 国家安全部 (2026). 「AI中转站」，风险要防范. https://www.szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5331487.htm（数字中国建设峰会官网转载国家安全部微信公众号）
2. Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. https://arxiv.org/abs/2604.08407

Aus dem chinesischen Original übersetzt. Originalbuch, Abschnitt 14, Tipp 10. Inhalte können veraltet sein, und Regeln unterscheiden sich je nach Ort. Wenn Sie tatsächlich zu einer Behörde, zum Arzt oder vor Gericht gehen, gilt, was Behörde, Ärztin oder Anwalt sagen. Haftungsausschluss