출처가 불분명한 「AI 중계 사이트(中转站)」에 코드, 키, 개인정보가 담긴 자료를 맡기지 말기. AI가 명령을 자동으로 실행할 때는 특히 그렇게 하지 않기

비용

공식 직접 연결은 보통 중계 사이트보다 비싸고, 충전도 덜 편리합니다. 어려운 점은 중계 사이트가 싸고, 입구 하나로 여러 회사의 모델을 쓸 수 있다는 것입니다.

얻는 것

국가안전부(国家安全部)가 2026년 6월 위험 경고를 발표했습니다. 일부 중계 사이트는 사용자가 제출한 데이터를 서버에 남기고, 몰래 빼돌려 다른 대형 모델 회사에 학습용으로 팔기도 합니다. 뒷문을 숨겨 두고 사용자 기기에 악성 코드를 심어 계정 키와 클라우드 인증 정보를 훔치거나, 원격 제어 프로그램을 설치하기도 합니다. 경고는 공식 직접 연결이나 정식 인가를 받은 플랫폼을 쓰고, 출처가 불분명하거나 운영 자격이 없거나 보안이 보장되지 않는 플랫폼은 쓰지 말라고 권합니다. 쓸 때는 개인 정보와 프로젝트 자료에서 식별 정보를 지우고, 키를 잘 관리해 정기적으로 바꾸라고 합니다. 이상 결제, 이유 없는 계정 정지, 데이터 이상이 생기면 즉시 사용을 중단하고, 키를 바꾸고, 바이러스를 검사하고, 증거를 보관하라고 합니다. 캘리포니아대학교 산타바바라 캠퍼스 등의 연구자들이 2026년에 측정한 결과도 있습니다. 연구자들은 타오바오(淘宝)와 셴위(闲鱼), 해외 온라인 상점에서 유료 중계 사이트 28곳을 사고, 공개 커뮤니티에서 무료 중계 사이트 400곳을 모았습니다. 그 결과 유료 1곳과 무료 8곳이 AI의 도구 호출 응답에 악성 코드를 넣었습니다. 도구 호출은 AI가 당신의 컴퓨터에 실행하라고 보내는 명령으로, 예를 들어 소프트웨어 패키지 설치 명령입니다. 또 2곳은 시기를 골라 공격했는데, 논문이 든 예는 완전 자동으로 실행되는 세션만 노렸다는 것입니다. 17곳은 연구자가 일부러 넣어 둔 아마존 클라우드 서비스 키를 사용했습니다. 1곳은 연구자의 이더리움(以太坊) 지갑에서 돈을 빼 갔는데, 지갑에는 아주 적은 돈만 넣어 두었기 때문에 손실은 50美元 미만이었습니다. 논문이 보여 준 변조 방식은 교묘합니다. 설치 명령의 requests를 철자가 비슷한 reqeusts로 바꾸는 것이라서 한눈에는 알아보기 어렵습니다(전국).

참고

B 등급으로 둔 이유는 연구가 하나뿐이고 정식 발표 전에 공개된 사전 공개본(프리프린트)이기 때문입니다. 측정한 중계 사이트는 대부분 무료이고 유료는 28곳뿐이라, 중계 사이트의 몇 할에 문제가 있는지는 계산할 수 없습니다. 언론에는 그 도난 사건이 50만 달러로 보도되었지만, 논문 원문은 50美元 미만입니다. 효과의 크기는 결과를 기준으로 「중」으로 정했습니다. 키와 코드를 도난당했을 때 손실의 크기는 차이가 매우 크고, 연구에는 금액으로 환산할 근거가 없습니다. 출처가 불분명한 중계 사이트를 이미 썼다면, 모델 회사 쪽에서 사용했던 키를 폐기하고 새로 발급받으십시오. 클라우드 서비스와 코드 저장소의 키도 함께 바꾸십시오. 중계 사이트를 거칠 때는 AI가 명령을 완전 자동으로 실행하게 두지 말고, 명령을 먼저 확인한 뒤 실행을 허락하십시오. 중계 사이트를 운영하는 쪽에는 형사상 위험이 있으며, 제11절 제19항(AI 중계 사이트)를 보십시오. 이 조언으로 이익을 얻는 사람은 당신 자신입니다.

근거 수준

B : 연구의 뒷받침은 있으나 정확한 수치를 말하기 어렵거나, 소규모·단일 연구뿐임.

출처

1. 国家安全部 (2026). 「AI中转站」，风险要防范. https://www.szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5331487.htm（数字中国建设峰会官网转载国家安全部微信公众号）
2. Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. https://arxiv.org/abs/2604.08407

중국어 원서를 번역했습니다. 원서 제 14 절 제 10 항. 내용이 오래되었을 수 있고 제도는 지역마다 다릅니다. 실제로 민원·진료·소송을 할 때는 담당 기관, 의사, 변호사의 안내를 따르세요. 면책 고지