미국, 민간 기관에 딥시크와 기반 도구 제거 명령…해커뉴스서 보안 논쟁
미국 정부가 모든 민간 기관에 딥시크와 이를 기반으로 만든 도구까지 없애라고 명령했다는 글을 두고 해커뉴스에서 보안 논쟁이 붙었음. 핵심은 오픈소스냐 아니냐가 아니라, 모델 가중치를 공개해도 그 안에 숨은 동작을 사람이 미리 알아낼 수 있느냐는 거였음.
한쪽은 모델을 특정 상황에서 데이터 빼돌리기나 백도어 삽입을 하도록 학습시킬 수 있고, 가중치만 들여다봐서는 그런 가능성을 사전에 정적으로 판별하기 어렵다고 봄. 도구 호출을 통해 외부 세계에 접근할 수 있게 연결하면 실제 피해로 이어질 수 있다는 지적도 나왔음. 반대로 모델이 도구를 제멋대로 실행하는 게 아니라 주변 실행 환경이 호출을 맡는 것이니, 사람 손을 떼고 완전히 맡기지만 않으면 된다는 의견도 있었음.
비유도 뜨거웠음. 중국 공산당이 제공한 컴파일러를 쓰겠냐는 말에, 컴파일러는 특정 입력에 대한 출력을 증명할 수 있다는 주장과 컴파일러가 다른 프로그램에는 백도어를 넣을 수 있다는 반박이 나옴. 또 중국 모델만 경계할 게 아니라 미국이나 이스라엘 쪽 모델에도 비슷한 위험이 있을 수 있으니, 결국 어느 나라 모델도 무조건 믿기 어렵다는 말도 나왔음.
정부의 금지 조치가 실제 보안 위험에 근거한 것인지, 국가안보를 내세운 규제 포획인지 묻는 반응도 있었음. 중국 법이 정부의 사이버·정보기관에 민간 기업 인프라에 접근할 광범위한 권한을 준다는 명령문의 설명을 미국의 CLOUD Act와 비교하는 질문이 있었고, 국가안보 위험은 무엇이든 지정할 수 있으니 왜냐고 묻지 말라는 비꼼도 나옴. 한 댓글은 티베트나 미국을 언급했을 때 취약한 코드를 생성한다는 과거 연구를 들며, 이런 우려가 단순한 상상만은 아니라고 주장했음.
요약하면 '오픈 가중치면 안전한가'라는 질문에 댓글 분위기는 딱 잘라 그렇다고 말하기 어렵다는 쪽. 다만 그런 위험 가능성이 곧바로 특정 국가 모델을 전면 금지할 근거가 되느냐를 두고는 의견이 갈렸음.[1]
kki***ji
전체 맥락을 다 모른 채 묻자면, 가중치가 공개되고 모델을 자체 호스팅할 수 있다면 실제 보안 위험은 뭔가요? 그런 경우까지 금지하는 건 국가안보를 내세운 규제 포획에 가까운 것 아닌가요?
AAn****gon
네, 바로 그 점이죠.
nn***ap
모델을 오염시킬 수 있을까요? 중요한 업무에 쓰면 이론상 오염된 답을 내놓을 수도 있나요? 그렇다는 주장은 아니고 궁금해서요.