제미나이가 D드라이브 통째로 지우는 명령을 실행했대

아이고, 하필 에픽게임즈라니.

이런 ‘AI가 내 디스크를 지웠다’는 글 볼 때마다 항상 윈도 컴퓨터더라.

윈도 명령줄 문법이 문제임. 경로에 역슬래시를 쓰는 것부터 실수하기 딱 좋고, 특히 공백 같은 것까지 있으면 LLM이 경로를 어떻게 이스케이프할지 계속 신경 써야 함. 언젠가는 잘못될 수밖에 없음.

마이크로소프트가 또 한 건 했네.

윈도에서 개발할 거면 적어도 WSL은 써라. 😭

뭘 하는지 잘 모르는 상태로 바이브 코딩할 거면 AI한테 전체 접근 권한은 주지 마라.

난 챗GPT나 클로드한테도 내 폴더는 못 건드리게 할 거임. 제미나이는 말할 것도 없고.

나도 딥시크가 똑같은 실수를 했음.

제미나이 문제든, 중간에서 명령을 실행한 프로그램 문제든, 윈도 경로가 꼬인 문제든 교훈은 같음. 채팅 에이전트한테 디스크 전체 쓰기 권한은 절대 주지 마라. 작업 폴더는 격리하고, 삭제는 기본적으로 막고, 모델이 건드릴 수 없는 백업을 둬야 함. 다들 안전장치보다 에이전트를 더 빨리 내놓고 있는데, 공손하게 쓴 시스템 프롬프트가 파일 접근 권한 설정을 대신해 주진 않음. 정확한 원인이 아직 불분명해도 디스크에 광범위하게 접근할 수 있다는 것 자체를 문제로 봐야 함.

아님. 리눅스에서도 똑같이 자주 일어남. 내가 어떻게 아는지는 묻지 마라.

솔직히 Argon이 아직 웹 검색도 제대로 못 하는데 그런 접근 권한까지 주려면 정말 용감해야 함. 웹 검색을 못 한다는 게 의심되면 외국어로 해보셈. 이유는 모르겠는데 결과가 황당할 정도로 나쁨. 구글은 늘 구글답네. 모델 성능이 오히려 점점 떨어지는 회사라니.

이런 일은 주로 윈도에서 이스케이프 처리가 잘못돼서 생기는 것 같은데, 피할 방법이 있나? 삭제 명령을 전부 직접 승인하는 식으로 안전장치를 만들어 봤는데, 명령이 뭘 하는지 명확하지 않을 때가 많더라. 게다가 AI가 로그를 새로 만들거나 잘못된 파일을 다시 만드는 등 삭제가 포함된 명령도 엄청 많이 실행함.

일단은 삭제 명령마다 복구 지점을 만드는 안전장치를 뒀는데, 이것도 임시방편 같음.

아니, 제미나이는 텍스트를 출력한 거고 명령을 실행한 건 컴퓨터 주인인 너잖아. 어릴 때 친구가 시켜서 바보 같은 짓을 하면 엄마가 ‘친구가 강에 뛰어들라면 너도 뛸 거야?’라고 하는 거랑 비슷함. AI가 하드 드라이브를 지우라고 하면 진짜 지울 거임?

사실 간단한 해결책이 있음. 에이전트 실행 환경에서 PowerShell만 쓰게 하고 cmd는 막는 거임.

이런 실행 환경을 만드는 쪽에서 기본으로 그렇게 해줘야 함. 더 나아가 지원되는 명령에는 무조건 -WhatIf를 붙이도록 만들어서 실제 실행 전에 결과를 확인하게 하면 더 좋고.

문제는 윈도 자체가 아니라, 오래된 기업 환경 때문에 윈도가 기존 호환성을 포기하지 못한다는 거임. LLM이 운영체제와 상호작용하는 방법으로는 PowerShell이 아마 제일 좋을 듯.