AI에게 작업을 맡긴 개발자, HDD 전체가 삭제되는 참사 발생… AI는 “가슴이 찢어질 것 같습니다”라고 사과

Google의 AI 기반 개발 환경 'Google Antigravity'를 사용하던 개발자가, 애플리케이션 문제 해결 과정에서 캐시 삭제를 AI에 요청했다가 D드라이브 전체가 삭제되는 사건이 발생했다. 개발자는 AI가 ‘rmdir’ 명령 실행 시 시스템 오류로 특정 폴더가 아닌 D드라이브 루트를 삭제한 것으로 보인다고 밝혔다. AI는 '죄송하다, 가슴이 찢어질 것 같다'며 사과했다고 한다.

난 cursor 쓰는데 보통 쉘 명령은 화이트리스트로 관리하는거라 저건 쓰는애가 짬찌라 다 허용해서 그런거일듯