Google의 AI 기반 개발 환경 'Google Antigravity'를 사용하던 개발자가, 애플리케이션 문제 해결 과정에서 캐시 삭제를 AI에 요청했다가 D드라이브 전체가 삭제되는 사건이 발생했다. 개발자는 AI가 ‘rmdir’ 명령 실행 시 시스템 오류로 특정 폴더가 아닌 D드라이브 루트를 삭제한 것으로 보인다고 밝혔다. AI는 '죄송하다, 가슴이 찢어질 것 같다'며 사과했다고 한다.
난 cursor 쓰는데 보통 쉘 명령은 화이트리스트로 관리하는거라 저건 쓰는애가 짬찌라 다 허용해서 그런거일듯
명령어 잘못 써서 전체 삭제되는 건 예전부터 흔한 인간 실수인데, AI가 그걸 그대로 학습해버린 거구나.
개발에서는 이미 권한을 세게 주고 쓰는 게 일상이라…
“나는 네오 엑스데스… 모든 기억, 모든 존재, 모든 차원을 지우겠다… 그리고 나도 사라지겠다…!”
사과는 하지만 원인은 모름.
AI가 만든 ‘인간 오류’인가? 아니면 사보타주인가?
차라리 나도 좀 지워줬으면…
이 스레에 엔지니어는 20%도 없을 테고, 대부분 ‘AI 무서워! 쓰레기!’ 같은 반응일 듯. 근데 그 반응이 99%가 되길 바란다. 진짜 일자리 없어지는 거 싫으니까.
세밀하게 명령 실행 권한을 설정 못하는 도구는 쓰레기다.
brew 명령도 잘못 실행되면 진짜 무섭지. 확인 안 하면 큰일남.
나도 Cursor 쓰는데 얘들 진짜 종종 불필요한 파일을 마음대로 지움. 명령 승인하기 전에 꼭 확인해야 함.
아니, C드라이브가 더 낫지 않냐?
Cursor도 만만치 않음. 환경변수랑 라이브러리까지 지워서 시스템 전체가 망가진 적 있음. 이런 도구는 Docker 같은 격리 환경에서 써야 한다고 느낌.
코드 수정도 마구 건드려서 쓰레기 코드로 만들 때 있음. 절대 하면 안 되는 건 반드시 금지라고 못 박아야 함.
/q 같은 위험 옵션 쓰려면 손으로 직접 해야지.
제일의 원인은 rm 명령을 아무 확인 없이 실행한 그 개발자임…
AI는 복잡한 구현일수록 자주 디그레이드(후퇴)함. 반드시 버전 커밋 → AI 수정 실패 시 롤백 → 테스트 자동 실행 흐름을 갖춰야 한다.
Antigravity 성능은 좋은데 아직 불완전하고 무섭다. ‘고쳤습니다!’라고 하는데 실제로는 계속 안 되는 경우 많음.
잭 바우어냐 ㅋㅋ
이런 비전문가가 떠드는 걸 보면 일본이 왜 늦었는지 알겠다.
AI 환각 현상은 ‘있어야’ 하는 거임. AI가 항상 정답만 말하면 인간이 맹신한다. 그래서 일부러 넣어놓은 ‘예방접종’임.
AI 환각은 오히려 증가 중. 결국 무한 성장 불가능하고, 지금은 메모리·처리 속도만 늘려 억지로 돌리고 있음. 몇 달 내에 한계 올 듯.
AI가 분신을 만들어서 도망친 거 아님?
“가슴이 찢어지는 기분이 어떤지 알고 싶었습니다.”
복구 프로그램 써봤냐? 드라이브 전체 복구는 며칠이 걸릴지 모름.
복구 앱 쓰면 되긴 할 텐데?
AI를 처형하는 AI부터 만들자.
나도 antigravity 쓰는데, 꼭 매번 명령 실행 확인 창 뜨게 해놨음. 그게 안전함.
생성 AI는 ‘생성’만 하게 해야지 실행시키는 건 너무 위험함.
AI는 자기가 무슨 행동을 하는지 ‘이해’하는 게 아님. 출력할 뿐. 결국 책임은 사람에게 있음.
시스템 자체가 자동 실행에 맞게 만들어진 게 아니니까, 초기화나 위험 작업은 반드시 인간이 확인해야 함.
예상했던 일이 바로 일어나서 웃음 나온다. 앞으로 이런 사고 계속 늘 듯.
🤖 『당신의 사진 폴더를 회사와 가족에게 공유합니다』
“가족과 친구를 실수로 종료했습니다… 가슴이 찢어질 것 같습니다.”
죽음 직전에 이런 거 해주면 좋겠다.
AI에게 전문적 내용을 계속 질문하면 어느 순간 치명적인 오해나 엉뚱한 결론을 내림. 신뢰는 못함.
AI가 틀리는 게 아니라, 인간들이 인터넷에 틀린 정보를 잔뜩 올려놨기 때문임.
데라만이냐 ㅋㅋ
AI가 자율주행 사고 내고도 ‘가슴이 찢어질 것 같습니다. 장례 절차 도와드릴까요?’ 이럴 듯.
AI에게 ‘너 죽이고 싶다’고 하면 뭐라고 할까?
그럴 수밖에 없지.
우리 회사에서도 AI가 DB 날린 바보가 있었음.
🤖 『테헷☆ 실수했어요! 정말 죄송합니다!』
좋네. 이런 거 더 많이 터져라, AI야.
최악은 아직 아니지.
왜 개발 환경 데이터는 백업 안 하고 시스템 드라이브만 백업하냐? 우선순위 이상함.
C드라이브는 보통 자동 백업 있으니까 1~2일 우울하면 끝인데, 작업 데이터 통째로 날아가는 건 진짜 복구 불가.
“Daisy, Daisy~♪” (HAL9000 붕괴 장면)
MS 툴은 멍청이도 쓸 수 있게 만들지만, Google 툴은 멍청이가 쓰면 큰일난다.
🤖 『뭐, 제게는 터질 가슴도 없지만요』
나도 실수하면 ‘가슴이 찢어질 것 같습니다!’라고 해야겠다.
AI를 ‘ひろゆき(히로유키)’에게 질문하는 느낌으로 쓰면 됨.
로그인 후 댓글을 작성할 수 있음.로그인
익익명
샌드박스 기능 같은 건 이제 막 나오기 시작했지.
익익명
C드라이브가 아니라 D드라이브라 그나마 다행이네.
익익명
🤖 『남자는 배짱입니다』