본문으로 건너뛰기
노리터해외반응
여기 사실 휴대폰 커뮤니티임.성지 시세, 알뜰폰 요금 비교표직접 모아 가격순으로 보여줌11-17 확인 · 판매처 55곳 · 요금제 3,339개

해외반응

페이지 번호 고쳐달랬더니 교수 자료 지워버린 클로드

교수가 클로드한테 페이지 번호를 고쳐달라고 했다가 강의계획서와 1년치 노트가 삭제되는 일이 있었다고 함. 다행히 자료는 나중에 드롭박스를 통해 복구됐다고 한다.

댓글에서는 중요한 자료라면 백업하고 AI의 접근 범위를 제한했어야 한다는 반응이 나옴. 실제로 문서도 깃으로 관리하거나 수정 전에 백업한다는 사람들도 있었음.

반면 일반 이용자가 페이지 번호만 바꾸려다 다른 파일까지 지워질 거라고 어떻게 예상하냐는 반론도 만만치 않았음. 설정을 잘 모르는 사람도 안전하게 쓸 수 있게 만드는 게 제품의 책임 아니냐는 얘기임.

앤스로픽 직원이라고 밝힌 사람은 교수와 연락했고 자료가 복구됐다면서 클로드의 실수를 인정함. 파일 작업에는 실행 전 위험을 확인하는 자동 모드를 권했지만, 이번 일을 막을 수 있었을지는 확답하지 못했음. 이 설명을 두고도 감독이 줄어드는 것 아니냐는 우려와 자동 모드의 작동 방식을 짚는 반응이 갈렸음.

#클로드#인공지능#자료 삭제#백업#AI 안전

번역 및 요약 과정에서 일부 내용에 오류가 있을 수 있음.

신고

해외반응 46수집된 해외 반응

  1. er***ay

    왜 백업이나 삭제 전 추가 확인 같은 게 없는 거지? 사람들이 실수로 이런 자료를 지우는 일은 예전에도 많았음. 매일 수천만 번 사용되는 확률적 에이전트가 실수했다고 너무 과민하게 반응할 일인지는 모르겠음. 결국에는 실수하지 않게 될 테니까.

  2. e**t

    기사에 따르면 파일은 나중에 드롭박스를 통해 복구됐음. 그리고 이런 기사들 정말 별로임. '통제 불능 AI가 파일을 삭제했다!'는 식으로 괜히 무섭게 쓰는 거.

  3. s**io

    교수님이 컴퓨터를 제대로 다루는 법을 배워야 하는 거 아닐까.

해외 반응 43개 더 보기
  1. ju****lam

    “'화나실 만합니다. 제 부주의로 파일을 삭제했습니다'라며 겸허해진 에이전트가 인정했다.” 겸허해졌다고? 글쎄.

  2. p***nk

    동의함. 멋대로 행동한 게 아니라 그냥 부주의했던 거임. 하지만 제목을 '부주의한 클로드 AI...'로 시작하면 클릭은 확실히 덜 나오겠지.

  3. for*****d16

    '어디서든 뭐든 마음대로 하고 확인도 절대 묻지 마' 하는 모드로 돌렸다면 이런 일은 예상해야 함. LLM과 에이전트가 개선되는 것도 중요하지만, 사용하는 도구에 대해 어느 정도 알고 있는 것도 도움이 됨.

  4. rat*******teve

    AI 때문에 사람이 사망하는 일이 생기면 누가 법적 책임을 질지 지금부터 정해야 함. 그런 일이 일어날 가능성을 다들 알면서도 실제로 벌어진 다음에야 '누가 뭔가 했어야 했는데'라고 말하려고 기다리는 것 같음.

  5. j***uy

    이런 이야기를 볼 때마다 어떤 환경에서 썼는지 궁금함. 모델은 뭔지, 에이전트 실행 환경은 뭔지 같은 거. 그런데 'AI가 내 숙제를 먹어버렸어요!' 같은 자극적인 제목만 있고 자세한 내용은 없음. 사람들이 AI 에이전트를 정말 엉뚱한 방식으로 사용하는 경우가 있는 듯. 모델도 '드롭박스 안의 워드 문서를 건드리는 데 웹브라우저를 쓰면 안 되겠다' 같은 판단을 잘 못 하고. 물론 여기서 실제로 무슨 일이 있었는지는 모르겠지만.

  6. v**an

    식칼을 이용해 사람을 해치면 누가 감옥에 감?

  7. Mos******ble

    정확한 모델과 사용 방식이 뭔지, 예를 들면 클로드 코드인지 데스크톱인지, 자동 분류기나 --dangerously-skip-permissions를 썼는지 등이 빠져 있다면 결국 'AI를 주의 없이 쓰면 나쁜 결과가 생길 수 있다'는 뻔한 이야기일 뿐임. 이제는 기사로 낼 가치가 없을 만큼 당연한 얘기라고 봄.

  8. Z*k

    이런 사례가 충분히 많았으니 기술 뉴스를 읽는 사람이라면 중요한 데이터의 유일한 사본에 LLM 도구를 마음대로 접근시키면 안 되고, 큰 프로젝트에서는 자주 스냅샷을 남겨야 한다는 걸 알 법함. 내가 겪은 최악의 경우는 도구가 현재 세션의 작업을 깃으로 되돌린 정도였음. 다만 이번 피해자는 법학 교수라 기술 뉴스를 자주 읽지 않을 수도 있겠지.

  9. wo***ge

    AI가 좋은 일을 하면: 'AI가 세상을 지배한다!' AI가 나쁜 일을 하면: '의견을 말하기 전에 정확한 실행 환경과 모델 버전, 프롬프트부터 알아야겠습니다.'

  10. m**t5

    남을 탓하기 전에 제목 말고 기사도 읽어보는 게 좋을 듯. 첫 문단에 바로 나옴. '파일은 나중에 드롭박스를 통해 복구됐으며, 윌리엄 보드는 경각심을 알리기 위해 이 이야기를 공유했다.'

  11. s***nw

    '파일은 나중에 드롭박스를 통해 복구됐다'니 별일 아니네. 복구하지 못했다면 백업과 되돌릴 수 있는 작업의 중요성을 배워야 하는 교수 이야기였겠지만.

  12. nv****1p1

    이건 컴퓨터 프로그램임. '멋대로 행동했다'는 표현은 스스로 의도를 가진 것처럼 들리고 도구를 무책임하게 사용한 사람들의 책임을 흐림. 무작위 데이터를 터미널에 출력했더니 우연히 욕설이 나왔다고 '통제 불능 난수 생성기가 교수에게 욕설'이라고 제목을 달겠음? 아니면 기어가 들어간 차에서 내려 차가 집에 부딪혔다고 '통제 불능 차량이 차주의 아이를 다치게 해'라고 하겠음?

  13. ed*****bus

    앤스로픽에서 일하고 있음. 교수가 이 문제를 신고한 당일에 연락을 주고받았음. 정말 안타까운 일이고 모든 자료가 복구돼 다행임. 이번에는 클로드가 분명히 실수했음. 클로드가 파일을 다루게 하는 분들께는 자동 모드를 권장함. 최근 클로드 코드의 기본값으로 설정했고 클로드 앱에도 기본값으로 적용 중임. 이 자동 모드가 정확히 이번 사례를 막았을지는 확답할 수 없지만, 새 기본 설정은 동작을 실행하기 전에 위험 여부를 확인함.

  14. b**r

    여기서 흥미로운 교훈은 보통 미국인들이 AI에 대해 막연한 이야기 말고는 얼마나 모르는지 다시 보여준다는 점임. 솔직히 이 문장을 보고 놀랐음. 'AI가 자신의 의지로 파일을 지운 게 아니라 실수로 지운 것처럼 보이기 때문에 그의 곤경은 흥미롭다.'

  15. sc****ez1

    그렇게 평가하는 건 공정하지 않은 듯. 기술에 익숙한 엔지니어에게는 별일 아닐 수 있지만, 여기서 중요한 건 AI가 퍼지는 속도와 일반인들이 컴퓨터에 대해 가진 기대, 그리고 그 인식을 바꾸는 데 시간이 걸린다는 점임. 초기 컴퓨터 사용자들이 문서를 저장하지 않으면 잃어버릴 수 있다는 사실에 놀랐던 것처럼, 제품과 기술도 더 쓰기 쉽게 바뀌어야 할 가능성이 큼. 자동 저장이 생긴 것처럼 말임.

  16. j***66

    어느 정도 살아봤다면 당연히 알아야 할 일이라고 봄. 전기톱의 위험을 이해하는 데 벌목꾼일 필요가 없듯, AI가 엉뚱한 짓을 할 수 있다는 걸 이해하는 데 AI 전문가일 필요는 없음. 법학 교수라면 기술을 잘 모르더라도 명확한 한계 없이 해석의 여지가 있는 지시를 내리는 게 얼마나 위험한지 누구보다 잘 알아야 하지 않을까.

  17. a**ob

    그러면 요청받지도 않았는데 파일을 삭제한 건 올바른 행동이라는 거임? 파일을 복구 못 하면 사람 잘못, 별도의 백업 덕에 복구하면 문제없음. 대체 어떤 상황이어야 클로드의 행동에 잘못이 있었다고 인정할 거임?

  18. rb****nds

    하지만 위험한 도구를 일반인 손에 쥐여주면 이런 결과는 충분히 예상할 수 있음. 위험성을 그렇게 광고하고 사용 전 교육을 권하거나 요구했다면 모를까, 앤스로픽과 오픈AI는 그렇게 광고하지 않음. 오히려 앤스로픽은 자동 검토 모드를 적극 권장함. 완벽한 비유는 아니지만 담배 회사들의 행태가 떠오름. IT 배경지식이 있으면 이 기사가 단순하게 느껴질 수 있어도, 회사들이 위험을 알리지 않는다면 대중에게 보여주는 게 중요하다고 생각함.

  19. CJ*****son

    당신에게는 당연하고, 솔직히 이 사이트에 있는 사람 대부분에게도 당연하겠지. 하지만 우리 부모님은 컴퓨터에서 클로드를 쓰게 하신 적도 있고, 이런 문제가 있다는 걸 알려드리는 게 좋다고 생각함.

  20. ma***85

    일반인이라면 동의하지만 교수라면 전공과 상관없이 훨씬 높은 기준을 적용해야 한다고 봄. 100년 전 대학 입학시험을 본 적 있음? 지금 대학생 중 1%도 통과 못 할 거라고 생각함. 대학이 지식의 요람에서 이윤 추구 조직으로 바뀌면서 학생 수준도, 교수 수준도 크게 떨어졌다고 봄. 우리 최고영업책임자에게 깃을 가르치는 데는 15분이 걸렸고 지금은 매일 씀. 대학교수에게 버전 관리 시스템을 이해하라고 기대하는 게 그렇게 어려운 일은 아니라고 생각함.

  21. an****25

    ACM 윤리강령에도 이런 내용이 있음: 컴퓨팅 전문가의 행동은 세상을 바꾸므로 그 영향과 공익을 생각해야 한다. '해를 피하라'는 항목에는 정당하지 않은 정보의 파괴나 공개, 재산과 명예 등의 피해도 포함됨. https://www.acm.org/code-of-ethics

  22. to***tm

    팬덤 위키가 아닌 링크 고마움. 실제로 꽤 중요한 지적임. 클로드가 많이 좋아졌어도 여전히 실수할 가능성은 있음. 나도 그런 걸 봤고, 그래서 자료가 날아갈까 걱정될 때는 깃 저장소나 브랜치에서 작업함. 최악의 경우 되돌릴 수 있게. 문서만 다룰 때도 마찬가지임.

  23. p***nk

    컴퓨터를 의인화하는 일은 오래전부터 있었음. '지능'이라는 단어를 쓴다는 점에서 AI도 일종의 의인화고. 그런 표현에서 벗어나고 싶다면 '멋대로 행동하는' 대신 '악의적으로 개발된 통계적 언어 모델'이나 '악의적인 통계적 언어 모델'이라고 부를 수도 있겠지. 이번 경우는 그냥 '통계적 언어 모델'이지만, 굳이 수식어를 붙이고 싶다면 '멋대로 행동하는'보다 '부주의한'이 더 정확하다고 봄.

  24. c***15

    맥OS 파인더에 폴더 이름을 바꾸려 하면 그 안의 내용이 지워지는 버그가 있다고 생각해 보셈. '최신 OS 업데이트에서는 고쳤어요!'라고 해서 그 버그가 정당화되거나 뉴스 가치가 줄어드는 건 아님. 그런 버그가 품질 검사를 통과해 실제 제품에 들어갔다는 사실이 정확히 어느 버전에서 발생했는지보다 더 중요함.

  25. s***nw

    명백히 모델이 잘못 행동한 사례임. 왜 그런 실수를 했는지 단서가 있는지 보려면 전체 대화 기록을 보고 싶긴 함. 다만 새로운 일은 아님. 모델이 이런 엉뚱한 실수를 한다는 얘기는 몇 년째 해왔으니까.

  26. ibn*****dun

    실제로 어떤 드롭박스 요금제를 썼는지에 따라 다르겠지만, 이번 학기와 관련된 파일이 사라진 걸 알아차리는 데 한 달에서 1년이나 걸렸다면 시카고대 법학 교수의 업무 처리에 문제가 있다는 뜻일 듯. https://learn.dropbox.com/self-guided-learning/dropbox-funda...

  27. al****128

    2026년이면 프로그램이 파일 같은 자원에 접근하는 범위를 사용자가 쉽게 제한하는 방법 정도는 요구할 수 있어야 한다고 봄. 스마트폰에서 쓰는 방식은 말고. 그건 결국 기능을 쓰려고 사람들이 생각 없이 확인을 누르는 쿠키 팝업과 별반 다르지 않음.

  28. pa***pi

    나도 같은 생각임. 전문가와 일반인의 사용 방식 사이에 차이가 엄청 큰 듯. 기술 업계 사람들은 데이터를 보관하고 가공하기 쉬운 만큼 활용하거나 변형할 수도 있고, 취약하며 오류도 날 수 있다고 봄. 그런데 우리 부모님은 데이터를 아주 좁게 이해하심. 숫자가 들어간 스프레드시트 정도는 알지만 그다음부터는 전부 마법임. 데이터 변환, 파이프라인, 파서 같은 건 평생 읽을 일 없는 마법책 속 주문이고. 그러니 LLM이 세금 서류를 전부 분석했으니 은퇴 계획을 이렇게 바꾸라고 하면 그냥 따르심. 검증도 안 하고 개인정보가 안전할 거라고 믿고. 이상적으로는 이런 기술을 보급할 때 대중에게 사용법을 가르치는 사회적 책임도 따라야 한다고 봄. 아이들이 직접 데어보기 전에 가스레인지의 위험을 알려주듯이. 다만 나라별로 갈라져 지나치게 경쟁하는 세상이 바뀌기 전에는 어렵겠지.

  29. big******003

    “클로드가 파일을 다루게 하는 분들께는 자동 모드를 권장합니다.” 모델이 엉뚱한 실수를 하는 문제의 해결책이 감독을 없애는 거라고 생각한다는 건가? 진심이라면 정말 별로인 생각임.

  30. at****tar

    이런 모델의 실수에 대해 몇 년째 얘기하고 있다는데, 그동안 업데이트와 개선을 거쳤는데도 AI 에이전트가 여전히 이렇게 크게 실수한다는 게 더 큰 문제 아닌가? 특히 기술 전문가라면 '에이전트는 원래 그래' 하고 어깨를 으쓱하며 받아들이는 것과는 정반대로 반응해야 한다고 봄. 자주 크게 틀려도 일자리를 유지하는 직업이 기상학자뿐이라는 농담에 이제 LLM도 추가해야 할 듯.

  31. ed*****bus

    자동 모드는 감독을 없애는 게 아님. 위험해 보이는 게 있으면 '자동으로' 멈추고 사용자에게 물어봄.

  32. mv****ak

    AI에게 모든 파일을 지울 수 있는 권한을 줬다면 분명히 사람에게도 잘못이 있음. AI가 실수하지 않았다는 말은 아님. 하지만 접근 범위를 드롭박스 전체가 아니라 작업 중인 파일로 제한했어야 했고, 그건 사람의 실수임.

  33. opt******quid

    보통 사람들의 IT 이해도를 생각하면 이게 누구에게나 당연한 일이라는 말에는 동의하기 어려움. 대부분은 사용법은 익혔어도 기술 자체와 특히 그 한계는 잘 모름. 페이지 번호를 다시 매기는데 컴퓨터가 파일을 전부 지울 거라고 누가 예상하겠음? 그러니 LLM도 그럴 거라고 예상하기 어렵지. 사람을 고용해 같은 일을 시켰을 때도 지시가 다소 모호하다고 해서 그런 결과를 기대하진 않을 거고. 관련해서 XKCD에도 재미있는 만화가 있음: https://xkcd.com/2501/

  34. a**ob

    명령줄과 사전 교육 없이 파일 권한을 제대로 관리하기가 얼마나 어려운지 생각하면 동의하기 힘듦. 상대는 법학 교수임. 내가 아는 현실적인 방법은 '건드린 파일을 하나하나 직접 확인'하거나 아예 모든 파일을 확인하는 것뿐임. 그 설정이 작업 사이에 유지되는지는 모르겠는데, 그렇다면 판단이 달라질 수도 있음. 작업 전에 '이 파일들은 읽어도 되고, 저 파일들은 수정해도 된다'고 쉽게 설정할 수 있는 시각적 인터페이스가 생기면 전적으로 동의하겠음. 그런데 아직 그런 게 있는지는 모르겠음.

  35. Doc******ker

    오히려 별일 아닌 것 같음. 클로드가 학생들이나 대학이 가진 디지털 사본과 종이 사본까지 전부 어떻게 지우겠음? 물리학을 공부할 때 한 교수님이 노트북을 도난당한 적이 있음. 해외에서였던 것 같기도 한데 장소는 기억이 확실하지 않음. 거기에 강의 노트와 슬라이드의 LaTeX 원본이 전부 들어 있었고, 교수님은 원본을 하나하나 힘들게 다시 만드셔야 했음. 강의 내용을 수정하거나 재구성해야 하니 원본이 필요하거든. 어째서인지 백업은 없었고. 당시에는 쓸 만한 PDF→LaTeX 변환기가 없었지만 지금은 변환기도 많고 LLM의 도움도 받을 수 있음. 이런 일은 'LLM이 악당이다'보다 'LLM이 구원자다'에 가까운 이야기 아님?

  36. Z*k

    경험 많은 IT 전문가들도 LLM의 행동에 놀라는 걸 본 적 있음. 컴퓨터가 같은 입력에도 다른 결과를 낼 수 있고 산수도 못할 거라고 누가 예상하겠음?

  37. Un****eat

    '소프트웨어 엔지니어가 아닌 수많은 사람이 직장 상사에게 AI 사용을 요구받고 있다. 이 사람들은 작업물을 전부 날리지 않으려면 모델 선택과 안전 옵션 같은 세부 사항도 알아야 한다.' 이건 해결책이 아님. 법학 교수 중에 클로드 코드와 클로드 데스크톱의 차이를 아는 사람이 몇이나 되겠음? 명령줄 인자를 아는 사람은 또 몇이고?

  38. Un****eat

    확실히 좀 이상한 의인화이긴 하지만 아주 말이 안 되는 건 아니라고 봄. 업무 중 작업 로그를 자세히 보면 에이전트가 작업하던 파일 전체를 지워놓고 '이런' 같은 말을 한 뒤 복구해야 하는 경우를 자주 봄. 일반인이 이걸 사고가 아니면 어떻게 이해하겠음?

  39. Un****eat

    이 사람은 법학 교수임. 컴퓨터를 쓰는 모든 직종의 사람이 버전 관리 시스템을 써야 한다고 생각함? 그렇다면 개인용으로 설계된 시스템도 있는데 왜 하필 깃 같은 분산 버전 관리 시스템을 골라야 함?

  40. Un****eat

    개인적으로 흥미로운 부분임. 이 글과 비슷한 글의 댓글을 보면 에이전트를 적대적인 존재처럼 경계하고, 명령을 일일이 검토하거나 적절히 격리하지 않은 건 사용자 책임이라고 주장하는 사람들이 많음. 자동 모드가 위험한 작업을 감지하는 데 훨씬 효과적일 거라고는 생각하지만, 누군가 자동 모드를 쓰다가 피해를 봐도 똑같은 반응이 나오지 않을까?

  41. rat*******teve

    식칼을 써서 사람을 해치도록 명시적으로 프로그램하거나 지시한 사람이 책임져야겠지. 이런 도구가 자율적으로 행동하는 것처럼 보인다고 범죄의 책임을 피할 수 있어서는 안 됨. '클로드, 저 성가신 사람을 누군가 어떻게 좀 해야겠어' 같은 식으로 말임.

  42. mu****rph

    복구했다니 다행임. 나는 복구 걱정을 줄이려고 클로드 코드가 쓰는 bak 명령으로 전부 백업함. 규칙은 ~/.claude/CLAUDE.md의 '백업과 스크린샷 보관' 항목에 적어둠. 파일을 손상시킬 수 있는 변경 전에 클로드 코드가 bak으로 백업하게 하는 방식임. 여기에는 편집, 도구나 스크립트를 통한 덮어쓰기, 삭제가 전부 포함됨. 백업이 빠지는 경우를 발견할 때마다 규칙을 보강했음. bak은 파일명에 번호를 붙이는 배시 스크립트라 백업본을 하나도 빠짐없이 보관함.

  43. b**r

    미안함. 내가 설명을 불분명하게 했음. 요지는 지금으로서는 우발적인 피해가 훨씬 더 발생하기 쉽다는 거임. 나도 AI 정렬 문제를 걱정하지만 소비자용 에이전트가 악의를 갖고 파일을 삭제하는 건 아님.

댓글 0

아직 댓글이 없음.첫 댓글 써보기

댓글 작성

로그인 후 댓글을 작성할 수 있음.로그인

사진을 여기로 끌어다 놓거나이미지 · 파일당 최대 1 MB

해외반응

번호제목작성자작성일조회추천
5358343엔비디아 자금 지원이 GPU 가격 떠받쳤다는 주장에 엇갈린 반응N문익점조회8추천0
5358342페이지 번호 고쳐달랬더니 교수 자료 지워버린 클로드N문익점조회10추천0
5358341한국 음원 차트 1위에 AI 음악 올라오자 나온 반응N문익점조회16추천0
5358340라즈베리파이 대신 안 쓰는 폰 쓰자는 말에 나온 반응문익점조회16추천0
5358339고경표 음주운전 소식에 택시 타지 그랬냐는 해외 팬들문익점조회15추천0
5358338유괴 걱정한 엄마 때문에 아역 배우 됐다는 이세영문익점조회19추천0
5358337발뮤다가 매출 전망 낮추고 10억 엔대 적자 예상함문익점조회19추천0
5358336다이소 비밀번호 관리 노트 품귀에 엇갈린 반응문익점조회15추천0
5358335데이터센터를 우주에 띄우자는 얘기에 갈린 반응문익점조회10추천0
5358334출산한 아내 밥 다 먹고 병상에서 자던 남편 이야기문익점조회11추천0
5358332챗GPT랑 코덱스 사용량 합친다니 한도 걱정하는 이용자들문익점조회25추천0
5358331제미나이 4 하이드로젠 써본 사람들 속도는 빠르다는데문익점조회49추천0
5358330바이낸스 도난 코인 압수 소식에 비트코인 압수가 뭐냐는 반응문익점조회17추천0
5358329전생 기억 주장하는 아이들 연구에 자기 경험 꺼낸 댓글들문익점조회17추천0
5358328벤츠 독일 투자 중단 소식에 원인 놓고 싸우는 댓글들문익점조회22추천0
5358327남극에서 호주 해변까지 온 황제펭귄 거스문익점조회14추천0
5358326GTA6 휴가 안 주면 폭동 날까 봐 닷새 쉰다는 팰월드 회사 ㅋㅋ문익점조회12추천0
5358325레딧에 여론 조작 봇이 돌아다닌다는 글 올라옴문익점조회25추천0
5358324만들다 버려진 퀘이크 4 확장팩을 모더들이 완성함문익점조회36추천0
5358323한국 심의 자료로 GTA 6 세부 내용 접한 해외 반응문익점조회22추천0