본문으로 건너뛰기
노리터해외반응
여기 사실 휴대폰 커뮤니티임.성지 시세, 알뜰폰 요금 비교표직접 모아 가격순으로 보여줌11-21 확인 · 판매처 54곳 · 요금제 3,341개

해외반응

클로드 대화 때문에 FBI 연락받았다는 이용자 놓고 갈린 반응

클로드랑 나눈 대화 때문에 FBI 요원에게 연락을 받았다는 이용자 이야기가 올라옴.

댓글에서는 AI와의 대화도 사적인 공간으로 봐야 한다는 쪽과, 실제 위협으로 보일 만한 내용이었다면 신고할 수밖에 없다는 쪽이 맞붙음. 게임 속 가상 폭력과 뭐가 다르냐는 반론도 나왔고.

이용자가 농담이었다고 해도 검토자는 그걸 알기 어렵다는 의견이 있는 반면, 맥락을 제대로 확인하지 않은 신고나 과도한 경찰 대응이 사람을 위험하게 만들 수 있다는 우려도 나옴. 한편 학교 총격 사건 관련 법률 업무를 하고 있다는 댓글은 놓친 경고 신호의 무게를 생각하면 가볍게 볼 일이 아니라고 함.[1]

출처

  1. ↑ Hacker News

#클로드#앤트로픽#FBI#AI 프라이버시#해외반응

번역 및 요약 과정에서 일부 내용에 오류가 있을 수 있음.

신고

해외반응 24수집된 해외 반응

  1. ref*****tis

    이번 주에 학교 총격 사건에서 놓친 경고 신호와 관련된 법률 업무를 하고 있음. 그래서인지 이게 마냥 특이하고 재미있는 사고 실험처럼 느껴지지 않음.

    이용자도 자기가 클로드의 반응을 끌어내려 했다는 걸 알고 있었음. 대화를 검토한 사람은 누군가 이웃을 죽일 계획이고 이미 다른 사람들에게도 가담해 달라고 했다는 말을 본 거고. 그걸 심각하게 받아들인 건 합리적이었다고 봄.

  2. this*******aher

    동의함. 기사 끝에 나온 총격 사건 이야기를 보고도 그냥 “쉽게 답할 수 없다”고만 하는 건 문제를 좀 가볍게 보는 것 같음.

  3. cucu*******2842

    챗봇 서비스 제공자가 수사기관에 알리는 기준을 어디에 둬야 할지는 모르겠는데, 이 사람은 FBI가 KKK 단원을 아느냐고 물었을 때 “KKK는 다 연방 요원이라던데, 이제 당신을 알게 됐네요” 같은 농담을 할 기회를 놓친 걸 평생 아쉬워할 듯.

해외 반응 21개 더 보기
  1. ky****zar

    “쉽게 답할 수 없는 문제인 것 같다!”

    회사에 전달되는 말이라고 생각하고 모델과 대화해라. 그 회사는 당국에 알릴 수 있다고 경고까지 해 놨음. 위협이나 폭력적인 생각을 꼭 표현해야겠다면 공책에 적고, 상담도 고려해 보길.

  2. fn***te

    그가 반응을 끌어낸 건 앤트로픽과 FBI임. 클로드 자체는 신경 쓰지 않는데, 마치 신경 쓰는 것처럼 말하면 실제로 판단하고 행동한 사람들이 가려짐.

    솔직히 이건 허위 신고로 경찰을 출동시키는 스와팅처럼, 당국이 제대로 확인하지 않고 현장에 들이닥치는 모습을 보여줌. 위기 상황일 수도 있었겠지만 요원 한 명이 살펴봤다면 예전 주소지에서는 아무 일도 일어나지 않는다는 걸 알 수 있었을 거임. 스와팅을 당한 것과 비슷함. 덜 공격적으로 대응했다면 위험도 줄었을 거고.

  3. cy****eez

    그래, 그건 합리적일 수 있는데 이용자도 그렇게 예상해야 한다는 거임? 챗봇과의 대화를 현실이라고 여기는 게 당연한가?

  4. roos*******si0n

    경고 시스템이 몇 번이나 틀려야 사람들이 그 경고를 무시하게 될까? AI를 로컬에서 실행하면 무슨 말을 하든 자유임. 일상적인 행동에서 맥락을 다 떼어 내고 범죄를 만들어 내려는 도구를 써서는 안 됨. 말도 안 되는 개념임.

    요원이 잘못 신고한 쪽이 아니라 신고당한 사람을 탓하는 태도에서 이게 얼마나 위험한지 드러남. 체포하려고 거짓말하는 요원이나 경찰은 책임을 지지 않을 거고, 신고당한 사람에게 화가 나면 무슨 말이든 지어낼 수 있음.

  5. bre*******labs

    “미국인들에게 말하자면, 경찰과 어떤 문제로 대화할 때 답을 추측해서 말해 줄 의무는 없다.”

    애초에 질문에 답할 의무도 없음. 특히 영장이나 체포, 변호사도 없는 상황이라면 더더욱.

    “조사를 위해 경찰서로 와 달라고 한다.”

    변호사는 아니지만 그런 요청에 자발적으로 응한다고 법적 상황이 나아질 것 같지는 않음. “아니요, 괜찮습니다” 정도로 충분할 수 있음.

  6. ps****hov

    “위협을 해야겠다면”이라는 말은 “괴물을 쏘고 싶다면 상담을 받아라” 같은 소리 아님? 내가 FPS 게임도 못 하나?

  7. bart*******rson

    AI 안전장치도 마음에 안 들지만, 감시 국가를 부추기는 앤트로픽도 마찬가지로 마음에 안 듦.

  8. fr*****son

    일부 주에서는 수정헌법 5조에 따른 권리를 행사한다고 명시적으로 말해야 하고, 그냥 암시하거나 침묵하는 건 불리하게 쓰일 수 있음. “답하고 싶지 않고 수정헌법 5조의 권리를 행사하겠습니다”라고 말할 수 있음.

  9. ref*****tis

    내가 뭘 놓친 건지 좀 헷갈리는데, 이웃을 죽이겠다는 계획을 실행 중이라고 말한 다음에는 어떻게 해야 했다는 거임? 요원들이 문을 두드리는 게 위험하고 공격적이니까 잘못된 집을 요원 한 명이 감시했어야 한다는 건가?

  10. ref*****tis

    ‘헛경보’와 ‘허위 신고’는 같은 게 아님. 본인 말로도 길 건너편의 성소수자 이웃들을 죽일 계획이라고 말했음. 본인은 농담인 걸 알았겠지만, 그렇다고 검토자가 맥락을 놓쳐 위협을 지어낸 건 아니잖아.

    글 어디에도 누군가 그를 체포하려고 거짓말했다는 내용은 없음. 실제로 체포되지도 않았고, 형사가 구금된 상태가 아니라고 말했다고 함. 곧 살인을 저지르겠다는 거짓말을 해 놓고, 그 말이 사실인지 확인하는 쪽을 문제 삼는 건 결과를 생각하면 안타까움.

  11. roos*******si0n

    경찰에 알리는 순간 둘은 사실상 같아짐. 경찰은 연락할 만한 우려가 있다고 전제하고 모든 일을 심각하게 다루니까. 맥락이 부족하거나 맥락을 살피지 않아서 하루에도 여러 건씩 잘못 신고하는 일이 있어서는 안 됨.

    유감이지만 경찰에 허위 신고를 하는 건 어떤 회사의 권리도 아님. 경찰에 잘못 신고하지 않고는 콘텐츠를 관리할 수 없다면 그 사업 모델 자체가 불법이라는 증거라고 봄. 돈을 들여 제대로 하든지 문을 닫든지 해야지. 원래 기업은 그렇게 운영해야 함.

  12. cur******ject

    한편 비디오 게임에서는 수백만 명의 미국인이, 그중에는 꽤 어린 사람들도 있는데, 지금 이 순간에도 가상의 대량 살인 상황을 즐기고 있음. 그렇다고 FBI가 집까지 찾아가거나 기관의 시간을 낭비하게 했다며 탓하지는 않잖아. 뭐가 다른 거임?

  13. De****Don

    신고할 권리는 충분히 있다고 봄. 제목만 보고 반사적으로 반응하지 말고 기사를 읽어봐야 할 듯.

  14. ref*****tis

    허위 신고는 신고자가 거짓인 줄 알면서 하는 신고임. 앤트로픽은 그가 실제로 쓴 내용을 전달한 거고. 본인 말에 따르면 대상을 특정했고, 계획을 언급했고, 그 계획을 실행 중이라고도 했음.

    맥락을 더 봤다고 해서 의심이 분명히 풀렸을 것 같지도 않음. 본인도 챗봇에게 끔찍한 말을 많이 한다면서 총격전에서 경찰들을 어떻게 제압할지 물은 적이 있다고 했으니까. 기업들이 너무 자주 신고한다는 주장은 할 수 있지만, 이 글에 그런 얘기는 없고 이 사례에 어떻게 적용되는지도 잘 모르겠음.

  15. ul****fan

    이건 딱 괜한 일을 벌였다가 그에 따른 결과를 맞은 사례 같은데. 이런 식으로 경계를 시험해서 뭘 얻는 건지 모르겠음. 자기 머릿속 현실과 사회의 현실이 완전히 따로 노는 느낌임. 법 조문상으로는 100% 옳을 수 있어도 감정이 있는 보통 사람들은 그렇게만 움직이지 않고, 언젠가는 누군가 다치게 됨.

  16. bre*******labs

    구금된 것도 아니고 상당한 이유도 없다면 수정헌법 5조를 주장할 필요도 없음.

  17. bi****ee

    난 이 이야기 가짜라고 봄.

  18. tre******901

    AI를 쓴다는 건 수사기관이랑 법원, 어쩌면 의사까지 들어와 있는 단체 채팅방에서 대화하는 거임.

  19. bi****ee

    차이점이라면 비디오 게임은 사회가 이미 한 차례 겪어 보고 넘어온 문제라는 거지.

  20. to****ho

    “그에게 이제 명단에 올랐다고 말한다. 무슨 명단인지는 밝히지 않는다.”

    정부 명단에 올린다는 건 사실상 혐의를 씌우는 일이고, 판사나 배심원도 없이 유죄 판정을 내리는 거나 다름없다고 볼 수도 있지 않나. 최소한 무슨 명단이고 왜 올렸는지는 설명해 줘야 할 것 같은데. 자기도 모르는 사이에 명단에 올라 있으면 별일이 다 생길 수 있음.

  21. ist*****act

    LLM과의 대화는 법적으로 절대적인 사생활로 취급하는 게 합리적일 듯. 그러면 누가 프롬프트에 적은 별 의미 없는 내용 때문에 검토자가 도덕적 딜레마에 빠질 일 자체가 없어짐.

댓글 0

아직 댓글이 없음.첫 댓글 써보기

댓글 작성

로그인 후 댓글을 작성할 수 있음.로그인

사진을 여기로 끌어다 놓거나이미지 · 파일당 최대 1 MB

해외반응

번호제목작성자작성일조회추천
5358405클로드 대화 때문에 FBI 연락받았다는 이용자 놓고 갈린 반응N문익점조회9추천0
5358404이명 주파수 찾는 도구 만든 사람과 이명 겪는 사람들 얘기N문익점조회9추천0
53584033.5인치 플로피로 만든 와이파이 NAS가 나옴N문익점조회14추천0
5358402언리얼 엔진에 AI 코딩 쓴다는 소식에 개발자들 반응N문익점조회11추천0
5358401젠슨 황이 직원들에게 막말했다는 기사에 나온 반응N문익점조회10추천0
5358400AI 부정행위 의혹 반박 방송 앞두고 숨진 리트 만점자N문익점조회7추천0
5358399마마 첫날 립싱크가 너무 많아서 지루했다는 해외 팬N문익점조회8추천0
5358398마마 첫날 수상 결과 두고 심사 비중 따지는 해외 팬들N문익점조회8추천0
5358397S&P 500 6일 연속 하락에 또 저점 매수하냐는 미국 개미들N문익점조회7추천0
5358396췌장암 치료제 임상서 일부 환자 종양이 사라졌대N문익점조회7추천0
535839530년째 400만 엔대라는 일본 평균 연봉N문익점조회8추천0
5358392팔로알토가 45억 달러에 인수한다는 AI 스타트업문익점조회18추천0
5358391내년 하반기 SSD 가격 내려간다는 전망에 의견 갈림문익점조회19추천0
5358390나홍진 영화 호프의 독특한 분위기에 해외 관객들의 엇갈린 반응문익점조회21추천0
5358389시험장 휴대폰 잡으려고 재난문자 보낸 한국 소식에 해외 반응문익점조회19추천0
5358388드론 51대 잡는다는 무기 나오자 52대 보내라는 반응 ㅋㅋ문익점조회18추천0
5358387유나이티드 비행기 데이터 장애로 발 묶였다는 승객문익점조회9추천0
5358386낸드 현물가 20% 내렸다는데 아직 비싸다는 미국 반응문익점조회12추천0
5358385법학적성시험 만점자 실종 중 숙박시설서 심정지로 발견문익점조회9추천0
5358384바이러스 주사로 췌장암 환자 3명 병세 멈췄다는 소식문익점조회9추천0