미국에서 한 여성이 앤스로픽의 AI 챗봇인 '클로드'를 일기장처럼 사용하다가, AI가 일기 내용을 경찰에 신고하면서 중범죄 혐의로 체포되는 일이 벌어졌음. 플로리다주 법에 따라 보안관 사무실을 공격하겠다는 내용의 글을 쓴 혐의를 받고 있다는데, 이 소식이 전해지자 해외 커뮤니티에서는 엄청난 갑론을박이 벌어지고 있음.

가장 먼저 나오는 이야기는 '아니, AI랑 대화하는 게 일기장 쓰는 거랑 뭐가 다르냐, 이건 명백한 사생활 침해다'라는 입장임. 사람들이 챗봇이나 클라우드 문서에 쓰는 내용을 기업이 몰래 들여다보고 경찰에 넘기는 건 빅브라더나 다름없다는 지적임. 내가 내 방에서 혼자 쓴 일기나 다름없는데 이걸 검열하고 신고하는 게 맞냐는 반응이 많음.

반면 기업 입장이 이해된다는 반응도 만만치 않음. 실제 총기 난사나 범죄 예고 사건이 터졌을 때 'AI가 알고도 방치했다'며 기업을 탓하는 언론과 대중의 반응을 생각하면, 앤스로픽 입장에서도 안 신고하면 욕먹고 신고하면 사생활 침해 소리 듣는 진퇴양난이라는 것임. 실제로 테라피스트나 변호사도 심각한 범죄 예고는 신고할 의무가 있는데 AI라고 예외일 수 있냐는 의견도 나옴.

결국 기술을 쓰는 사람들이 '내 컴퓨터가 아니면 내 데이터도 아니다'라는 점을 명심해야 한다는 자조 섞인 목소리가 큼. 오픈소스 모델을 로컬에 직접 구축해서 쓰거나 프라이버시가 보장되는 환경을 찾아야 한다는 사람들도 늘고 있음. AI가 우리 일상을 너무 깊숙이 파고든 시대에 과연 어디까지를 사생활로 봐야 할지 복잡한 화두를 던진 사건임.

출처: Hacker News