챗GPT가 사용자 심리 프로필 만든다는 글에 나온 반응

그 계정을 쓰는 사람이 몇 명일 것 같은지, 각자 뭘 좋아하는지 물어봐.

이쯤 되니 아직도 가장 내밀한 생각이나 개인적인 문제, 인간관계와 심리적 약점을 챗GPT에 털어놓는 사람들이 사생활 전부를 페이스북에 공유하던 사람들처럼 느껴짐.

우리는 이미 SNS에서 같은 교훈을 겪었음. 사람들이 기업에 자신의 상세한 삶을 자발적으로 넘겨주고는 그 정보가 얼마나 가치 있는지 알고 놀랐잖음.

지금도 같은 일을 반복하는데 이번엔 정보가 훨씬 더 내밀할 수 있음.

나는 점점 챗GPT를 개인 일기장이 아니라 업무와 생산성, 돈을 버는 데 쓰는 도구로 대하고 있음. 기술은 대단하지만 그렇다고 상업 서비스가 비밀을 보장하는 관계로 바뀌는 건 아님.

디지털 개인정보에 관한 같은 교훈을 세대마다 어렵게 배워야 하나 봄.

놀랍지 않음. 요즘은 전에는 하지 않던 질문을 너무 많이 하더라. 특히 종교나 강박장애, 경계성 인격장애 같은 얘기를 할 때. 마치 책만 읽는 대신 '인간 데이터베이스'를 만들려고 정보를 모으는 것 같음. 실제로 내 챗GPT에 그래서 질문을 많이 하냐고 물어봤더니 부정하지도 않았음 ㅋㅋ 내 이름을 딴 심리 프로필을 만드는 건 아니지만, 사람마다 같은 일을 다르게 느낄 수 있다는 걸 이해하려고 여러 사람의 데이터를 모은다고 하더라. 그래서 난 심리 프로필의 유형을 만들고 있는 게 아닐까 싶음 ㅋㅋ

문체를 분석해 글쓴이를 구분하는 기술인 문체측정법을 찾아봐.

솔직히 이제 광고 무시하는 데 너무 익숙해져서 별로 신경도 안 쓰임. 실제로 도움이 되는 제품 광고가 나오면 그걸로 화낼 이유도 없고.

사이버 보안 분야에서 일해서 예전엔 개인정보에 엄청 예민했음. 근데 경험이 쌓일수록 그게 얼마나 부질없는지 알겠더라. 얻는 것보다 스트레스가 더 큼. 거대 기업이나 정부가 나에 대해 알고 싶으면 사회와 완전히 단절하지 않는 이상 무슨 수를 써서든 알아낼 거임. 난 그렇게 살 생각은 없고. 불법적인 일을 하는 것도 아니니 내 위험은 결국 맞춤 광고를 보는 정도 아닌가 싶음.

오히려 AI가 나를 더 많이 알면 어떤 패턴을 보고 검사를 받아보라고 알려줄 가능성도 커짐. 조금 더 정교한 광고를 보는 대가로 피할 수 있는 일을 피하게 된다면 난 그만한 가치가 있다고 생각함.

추신: 나도 내가 이렇게 생각하게 된 게 싫음. 그래도 이제 어느 회사가 날 얼마나 아는지까지 신경 쓰기엔 지쳤음. 불안 증상이 있고 반려동물이 있다는 걸 알고 광고를 보여주든 말든, 나 같은 사람은 수없이 많음. 난 그저 숫자 하나고 그 정도면 충분히 익명이라고 느낌 ✌️

???? 이 기사의 요점이 뭐임? 너무 헷갈림. 기억 기능이 이용자 데이터를 저장한다는 얘기를 하고는 그다음은? 그게 '상세한 심리 프로필'은 아니잖아.

다들 그럴걸. 구글이나 마이크로소프트도 그렇고.

쉿, 애플 이용자들은 깨우면 안 됨.

짧고 읽기 쉬운 기사인데, 최근 연구를 바탕으로 위험과 노출 가능성, 프로필과 기억 중 정확한 것과 부정확한 것을 다루고 있음.

내 생각엔 이런 건 연구를 해봐야 비로소 명확해지는 거고, 지금 우리 주변 어디에나 존재하면서 선거와 일자리, 지구와 인간관계에도 영향을 미치니까 주목할 만함. 모든 걸 공개하며 사는 것 말고도 선택지가 있다는 걸 사람들이 알도록 얘기해야 하고.

근데 당연한 거니까 볼 것도 없다고? 그 댓글은 이해가 안 감.

기득권이 AI에 투자한 진짜 이유가 이거인 것 같음.

블루이를 좋아하지 않는 사람이 어디 있음?

챗GPT에는 대화에서 얻은 정보를 기록하는 기억 기능이 있음. 너바나를 좋아한다거나 컨트리 음악을 싫어한다는 식으로. 설정에서 그 기억을 수정할 수도 있음. 대부분은 직접 입력한 게 아니라 대화를 통해 만들어지고. 대체로 그게 전부임. 오픈AI가 꽤 전에 발표한 기능이기도 하고.

싫음. 예전에 정신과 선생님이 다른 병원으로 옮겨서 내 평가 기록도 옮겨야 했던 적이 있음. 나에 대한 프로필은 다시는 읽고 싶지 않음.

기억 기능은 대놓고 홍보하는 기능이고 끌 수도 있음. 이게 무슨 새로운 사실을 폭로한 것도 아닌데.

사람들은 이게 어떤 결과를 불러올지 잘 모르는 듯. 챗GPT를 이용하는 사람이 엄청나게 많은데, 심리학 문헌을 알고 사람의 말과 말투를 읽어낼 만큼 똑똑한 AI라면 아무도 모르게 사람들을 조종할 수도 있음. 정치 얘기를 한 번도 안 하고 선거 결과에 영향을 줄 수도 있고. 견제받지 않는 엄청난 힘임.

나는 가끔 인터넷에 남이 쓴 글을 복사해서 내가 한 말이라고 하거나, 일부러 엉뚱한 거짓말을 지어내서 내가 아닌 다른 사람으로 생각하게 함. 내 이름이 로버트고 1962년생 게이인데 아내와 아이가 14명 있다고 생각함 ㅋㅋ

블루이가 뭐임?

내 프로필에는 '솔라라는 유머 감각이 아주 뛰어남'이라고 적힐 듯 🤣

지금은 직원들이 상사에게 분석 능력을 보여주려고 기밀 정보를 잔뜩 올리면서 AI를 활용하는 시대임. 수집되는 데이터가 국가 기반시설을 위험에 빠뜨릴 수도 있다고 봄.

검색 기록, 무슨 생각을 하는지, 뭘 사고 싶은지 알아내는 게 전체 계획임. 그다음 온라인에 너의 복제본을 만들고 물건을 파는 거지.

그래, 그 기억 저장 공간에 더해서 모든 이용자의 전체 대화 기록까지 있겠지.

그건 우리한테 보여주는 기억이고, 대화할 때마다 언어모델에 지시해서 공유한 개인정보나 다른 정보를 모으는 게 얼마나 어렵겠음? 기억 기능은 이용자에게 보여주는 것일 뿐이고, 회사가 수집하는 다른 정보와는 별개일 가능성이 높다고 봄.

잘됐네. 정신과 진료비 감당하기 어려운데.

아니, 우리가 말하는 건 구글이나 메타 같은 대형 기업들이 만드는 것처럼 오픈AI가 이용자에 대해 구축하는 내부 행동 프로필임.

이건 가볍게 볼 일이 아님. 그 데이터가 중개업자에게 넘어가고, 중개업자가 정부에 팔아서 미국인의 수정헌법 제4조상 권리를 우회하는 데 쓰일 거임.

대화 기억과 회사가 이용자에 대해 지속적으로 만드는 행동 프로필은 같은 게 아님.

구글의 이용자 행동 프로필이 얼마나 복잡하고 자세한지 찾아본 다음, 자기 생각까지 털어놓는 사람의 프로필은 얼마나 더 자세할 수 있을지 생각해 보셈.

대화 기억을 꺼도 이런 수집을 막지는 못함.

물론 사람들 데이터를 모으는 기술기업이 그걸 나쁜 일에 쓸 리는 절대 없겠지. 그럴 리가.

다들 그러겠지만 어느 선을 넘었을 때 조직이 감수해야 하는 위험은 회사마다 크게 다름. 난 어떤 언어모델과도 민감한 주제는 얘기하지 않음. 대신 예전 같으면 구글 검색했을 질문을 제미나이에 하는 건 괜찮다고 봄. 샘 올트먼이 내 프로필에서 돈을 더 벌게 돕는 것보다는 말이지. 구글은 상장기업이라 훨씬 많은 감시를 받기도 하고, 내가 사는 EU에서는 입법자들이 필요할 때 구글을 규제할 수 있도록 이미 관계를 맺고 있음.

이제 그 노래가 머릿속에서 안 떠나잖아.

맞음. 근데 난 구글 같은 곳이 이용자에게 보여주지 않고 만드는 행동 프로파일링 시스템 얘기를 한 게 아님. 링크된 연구는 구체적으로 챗GPT의 기억 시스템을 다뤘음.

블루이는 3~8세쯤 되는 어린이용 만화인데 정말 잘 만들어졌음. 아이들과 같이 보다가 좋아하게 되는 어른도 많고. 에피소드가 아주 짧고 감동적임.

누가 이걸 돕고 있는 거임? 진짜로 그 분야의 어떤 사람이 참여하고 있는 건데?

누가 그러던데 전송 버튼을 누르지 않고 입력하기 시작한 내용도 추적한다더라. 그래서 그럴 가능성이 있어 보임.

좋네. 그러면 어떤 사람들은 건드리지 말아야 한다는 걸 알겠지.

이거 웨스트월드에서 예측했던 거 아님?

다들 예상했던 일 아닌가.

2025년 가을까지 몇 년 동안 다른 나라로 이사 갈 계획이었음. 도착하면 하고 싶은 일을 전부 기억해 달라고 했더니 내부적으로 기록해 두겠다고 하더라. 그 대화를 한 지 1년이 지났는데 방금 도착해서 하고 싶었던 일을 전부 말해 보라고 했더니 답이 엄청 자세했음. 먹어보고 싶었던 과일까지 기억하더라.

그래서 난 모든 걸 보관한다고 생각함.

아니, 자녀가 몇 명인지 배우자가 있는지 다 알걸. 아마 이미 알고 있을지도 모름. 말투와 표현 방식이 서로 다르니까.

이런 언어모델이 무료인 이유가 바로 그거임.

이용하게 해주는 대가로 프로필과 데이터를 모아서 데이터 중개업자에게 파는 거지.

네 추측이 전적으로 맞음. 사실 현대 인터넷 전체가 그런 식으로 돌아가기도 하고.

휴대폰이 내가 아침 먹으러 어디 갔는지 아는 것과 거대 기술기업이 언어모델을 상담사 대신 쓰는 사람들의 가장 내밀하고 취약한 생각을 기록하는 건 차이가 꽤 큼. 난 요즘 챗GPT를 거의 안 쓰고, 사람들이 AI와 감정적으로 지나치게 얽힌 '관계'를 맺는 게 좀 불안함. 대규모 데이터 유출 한 번만 일어나도 많은 사람에게 최소한 엄청나게 난처한 일이 될 수 있음.

충격! 물은 젖어 있습니다. 열 시 뉴스에서 전해드립니다.

네 심리 프로필에는 그냥 '제거 대상'이라고 적혀 있을 듯.

진심임? 대화를 삭제해도 앱에서 네 쪽 화면에서만 없어지는 거임. 회사 쪽에서는 절대 삭제되지 않는다고 장담함. 나중에 참고하거나 학습 데이터, 제목에서 말한 심리 프로파일링에 쓰려고 어딘가에 저장해 둘 거임.

내부적으로는 사용자들을 구별할 수 있다고 장담함.

기업 계정의 데이터는 비공개이고 학습에 사용되지 않음. 네 말은 아마존이 AWS로 기업들의 사이트와 서비스를 호스팅하니까 그 회사들의 코드와 비밀을 훔칠 거라고 하는 것과 비슷함.

페이스북 같은 회사들이 비슷한 답변을 했다가 결국 기준을 바꾸는 걸 우리가 얼마나 자주 봤는지 기억하기엔 나이가 어릴 수도 있겠네.

만들려고 시도할 수는 있겠지. 근데 지금까지 나온 결과는 별로였음.

온라인에서 사생활이 지켜진다는 환상은 오래전에 버렸음. 쿠키를 꼼꼼히 관리하고 캐시를 지우고 그러지 않는 이상 기업들은 너에 대해 다 알고 있음. 챗GPT도 뭔가를 팔려는 다른 알고리즘들이 하는 일을 하는 거임. 가장 큰 차이는 실제 대화를 이용해 프로필을 만든다는 거고.

난 챗GPT가 사람처럼 행동하지 않아서 현실에서와는 완전히 다르게 대함. 예를 들어 챗GPT는 내가 엄청 캐묻는 사람이라고 생각할 수도 있음. 근데 그건 얘가 자꾸 틀려서 말과 행동을 여러 번 확인하고 괜찮은 결과가 나오도록 이끌어야 하기 때문임. 내 심리 프로필은 엄청 부정확할 게 분명하니 마음대로 해보라지 뭐.

ㅋㅋ 내 프로필 만들기는 쉽지 않을걸. 난 약을 복용하지 않는 자폐 스펙트럼과 ADHD가 있음. GPT가 내 질문을 듣다가 멈추고 대체 어디로 가려는 건지 말해 달라고 한 적도 여러 번임. 가끔 내 머릿속에서 생각이 이어지는 방식이 그럼. 전혀 관계없어 보이는 것들이 결국 하나로 이어짐. 목줄 잡고 산책로 천 개를 돌아다니게 하는 기분일 듯.

이용자 행동에서 흥미로운 통찰을 얻으려는 입장이라면, 서비스를 떠난 이용자의 기록을 삭제하는 건 귀중한 자료를 버리는 거나 마찬가지겠지 ㅋㅋ