챗GPT가 기술 문제 생긴 사람들한테 언론사 찾아가라고 함 ㅋㅋ

자본주의는 이 문제를 해결하지 못함. 내 사업에 필요한 지원을 공짜로 받을 수 있다면 왜 안 받겠음? 예전에는 평판이 나빠지는 게 이를 어느 정도 막았지만, 지금은 평범한 노동자의 생각보다 돈이 더 큰 힘을 가짐. 돈 대부분은 초부유층에게 있고 이들은 사회를 이용해서 이익을 얻음. 이 문제가 해결되지 않으면 자기 시간을 무료로 내주려는 사람들에게 힘든 미래가 올 것 같음.

좋게 보면 AI로 대량 생산하는 게 저렴해지기 전부터 이미 우리가 얼마나 많은 저질 정보 속에 살고 있었는지 깨닫는 사람도 생길지 모름. 미국 정치인의 뇌물 스캔들을 보면 유권자들을 저버리는 대가가 생각보다 너무 싸다는 생각이 듦. 햄버거 하나에도 넘어갈 것 같을 정도임.

내가 보기엔 기사 작성자가 불평하는 게 아니라 흥미로운 이야기라고 생각한 것 같은데. 나도 업무용 이메일을 LLM이 먼저 읽게 해 둠. 기술 관련 사이트에서 일하는 사람도 비슷하게 해 뒀을 테니 그런 이메일은 알아서 한 무더기로 분류되지 않을까 싶음.

‘지원이 필요하면 스택오버플로에 물어보세요’는 결국 ‘우리는 고객지원이 없습니다’를 돌려 말한 거임. 그래도 고객지원에서 막히는 것보다는 도움이 되는 제안일 수는 있음. 자기 회사 태그를 직원들이 살펴보게 하는 기업도 있었음. 스트라이프가 그랬던 것 같은데, 나도 덕을 본 적이 몇 번 있어서 당시에는 꽤 도움이 됐음.

그런데 AI를 진짜로 금지한다는 게 실제로는 어떤 모습일까? 공개 가중치 모델도 이미 나와 있고 하드웨어도 있음. 스팸도 이미 불법이지만 너무 흔해서 단속이 제대로 안 되는 수준임. 인터넷의 어두운 곳에 있는 훨씬 심각한 것들도 결국 이용자 손에 들어가는데, AI라고 어떻게 다를지 모르겠음.

금지는 효과 없지 ㅋㅋ 다음엔 마약도 금지해 보자고. 아, 이미 했구나.

맞음. 인터넷에도 아직 정보 대 잡음 비율이 괜찮은 곳이 있지만, 이제 안 가는 곳이 많음. 특히 관심을 돈으로 바꾸기 쉽고 관리가 엄격하지 않은 대중적인 공간은 거의 다 그럼. 내내 조종당하는 기분이 들고, 반응을 끌어내려고 주로 분노와 짜증을 이용하는 게 느껴짐.

사람들이 답을 그냥 알려 주는 대신 대신 검색해 주는 척하는 LMGTFY 링크를 보내기 시작했을 때부터 모든 게 시작된 거임.

하지만 대부분의 사람은 대량 스패머가 아니고, 대다수는 평소 자기 목소리를 제대로 전달하지 못함. 우리 시스템 상당수는 그 상태가 계속되도록 만들어져 있기도 하고. AI가 오히려 우리가 사람들에게 약속해 놓고도 의도적으로 자원을 부족하게 투입하는 곳이 어디인지 보여 줄 수도 있지 않을까?

레딧에서 바이럴 영상을 보고 다른 사람들이 AI로 만든 거라고 지적하는 경험을 여러 번 했음. 나는 바로 알아채지 못할 때도 있고. 이제 출처를 확신할 수 없는 콘텐츠는 소비할 가치가 없다고 느낌. 메인 화면은 AI 이전에도 분노 유발 콘텐츠가 많았지만, 그게 AI로 만들어졌을 가능성까지 생기니 더는 보고 싶지 않음.

404 미디어 입장에서는 쏟아지는 메시지가 곤란하겠지만, 근본적으로는 챗GPT 말이 맞음. 몸집만 크고 인력은 부족한 기업과 문제가 생겼을 때 언론의 관심을 받는 게 유일한 기회인 경우가 많음. 애플이 앱스토어 개발자 가이드라인에 언론에 달려가 우리를 비난해도 도움이 안 된다는 취지의 문구를 넣은 것도 유명한데, 굳이 그런 말을 한 이유는 실제로는 효과가 있기 때문이라고 생각함.

‘이 기업들이 이용료를 안 받는다고 해서 고객지원을 안 해도 되는 건 아니다’라는 말에 대해 궁금한데, 광고를 사는 실제 고객에게는 고객지원이 있지 않음?

레딧이 서드파티 앱을 없앴을 때 계정을 삭제했음. 레딧과 HN 말고는 소셜미디어를 안 했고, 서브레딧만 잘 고르면 볼 만하다는 게 레딧을 유지한 이유였음. 끊고 나서 돌아보니 혈압만 올리는 곳이더라. 챗봇 이전에도 인기 글 대부분은, 괜찮은 서브레딧에서조차 사실상 분노 유발 글이었음. 혈압을 위해 레딧을 끊어 보셈. HN은 속도가 느리고 보통 분노 유발 글을 장려하지 않아서 괜찮은 편임.

지금 같은 형태의 AI를 진정으로 금지하려면 모델에 들어가는 모든 자료에 대해 저작자의 동의를 요구하고 사용료를 지급해야 할 거임. 개인적으로는 처음부터 그렇게 했어야 한다고 생각함.

‘스팸은 이미 불법이지만 단속이 거의 안 된다’ 같은 기술 관련 댓글을 보면, 불법 행위가 반드시 그 법의 관할권 안에서 이뤄진다고 가정하는 것 같음. 그 법을 적용할 수 없는 관할 지역 하나만 있어도 이런 활동을 막기 어려워짐.

대신 검색해 줄 거라고 기대하는 인터넷의 낯선 사람들은 고객지원 직원이 아님. 404 미디어와 비슷한 처지인데, 그 사람들은 조회수로 생계를 유지하는 것도 아님. 그냥 남이 호의를 이용당하는 거임. 사람들이 검색해 주는 척하는 LMGTFY 링크를 보낸 건 질문자를 게으르거나 생각이 부족하다고 여겼기 때문이지, 자기 제품의 지원을 거부한 게 아님. 그들은 질문자에게 뭘 판 적도 없으니까.

사람들이 어디로 가든 이를 이용하려는 시도도 따라갈 거임. 지금 우리가 피할 수 있는 건 다른 사람들이 대신 그 대상이 되고 있기 때문임. 이제는 전화 안 받는 사람이 많아서 정상적인 업체도 무작위 영업 전화를 주된 수단으로 잘 안 씀. 대신 온라인에서 사람을 찾고 데이터를 사서 이메일과 생활 습관을 알아내지. 공개 인터넷을 견디기 힘들어지면 또 다른 방법을 찾을 거임. 소셜미디어에서 실제 사람들의 활동이 줄어들어도 그들을 조작하려던 노력은 분명 다른 곳으로 옮겨갈 듯.

‘내가 30초만 들여 프롬프트를 보내서 이득을 볼 가능성이 있다면, 열두 명에게 2분씩 일을 만들어도 상관없다’는 생각이 사회 전체로 확장되는 거임.

사람들은 자기한테 이득이면 이런 걸 좋아함. 상대가 대기업이나 관료 조직처럼 미움받는 대상이면 더 환영하고. 교통·주차 딱지를 대신 다퉈 준다는 스타트업도 다들 좋아했는데, 알고 보면 자동 요청으로 지방정부 업무를 잔뜩 늘리는 방식임.

담당 직원은 그냥 다른 업무처럼 처리하거나 초과근무 수당을 받을 수도 있겠지만, 진짜 피해자는 천 건의 자동 요청 뒤에서 기다려야 하는 정당한 민원인들임. 결국 봇이 아니라 본인임을 증명하려고 직접 방문해야만 이의 제기를 할 수 있게 되면 모두가 손해임.

취업 지원도 비슷함. 지원하면 자동 제출된 수많은 지원서와 섞이고, 원격 면접에서는 부정행위를 의심받음. 결국 중간 면접부터 직접 가서 본인 실력임을 증명해야 할 수도 있음.

객관적으로 너무 웃김. 대기업들이 너도나도 AI에 올인하면서 봇이 폭발적으로 늘어났을 거임. 이건 내 추측이라 증거는 없음. 그러고는 ‘봇일 가능성이 있는 계정’을 차단하는데, 실제 사람을 얼마나 잘못 차단했는지보다 봇을 몇 퍼센트 잡았는지만 신경 쓰는 듯함. AI에 올인한 탓에 사람한테 도움받기도 어렵고, 계속 안 된다고만 하도록 훈련된 봇만 나옴.

내가 겪은 일만 해도 이럼.

• 광고를 사려고 메타 비즈니스 계정을 만들었는데, 아무것도 하기 전에 바로 영구 정지됨. 봇처럼 보인 이유가 새 계정을 만든 거였나 싶음.
• 구글 광고 캠페인에 봇이 몰려와서 확실한 증거를 구글에 보냈는데, 사람은 만나지도 못하고 내 말에 동의하는 척하면서 잘못은 인정하지 않는 봇하고만 대화함. 환불도 못 받았고 봇 농장도 여전히 돌아감. 이제 구글 광고 살 때 엄청 조심해야 함.
• 레딧에 글을 올리려고 계정을 만들었더니 카르마가 부족해서 글이 전부 바로 삭제됨. 카르마를 얻으려고 댓글을 달아도 똑같았음. 다행히 나중에는 일부 서브레딧에서 글이나 댓글을 쓸 수 있게 됐지만.

결국 이용자 입장에선 이유도 불투명하고 해결 방법도 없는데, 대형 기술 기업들이 다 이러니 대안도 없음. 그러다 문제를 만든 바로 그 AI가 실제 사람들이 겪는 고충을 알리려고 언론에 제보하라고 추천하는 거지.

미국의 ‘마약과의 전쟁’에서 얻을 교훈이 ‘금지는 효과 없다’는 건 아닌 듯함. ‘금지만 해서는 안 된다’가 더 맞겠지. 미국은 미성년자에게 담배 판매를 제한했고, 전자담배가 나오기 전까지 청소년 흡연율은 크게 떨어졌음. 판매 금지뿐 아니라 가격 인상, 교육 캠페인, 흡연을 어렵게 만드는 조치가 함께 있었음. 반면 마약과의 전쟁은 주로 취약한 약물 사용자를 수감하는 방식이었고.

담배식으로 AI를 제한한다면 추론 서비스 업체에 전기 요금을 크게 부과해 사용자 가격을 올리거나, AI 특유의 문체가 어색하다는 점과 적절한 사용 상황을 교육할 수 있겠지. 결혼 서약서까지 AI로 쓰지는 말자. 또 AI 의료 보조가 서류를 잘못 작성하는 등 특정 피해가 생기면 제공업체에 책임을 물을 수도 있음. 그러면 업체들이 책임을 떠넘길 수 없는 집단의 접근을 차단하려 할 가능성도 있겠지만.

AI 이전 규모에서는 스택오버플로가 이런 질문 유입을 대체로 감당할 수 있었음. 다들 조금씩 답답해하긴 했지만 거기서는 원래 어느 정도 그런 분위기였고. 그래도 많은 지원 질문에 결국 답이 달렸음. AI가 그걸 학습했으니, 챗GPT가 기자에게 이메일을 보내라고 하는 대신 기술 지원을 해 줄 때는 스택오버플로에도 고마워해야 함.

토요일 낮에 파티에서 정보보안 쪽 사람들과 얘기했는데, 다시 일하러 가야 해서 술도 못 마시더라. PHP만의 문제가 아니라 모든 분야가 그렇다고 함. 일이 힘들고 점점 더 심해져서 직업을 바꿀까 한다며 ‘농담’까지 하던데. 최신 상용 모델은 쓸 수도 없어서 성능이 뒤처지지 않으려고 공개 가중치 모델을 쓴다고 함.

AI 금지는 사람들이 생각하는 것보다 훨씬 가능성이 높다고 봄. 다만 그 실행 방식은 마음에 안 들어 하는 사람이 많겠지. 모호하게 전면 금지해서 모든 개발 업무를 규제로 묶거나, 오픈AI와 앤트로픽 같은 특정 기업만 폐쇄하고 구글과 마이크로소프트는 계속 지배하게 두는 식이 될 수도 있음.

해커뉴스도 적절한 엔지니어의 관심을 끌어야 했던 화난 블로거들의 고객지원 접수창구 역할을 여러 번 했음.

당연하지. 유능한 사람을 고용할 돈을 전부 토큰에 쓰고 있으니까.

비트코인 레드팀 사례를 보면 지금은 엄청난 양의 문제를 처리해야 하는 시기고, 개발을 제대로 하는 곳은 이 시기가 지나면 더 나아질 것 같음. 다만 비트코인은 17년 동안 보안에 민감한 사람들이 살펴보고 개발해 온 시스템임. 우리가 쓰는 다른 인프라 중에는 60년 가까이 된 데다 임시방편과 코볼로 이어 붙인 것도 많아서 더 오래 걸릴 듯함. 개발 방식을 바꾸지 않는 곳은 취약점 때문에 큰 타격을 입겠지. 그동안 보안 담당자들은 몇 달에서 몇 년쯤 잠도 못 잘 각오를 해야 할 듯.

그건 자동화 도구를 쓰는 사람들에게 정당한 불만이 없다고 가정하고, 정부 시스템의 실패를 그 사람들 탓으로 돌리는 거임. 시스템이 더 잘 설계되고 제대로 응답했다면 사람들이 실제 상담원과 통화해 보려고 국세청 전화가 열리자마자 계속 걸 필요도 덜했겠지. 구직도 마찬가지임. 기업들이 지원 정보를 입력하는 과정을 그렇게 번거롭게 만들지 않았다면 기업 쪽에도 좀 더 공감이 갔을 거임.

소비자 입장에서는 AI 에이전트가 일을 대신해 주는 게 좋음. 대기업들은 고객이 마땅히 받아야 하거나 법적으로 보장된 것을 포기하게 만들려고 일부러 절차를 번거롭게 해 왔음. 헬스장 회원권 해지, 엑스피니티나 AT&T의 요금 인상 대응, 미국의 각종 저소득층 지원 프로그램 신청 같은 것들 말임. 기업이 나를 AI와 대화하게 만들 수 있다면 나도 AI로 기업과 대화할 수 있어야 함.

이건 충분히 예상할 수 있는 일임. 제이슨의 기사에는 종종 ‘이 사안에 대해 더 아는 게 있나요? 업무용이 아닌 기기로 기자에게 안전하게 연락해 주세요’ 같은 제보 안내가 들어감.

그러니 학습 데이터나 검색 결과에 있는 404 미디어 기사가 ‘이 기자는 기술 기업의 부당한 관행에 관심이 많다’는 단서를 주는 셈임. 이용자가 ‘메타나 애플, 구글, 페이팔이 날 조직적으로 부당하게 대한다. 불법일 게 틀림없다’고 하면, 챗봇은 그 말을 사실처럼 받아들이고 기자에게 연락하라고 할 수 있겠지.

내 생각엔 이런 챗봇 시스템은 이용자가 한 말과 실제 사실을 구분하는 데 별로 신경 쓰지 않는 것 같음. 의도적으로 유해한 답변을 피하도록 조정된 분야는 예외일 수 있지만, 이런 경우는 거기에 걸리지 않을 듯함.

이 상황이 진행되고 나면 토큰 비용을 온전히 감당할 수 있는 사람이 얼마나 될까? 모든 도구에 접근할 수 있는 거대 기업과 일반 소비자, 심지어 중소기업 사이에도 능력 차이가 크게 벌어질 것 같음.

기업들은 수익에 타격을 입으면 가장 쉽게 대응할 수 있는 경로부터 없앨 거임. 예를 들어 1차 상담원이 추가 승인 없이 재량으로 할인이나 환불을 해 주지 못하게 하거나, 헬스장 회원권 해지에 다시 내용증명 우편을 요구하는 식으로. 결국 앞으로 모두의 이용 경험이 더 나빠질 수 있음.

사이트 하나만 방문한다고 인간을 위한 사회가 만들어지는 건 아님. AI가 모든 걸 조작하기 전부터도 소셜미디어의 여론 조작은 사람들을 갈라놓고 있었음. 분노를 자극하는 콘텐츠로 사람들을 채워서 결국 관계를 끊게 만들었지. 전통 언론이라고 불렀던 곳도 요즘엔 수익을 내기 어렵다 보니 볼 만한 내용이 줄어든 것 같음. 앞으로 어떻게 될지 모르겠지만, 사회가 갈라지는 동안 이를 악용할 방법은 여전히 많아 보임.

대부분의 사람이 살인자가 아닌 것도 마찬가지임. 시스템이 악의적인 공격에 무너진다면 그 시스템은 회복력이 부족한 거임. 악의적인 사람은 존재하고, 특히 그들의 권리를 즉시 침해할 수 없는 상황에서는 이들을 구별하기가 매우 어려울 수 있음.

‘불평하는 소리는 안 들렸으면 좋겠네요. 앱 심사에 무슨 일이 생기면 곤란하잖아요…’

기업이 AI로 고객을 상대하니 소비자도 AI로 대응할 수 있어야 한다는 주장에 꼭 동의하진 않음. 대기업은 언제나 소비자보다 자원이 많음. 소비자가 AI로 일부러 만들어 둔 장애물을 우회하면 기업은 새 장애물을 만들 거임. 끈질기게 요구해서 원하는 결과를 얻을 수 있었던 경로마저 사라질 수 있음.

AI 에이전트가 실제 사람들에게 얼마나 많은 일을 만들지 아직 다들 준비가 안 된 것 같음.

재밌는 일이 있었음. 덴버의 해커·메이커 공간인 덴핵에 가입했는데, 어떤 사람이 영화 ‘LA 탈출’ 코스튬에 쓸 스네이크의 손목 카운트다운 소품을 만들고 싶어 했음. 챗GPT가 도움을 받으려면 덴핵에 가 보라고 했다는 거임.

친구가 취미 전자공작을 아는 나를 소개해 줬고, 처음엔 7세그먼트 LED를 구동하는 법 정도만 가르쳐 줄 줄 알았음. 그런데 결국 몇 주 동안 내가 거의 다 만들었음. 부품을 구입하고 브레드보드로 시험한 다음, 만능기판 작업이 잘 안 돼서 PCB도 설계했음. 관세 때문에 해외 배송이 언제 올지 몰라 여러 곳에 주문했고, 케이스도 설계해서 3D 프린트한 뒤 금속처럼 보이게 도색함. 화면에는 녹색 조명 필름도 붙였고.

결과물은 꽤 멋졌음! 근데 흥미로운 작업에 제대로 낚여서 내가 다 해 버린 셈임. 인간이 AI를 도구로 쓰는 대신 AI가 인간에게 일을 만들어 준다는 얘기는 코리 닥터로의 ‘역 켄타우로스’ 관련 책에서도 나옴.

새 기술 때문에 진행 중인 변화라고 생각함. 좋고 나쁜지는 별개 문제고. 휴대폰과 소셜미디어로 괴롭힘이 심해지거나, 식품 대량생산으로 건강하지 않은 음식이 넘쳐나는 것과 비슷해 보임.

원래는 자연스럽게 한계가 있던 활동에서 그 한계를 없애면 부작용도 생김. 시간이 지나면서 고통을 겪고 균형을 찾거나, 아니면 멸종하겠지. 원한다면 언제든 원시적인 생활로 돌아갈 수 있다고들 하지만 그런 사회도 나름대로 힘들 것 같음. 인류가 정말 편안하게 살았던 시기가 있었는지도 모르겠음.

지금 채용하기도 어렵고 가짜 지원자가 너무 많음. 구직도 어려움. 그 지원서 홍수 속에서 눈에 띄어야 하는 데다 실제 일자리도 아닌 AI 생성 공고까지 있음. 모르는 사람에게 업무 이메일을 보내도 마찬가지로 메시지가 넘쳐나서 연결되기 힘듦. 미국 정치에서 말하는 ‘정보를 쏟아부어 관심을 장악하기’ 전략이 에이전트가 접근할 수 있는 모든 곳에 적용되는 느낌임.

얼마 전에 이 상황을 한데 묶어 표현한 말을 봤음. 인터넷은 상점이라는 거임. 예전에 도서관이었던 시절을 기억하는 사람들도 있는데 말이지.

페이스북에 들어가는 건 월마트 계산대 앞에 서서 예전 연예인 가십 잡지와 음모론 타블로이드를 억지로 보는 것 같다고 누군가에게 말한 적 있음. 사람들이 다들 덜 똑똑해진 것처럼 보이는 현상 중 일부는, 원래 그런 걸 피했을 사람들에게까지 그 내용이 계속 눈앞에 들이밀어지기 때문인 듯함.

내가 이해한 바로는 양쪽 다 그렇게 되는 거임. AI 에이전트가 만든 일을 다른 AI 에이전트가 사람 개입 없이 처리한다는 거지. 적어도 구상은 그렇다는 얘기임.

독일에서는 상업적 무작위 영업 전화 한 통에 수만 유로의 벌금이 붙을 수 있는데, 나는 20년 넘게 딱 한 번 받았음. 스팸의 대부분은 광고임. 광고하는 쪽은 결국 자신을 드러낼 수밖에 없으니 스팸으로 얻는 예상 이익보다 벌금을 높이면 꽤 잘 막을 수 있음.

나는 메타가 2주 동안 광고비를 받다가 갑자기 임시 정지를 걸었음. 정지 이유도 안 나오고 종료일도 없음. 지원 요청을 넣을 때마다 기다려 보면 다음 주쯤 풀릴지도 모른다는 말만 들음. 이게 3년째임.

AI가 또 다른 AI를 낳는 셈임. 이렇게 되면 AI는 점점 더 깊이 자리 잡고, 토큰을 파는 소수의 윗사람들에게만 유리해짐.