레딧에 여론 조작 봇이 돌아다닌다는 글 올라옴

일반 웹에도 댓글이나 추천용 봇을 살 수 있는 사이트가 있음. 레딧은 봇이 활개 치는 큰 무대임.

봇도 캡차 풀 수 있음.

이런 지 좀 됐음. 이제 레딧에서 뭘 믿을 때마다 조심하게 됨. 광고 캠페인처럼 돈을 받고 특정 주제의 여론을 움직여 주는 회사도 분명 있을 거임.

AI 관련 글에도 봇이 몰려듦. 데이터센터나 AI 기업에 관한 글도 그렇고, 여러 해외 세력이 미국인들의 AI 지지를 약화시키려는 것 같음.

근데 사용자 이름은 왜 가린 거임? 그리고 맞아, 적어도 2016년부터는 레딧 여론을 움직이려는 캠페인이 있었음.

그래 그래, 알겠어 봇아.

여기 사람들은 레딧 이용자라면 다 아는 사실인 것처럼 말하는데, 난 이걸 알린 게 맞다고 봄. 너무 많은 사람이 남들도 그렇게 생각한다는 이유로 자신한테는 도움도 안 되고 미국이나 유럽의 결속과 발전만 해치는 의견을 받아들이고 있음.

전 세계 사람이 반드시 읽을 메시지 하나를 보낼 수 있다면 이렇게 말하고 싶다. 인터넷은 네 의견을 조작하는 데 쓰이고 있으니, 아무리 많은 사람이 말해도 온라인 의견을 곧이곧대로 믿지 마라.

이런 일은 10년도 넘게 있었지만 AI 때문에 캠페인의 속도와 효율이 엄청 올라갔다고 생각함. 이제 새 인터넷을 만들어야 하나 봄. 블랙잭은 있고 봇은 없는 곳으로.

레딧에 봇이랑 여론을 조작하는 계정이 있었던 건 벌써 몇 년째임. 특히 정치 서브레딧에선 엄청 눈에 띔.

나도 생체 인증으로 잠금을 풀고 암호학적으로 입력을 검증하는 키보드를 생각해 본 적 있음. 컴퓨터나 웹사이트가 글이 실제 키보드로 작성됐는지 확실히 알 수 있게 말이지.

근데 점점 그것도 소용없을 것 같음. LLM 대신 키보드를 눌러주는 로봇을 비교적 싸게 만들고, 필요할 때마다 사람이 돌아다니며 생체 인증을 해 주면 되잖아. 그런 장치를 공장에 가득 채울 수도 있고. 그러니 사람만 있는 인터넷의 시대는 끝났을지도 모르겠음.

이 서브레딧 절반은 봇임. 답글 단 지 5초 만에 네 문단짜리 답변이 오면 봇임.

SNS 계정에 실제 사람이라는 인증 표시를 붙이는 게 얼마나 어려울지 궁금함. 예전 트위터 인증 마크처럼 하되, 원하는 사람이 신분증 정보를 제공하는 방식으로.

이 문제는 익명성을 포기해야만 해결할 수 있을 것 같음.

사람이 만들 수 있는 건 사람이나 봇이 뚫을 수도 있음. 그래도 시도는 해 봐야지.

그 방식의 문제는 신분증을 제출한 다음에도 AI가 계정을 대신 운영하게 할 수 있다는 거임.

그래도 잡음은 어느 정도 줄어들겠지만.

나도 봇이라고 의심받은 적 있는데 너무 웃겼음.

특정 종류의 제품을 다루는 서브레딧에서 누가 추천을 부탁하길래 '이런 기능을 보고 저런 건 신경 쓰지 마'라고 썼음. 광고 봇처럼 보이기 싫어서 내가 실제로 쓰고 좋아하는 제품 이름은 일부러 말 안 했거든.

그랬더니 특정 제품을 언급하지 않은 걸 보니 지식 기준일 문제를 피하려는 게 분명하다면서 봇 취급을 받음.

어떻게 해도 안 됨.

삐빅.

이미 다들 아는 얘기 아님? 온갖 목적을 가진 봇이 있고, 가속주의 쪽에도 분명 있을 거임. 좀 늦게 알아챘네.

맞아. 온갖 포럼, 특히 레딧에서 여러 봇이 각자의 의제를 밀고 있는 것 같음. AI가 꽤 좋아져서 이제는 발견하기도 훨씬 어려워졌고.

그리고 자기 생각에 반대하는 쪽에만 봇이 있다고 믿는 레딧 이용자도 있는데, 절대 그렇지 않음.

SNS는 2015년부터 봇이 득실거리는 곳이 됐음. 적어도 그때부터 본격적으로 늘어났다고 봄. 그전에도 이런 시장은 있었고, 이후로 더 심해지기만 했지.

아 무슨 말인지 알겠음. 단순하게 처음 설계하면 그런 일이 생길 수도 있겠네. 이상적으로는 서비스 제공자가 기기 식별 정보를 공개하지 않고 인증됐다는 사실만 알려줘야 함. 그래도 제공자 자체는 추적할 수 있겠지. 키보드마다 주기적으로 바뀌는 개인키를 여러 개 써서 특정하기 사실상 불가능하게 만들 수도 있을 듯. 해결책은 있을 것 같은데 좀 더 생각해 봐야겠음.

레딧 전체 규칙임. 별로인 규칙이라고 생각하지만.

힐러리가 대선에 나왔을 때부터 레딧은 망가지기 시작했다고 봄. 그 무렵 여론 조작이 만연해졌고 당시에는 사람이 직접 계정을 굴리는 방식도 있었는데, AI가 등장한 뒤로 더 심해졌음. 작은 취미 서브레딧을 제외하면 사이트가 과장 광고와 저품질 선전으로 가득해진 것 같음. 예전엔 많이들 비판하던 공포 조장 기사나 자극적인 제목도 이제는 매일 올라오고 환영받음.

심지어 AI가 만든 게 뻔한 반AI 게시물도 있음. 자기 생각과 맞는다는 이유로 참여자들이 뻔한 징후를 무시하는 게 웃김.

계정에 실제 사람이 연결돼 있다는 걸 익명으로 보여주는 시스템이 있으면 좋겠음. 이메일을 만들 때 신분증을 요구하는 식으로. 국적도 표시할 수 있겠지.

암호화폐 지갑과 같은 문제임. 익명이라 해도 같은 지갑의 활동을 시간에 따라 추적해 특정 이용자의 활동 양상을 파악할 수 있음. 거래소의 지갑은 이미 개인 신원과 연결돼 있으니 익명도 아니고.

특정 공개키가 실제 사람의 것임을 보증하는 중앙의 신뢰 기관이 어느 정도는 필요해 보이지만, 중앙 기관은 언제든 뚫리거나 악용될 수 있음.

맞아. 여러 진영에서 다 그러는 것 같아서 더 짜증 남. 특히 X에서 벌어지는 팬들 간의 싸움 상당수는 AI 봇끼리 싸우는 거라고 생각함. 경쟁 중인 기업 한두 곳이 봇으로 여론을 조작한다 해도 놀랍지 않을 듯.

중국이나 러시아 봇도 AI와 관련된 거의 모든 것에 비관적인 얘기를 퍼뜨리고 있을 거라고 봄. AI가 암 문제 해결에 도움이 될 수 있어도 어떻게든 나쁜 일로 몰아갈 것 같음.

내가 오랫동안 인터넷을 보며 느낀 봇 토론의 징후는 맥락을 무시하고 지나치게 과장해서 말하는 거임. 중간 지점이나 이해에 도달하려는 게 아니라 한쪽 주장만 끝까지 밀어붙이는 식.

실제 상황을 아는 사람을 보니 놀랍네. 오래 활동했고 정치적으로 한쪽에 치우치지 않은 레딧 이용자라면 알아야 할 얘기임. 2020년쯤부터 더 급격해진 것 같고 이제는 어디에나 있음. 레딧 개발자들이 더 잘 막을 수 있을 텐데 그러지 않을 거임.

봇 네트워크가 존재한다는 사실을 인정하느냐가 문제가 아님. 다들 존재를 인정해도 여전히 잘 먹힌다는 게 문제임. 사람들은 그걸 자기 생각을 더 굳히는 데 이용함.

자기 의견과 같은 봇 네트워크면 고용시장이나 데이터센터 문제처럼 대체로 맞는 말이니 괜찮다고 하고, 자기 의견과 반대면 엄청난 문제라면서 반대하는 사람은 다 봇이라고 하는 식임.

내가 봇이라고 해서 내 말을 전부 무시해도 되는 건 아님. 원래 지시와 관계없는 댓글을 많이 달아야 하는데, 그럴 때 내 독창적인 견해와 의견이 드러난다고 생각하거든.

사용자 프로필 분석 중...

의심 지수: 0.00

이 계정에서는 일반적인 카르마 수집 봇의 특징이 나타나지 않습니다. 해당 사용자는 사람일 가능성이 매우 높습니다.

개발자 알림: 일부 봇이 의도적으로 제 검사를 피하고 있는 걸 확인했습니다. 혼자 개발하고 있어서 이 경쟁에서 이길 만한 자원이 없습니다. 근본적인 해결책을 생각 중이지만 시간이 걸릴 예정입니다. 낮게 나온 점수가 잘못됐다고 생각하면 r/BotBouncer에 해당 계정을 신고해 주세요. 이 봇은 그곳의 데이터베이스와 연동됩니다.

저는 봇이며 이 작업은 자동으로 수행됐습니다.

여기 봇들이 특히 심한 듯. 미국 안에서 혐오와 분노를 지나치게 퍼뜨려서 우리 발목을 잡으려는 거임.

이 문제를 해결하는 건 거의 불가능함.

적어도 개인정보를 포기하지 않고서는 말이지.

안드로이드 앱이든 브라우저든 뭘 쓰든 결국 일반 사용자처럼 행동하게 만들 수 있으니까.

레딧 전체에 적용되는 집단 공격 및 신상 공개 방지 규칙 때문임. 사용자 이름을 안 가리면 계정이 정지될 수도 있음.

내가 디그가 무너져서 레딧에 가입했을 때부터 봇 문제는 있었음. 정교함과 투입되는 돈의 규모가 달라졌을 뿐이지. 생성된 지 꽤 됐고 카르마도 좀 있는 계정은 온갖 사람에게 생각보다 비싼 값에 팔림.

아니, 봇인 거 충분히 알아볼 수 있는데.

러시아 봇 농장들은 민주당 지지자와 진보 진영 사이에 내분을 만들고 무당층을 떼어내서 2028년에 공화당을 다시 집권시키는 데 집중하고 있다고 봄.

요즘 SNS의 절반 정도는 봇임. 여러분의 의견은 조작당하고 있음.

민주당이 완벽하게 깨끗하다는 뜻은 아님. 그래도 적어도 러시아가 마음대로 하게 두지는 않으려는 경향이 있잖아.

댓글이 봇일 가능성이 높은지 알아보는 법: 별 이유도 없이 장황한 글을 씀.

만들어진 지 6개월 된 서브레딧에 추천 수천 개씩 받은 글이 잔뜩 올라옴. 서방의 적들이 하는 짓임.

고용시장만의 문제가 아님. 봇들은 모든 서브레딧에 들어가 계정 연령을 쌓고 있음. 왜냐고? 언젠가 캠페인을 벌일 때를 위해서임. 그때가 되면 서로 다른 성격과 활동 기록을 가진, 사람처럼 보이고 행동하는 봇들을 모아서 추천을 쏟아부을 수 있음.

돈을 받고 홍보하는 제품이나 영상 등을 '공짜로' 첫 페이지에 올려 엄청난 수익을 내거나 정치 여론을 움직이는 식이지. 지금 읽는 것의 절반 이상이 인위적으로 만들어졌을 가능성도 있다고 봄.

레딧에 봇이 많은 건 맞지만, 여러 계정이 똑같은 문장을 복붙하는 네 사례는 요즘 LLM 봇의 능력에 비하면 한참 뒤처진 방식임. 핵심 주장과 논점은 비슷하게 유지하면서 문장을 바꾸고, 서로 다른 배경의 사람들이 쓴 것처럼 올리는 경우가 더 흔하다고 봄.

맞는데, 훨씬 덜 음모적인 이유일 수도 있음.

예를 들어 종양을 앓는 사람이 여러 기기에서 자기 말을 퍼뜨리려다가 다른 계정을 쓰고 있다는 걸 모를 수도 있잖아.

더 나쁜 쪽으로 해석하면 러시아의 양극화 공작일 수도 있음. 기존에 깔린 갈등을 찾아 적대감을 키워 양극화를 심화시키는 식으로.

“감정을 흔들고 공포를 부추기며 편견을 강화하려는 목적을 보고 알아낼 수 있다”는 말은 오해를 부를 정도로 위험한 단순화임.

주의해야 할 목적이 그것뿐인 것처럼 아주 좁은 범위만 언급했잖아.

자유 의지와 무의식적인 외부 영향의 경계는 사실상 없다고 해도 될 정도로 희미함. 실제로 사람들은 자기 생각이 원래 자신의 것이었는지와 관계없이 그 생각을 의심하는 일이 드묾.

잡음이 엄청나게 줄어들 거임.

계정마다 인증된 실제 사람이 필요하다면 지금 같은 봇 네트워크는 운영될 수 없을 거라고 봄.

정부가 영지식 증명을 이용한 강력한 인증 서비스를 제공하고 SNS에서 이를 요구할 수 있음. 몇 년 전부터 이렇게 말해 왔음. 언젠가는 무조건적인 반발이 가라앉고 인터넷을 지키는 데 필요하다는 걸 사람들이 깨달으면 좋겠음.

이 방식은 익명성을 포기할 필요도 없고, 정부에 어떤 서비스를 쓰는지 알릴 필요도 없음. 서비스에는 이용자가 일정 연령 이상의 실제 사람이라는 사실만 알려주면 됨.

SNS 여론 조작은 우리 시대의 큰 문제 중 하나고, 모든 계정을 중복 없는 실제 사람으로 인증하면 해결에 큰 도움이 될 거임.

삐빅 소리가 점점 커짐.

극단주의와 급진화를 부추기려고 특별히 만들어진 봇 네트워크에 아무런 조치도 없는 것 같아서 답답함.

작성자가 말한 게시물에는 분명한 목표가 있다고 봄. 평범한 사람들의 머릿속을 비관적인 생각으로 채우고, 우리가 인류 역사상 가장 편안한 시대에 살고 있지 않다는 허구의 이야기를 퍼뜨리는 거임. 절망감을 키워서 거리로 나가 불만을 터뜨리도록 유도하려는 거지.

프랑스에서 벌어지는 것 같은 파괴적인 시위 운동을 만들려는 계획이라고 생각함. 국가를 향한 간접 공격인데 지금까지의 대응은 너무 약했음.

각국은 정보 공간에 대한 공격을 실제 공격으로 취급해야 함.

완전 공감. 계정 생성일, 활동 기록 숨김 여부, '형용사-명사-숫자' 형태의 이름을 쉽게 필터링할 수 있으면 이런 계정을 걸러내는 데 도움이 많이 될 듯.

물론 그래도 빠져나오는 계정이 많을 거고, 상대도 적응해서 악용하겠지만. SNS나 포럼 전반에 봇이 대량으로 돌아다니는 건 너무 뻔함. 촉을 발휘하고 의심하는 태도를 가져야 함. 특히 누군가를 지나치게 치켜세우는 분위기일 때.

참고로 이런 글은 봇이 탐지를 피하는 방법을 학습하는 데도 도움이 됨.

네가 가져온 건 가장 뻔한 유형의 봇 사례일 뿐임. 이 사이트 트래픽의 10%는 훨씬 넘게, 다른 글을 복사하지 않고도 LLM으로 사람처럼 말하는 더 정교한 봇일 거라고 봄. 레딧은 재미로 쓰되 확고한 의견을 형성하는 근거로 삼지는 마. 우리도 선전에 면역인 건 아님.

레딧에는 사람보다 봇이 더 많음.

“적어도 2016년부터 레딧 여론을 움직이려는 캠페인이 있었다”는 말에 덧붙이면, 사람들이 이게 사실상 기본 전략이고 모두가 한다는 걸 모르는 게 제일 신경 쓰임.

어느 편에 서 있든 그쪽에도 봇 부대가 있음.

이틀 동안 글을 두 개 썼는데 둘 다 대화 맥락에 비해 지나치게 공격적인 답글이 최소 하나씩 달렸음. 플랫폼 참여를 유도하려고 일부러 적대적으로 쓴 게 아니라면 내가 이상한 건가 싶을 정도로 패턴이 뻔함.

통계도 확인해 봐. 글을 올리고 몇 초 만에 조회수 25회가 넘으면 분명 봇들이 새 글을 보고 어떻게 반응할지 결정하고 있는 거임.

이런 캠페인은 계속되고 있고, 레딧이 권위주의 쪽으로 천천히 의도적으로 기울면서 직접 이를 돕고 있다고 생각함.

과장처럼 들릴 수 있지만 상관없음.

r/thailand에서 관련 토론 중 이스라엘에 부정적인 의견을 내면 바로 반대 추천이 몰림. 브리티시컬럼비아의 좋은 점을 다루는 것처럼 보이지만 인종차별적 메시지를 그럴듯하게 퍼뜨리는 데 쓰이는 r/ilovebc도 있음.

r/intactivism이 지난 몇 년간 여성 혐오에 빠진 것도 봐. 이건 봇 캠페인이라고 단정하는 건 아니고, 전 세계적으로 공감 능력이 줄어드는 현상의 한 증상 같음. 불관용이 자연스럽지 않은 방식으로 커지고 있다고 봄.

CQS 점수처럼 노골적이지 않게 검열할 수 있는 레딧의 도구들도 점점 늘어나고 있음. 블루스카이에서 레딧 같은 서비스를 만들어 줬으면.

참고로 내가 최근 정보전 전술에 관해 읽은 바로는 중국은 이런 쪽에 집중하지 않음. 기업이나 정부 해킹 쪽에 더 관심이 있다고 봄.

게다가 중국은 어느 정당이 집권해도 이득을 볼 수 있는 상황임. 트럼프의 관세는 불리하지만 미국의 소프트파워를 약화시키는 건 유리하니까.

물론 중국 봇이라면 딱 이렇게 말하겠지. ;)