PC에 램 두는 게 비효율적이라는 샘 올트먼 발언에 반발

저 사람들이 원하는 세상은 사용자 컴퓨터가 전부 빅테크가 임대해 주는 하드웨어에 접속하는 단말기가 되는 거임. 어떤 사람은 같은 PC를 10년 넘게 쓰는데, 그동안 자기들한테 돈이 안 들어오는 게 싫은 거지.

사람들은 자기 컴퓨터를 직접 소유하는 걸 좋아한다고. 항상 100%로 돌리지 않아도 괜찮아. 우리는 로봇이 아니라 사람이고, 이 모든 기술은 원래 사람을 위해 만드는 거잖아. 정말 어이가 없다.

그래서 우리가 그런 모델에 접근하지 못하게 하고 싶어 하는 거지.

컴퓨팅을 자기가 통제하는 공공 서비스처럼 만들고 싶어 하는 거임. 몇 년째 그런 얘기를 해왔어.

그 사람 차고에 서 있는 슈퍼카들도 꽤 비효율적일 텐데, 일반 시민들이 같이 쓰게 해줘야겠네.

640KB면 누구에게나 충분할 텐데.

:)

그럼 네 생각엔 Qwen 3.8이 별로라는 거야? 어떤 용도로 쓰는데?

너희의 모든 램은 우리의 것이다.

IBM이 컴퓨터는 다섯 대만 있으면 된다고 말한 일 같네.

가격이 두 배로 뛰기 전에 올해 초에 PC를 사둬서 다행이다.

참고로 여기 제목은 기사 제목과 똑같음.

결국 목표는 사람들이 물리적인 기기를 소유하지 않게 만드는 거라고 봄.

소니가 디지털로 밀어붙이는 걸 봐. 마이크로소프트도 소유하는 대신 빌려 쓰는 디지털 PC를 제공할 계획이 유출됐고.

램 회사들도 일반 소비자한테 별 관심이 없어. 기업들이 더 큰 물량을 더 높은 가격에 살 수 있는데 왜 우리한테 팔겠어?

그리고 로컬 기기가 있으면 로컬 LLM도 가능해짐. 나는 AI에 반대하는 입장이라 여기서 비추천을 받겠지만, 기업 입장에선 OpenAI나 클로드에 돈을 쓰지 않는다는 뜻일 뿐 아니라 다른 산업에도 위협이 된다고 봐.

결국 대부분의 사람이 물리적 기기나 로컬 LLM에 접근하지 못하고, 계속 비싸지는 요금을 내야만 LLM을 쓸 수 있는 세상이 목표라는 거지.

AI가 예술과 게임 개발을 민주화한다고 말하는 사람도 많지만, 장기적으로는 오히려 힘 있는 소수에게 집중될 수 있다고 생각함. 관련 산업이 무너지고 사람들은 보안 등을 이유로 로컬 LLM을 막는 임대 PC에 의존하는데, LLM 가격마저 엄청나게 오르는 상황을 상상해 봐.

할리우드도 사람들이 영화를 만들 수 없게 되고 CEO가 며칠 만에 프롬프트로 영화를 찍는다고 더 좋아질까? 결과가 별로여도 대안이 없어질 수 있음.

내가 보기엔 AI의 목적은 생산 과정에서 사람을 빼는 것이고, 각자가 로컬 LLM을 갖는 건 그런 방향에 위협이 되는 거야.

올해 PC를 샀다면 이미 작년 초보다 램은 다섯 배, 저장장치는 두 배나 주고 산 거야.

샘 올트먼의 포트폴리오와 은행 계좌에 수십억 달러가 거의 활용되지 않은 채 잠들어 있네. 수십만 명에게 나눠주면 다들 열심히 쓸 텐데. 세계적인 자원 배분 관점에서 보면 상당히 끔찍함.

이건 사람들이 램을 갖는 문제라기보다 로컬 AI에 관한 거임. 올트먼은 그걸 독점하고 싶어 할 거야. 계속 규제가 필요하다고 말하는 것도 이상하지 않아? 규제가 생기면 신규 업체와 취미로 하는 사람들은 활동하기 어려워지고, 컴퓨팅 자원과 램도 다 가져갈 수 있지. 그러면 모두가 그에게 의존해야 하고 가격도 마음대로 올릴 수 있으니까.

2월에 PC를 2400달러에 샀는데, 지금 똑같은 컴퓨터가 판매처에 따라 5600~6000달러임.

올트먼이 이런 말을 하는 이유가 엄청난 권력욕 때문이라고만 보는 사람들은 너무 나간 것 같음.

두 가지가 동시에 사실일 수 있어.

1. 규모의 경제 덕분에 데이터센터가 컴퓨팅 자원을 더 효율적으로 활용함. 일반 가정용 PC는 대부분의 시간 동안 콘센트에 꽂힌 채 사용되지 않고, 사용 중에도 자원의 상당 부분은 놀고 있음. 데이터센터는 최대한 계속 활용하고. 그게 전부야.

2. 샘 올트먼은 권력욕이 엄청난 사람임.

수정: 경제학이나 컴퓨터 과학을 모르는 사람들은 아래 댓글 참고.

저 사람들은 우리가 최소한의 기능만 갖춘 단말기를 쓰길 원함. 램이 충분하지 않으면 좋은 CPU가 있어도 많은 작업에서 제대로 활용할 수 없으니까. 결국 모든 일을 데이터센터에 맡길 수밖에 없게 되지.

참고로 이런 씬 클라이언트 구상은 AI보다 훨씬 오래됐어. 벤처 투자자 등은 수십 년 전부터 컴퓨팅을 ‘임대’하는 방식에 관심이 많았음. 구독료가 꾸준한 수익을 얻는 데 유리하니까.

소유를 평생 임대로 대체하는 게 목표라고 봄. 모든 건 그들이 소유하고 우리는 아무것도 소유하지 못한 채 계속 돈을 내는 거지.

엔비디아는 소비자용 RTX 20·30·40 시리즈 카드에 펌웨어 제한을 걸어 일부 AI 연산인 FP16·BF16 텐서 연산 속도를 같은 칩을 쓰는 전문가용 카드의 절반 정도로 제한함. gpu-unlock 같은 오픈소스 도구는 드라이버가 로드되기 전에 이 펌웨어를 이용해 제한을 해제하는데, 변경은 일시적이라 재부팅하면 초기화됨.

테스트에서는 프롬프트 처리와 이미지 생성 같은 AI 작업의 성능이 크게 올랐지만 게임이나 토큰 생성에는 이득이 없었음. 도구는 실험 단계이고 주로 리눅스용이며 RTX 50 시리즈에서는 작동하지 않음.

내 생각엔 지금 AI 비용이 크게 보조되고 있어서 현재 가격을 오래 유지하기 어려울 거야. 가격이 오르면 사람들은 일상적인 용도에 쓸 대안을 찾겠지. 가장 경쟁력 있는 최첨단 모델과 API 비용은 주로 기업만 감당할 수 있을 테니까.

소비자용 GPU에서 돌아가는 로컬 AI가 2년 뒤처져 있다고 해도, 2년 후에는 게이밍 GPU 한 장에 Opus 5.5나 GPT Astra급 모델을 올릴 수 있다는 뜻임. 개인이 갖기엔 엄청난 힘이지. 내 안의 음모론자는 기업이나 정부가 그런 상황을 원하지 않을 거라고 생각함.

막는 방법은 세 가지야. 하드웨어를 개인이 살 수 없을 만큼 비싸게 만들거나, 소유를 불법화하거나, 소프트웨어 자체의 소유를 불법화하는 것. 첫 번째는 GPU, 램, 저장장치에서 이미 일어나고 있고 나머지 둘도 앞으로 몇 년 안에 뒤따를 것 같음.

Qwen 3.8 27B는 최고 수준의 로컬 모델과는 거리가 멀어. 예를 들어 매개변수가 7530억 개인 GLM 5.3은 Opus 4.6과 겨룰 수 있고, Deepseek-v4.1도 있어. 네가 믿는 트럼프 측 선전과 달리 로컬 모델도 최첨단 수준에 도달하고 있음. 트럼프가 그렇지 않다고 믿게 만들려는 건 OpenAI 같은 곳이 LLM을 독점하도록 하고, 언젠가 AGI로 상위 1%를 상위 0.01%로 만들고 싶어서라고 봐.

로컬 모델을 진지하게 돌리는 사람들이 4080 한 장만 쓰는 건 아니야.

M4 Max 맥 스튜디오에서 Q3 양자화 모델을 돌리고 있음. 워크스테이션에서도 주요 레이어는 GPU에 넘기고 나머지는 시스템 램 1TB에 올려 CPU로 돌려봤는데, 그 경우엔 답답할 정도로 느림. 게이밍 PC는 로컬 AI 추론에 이상적인 장비와는 거리가 멀어. 누가 그렇다고 했는지 모르겠네. 나는 요즘 주로 파인튜닝과 사전학습을 해서 필요한 조건이 좀 다를 수도 있음.

작거나 특정 작업에 특화된 모델들을 파이프라인으로 연결하면 비슷하거나 더 좋은 결과도 낼 수 있음. 각 모델이 개선될 때마다 따로 교체할 수도 있고. 전부 또는 일부를 로컬에서 돌리면 최상위 모델보다 비용이 훨씬 적게 들고, 로컬 시스템에 접근할 수 있어서 속도도 더 빠른 경우가 많음.

그걸 어떻게 하는지에 관한 논문을 썼음. 작은 모델의 모든 능력을 효율적으로 활용하는 단계에는 아직 한참 못 미쳤어.

논문: Sufficiently Advanced Agents Are Indistinguishable from Erlang
https://dl.acm.org/doi/10.1145/3843778.3856135

“한정된 램이 더 효율적으로 사용되면 소비자 모두에게 더 좋다.”

어떤 점에서 더 좋은데?

내가 사는 지역에서 올트먼이 소유한 램으로 작업 X와 Y 중 무엇을 먼저 처리할지 누가 결정하지? 내가 아니라 올트먼이 결정함.

토큰에서도 이런 가격 체계를 이미 봤잖아. 최종 사용 요금이 얼마나 나왔는지, 그 돈으로 얼마나 적은 작업이 처리됐는지 보고 놀란 사람이 많았음.

토큰 가격은 일정하지도 않고 미리 알기 어렵기도 해. 어떤 작업에 토큰이 얼마나 필요하고 비용이 얼마 들지 사전에 모를 수 있다는 거지.

내가 원하는 건 작업을 빨리 처리하는 것이고, 그의 목표는 자신이 가진 램과 프로세서 등으로 수익을 극대화하는 거야. 둘은 충돌함.

그건 잘 알고 있음. 그래도 4.6은 여전히 상당히 유능한 모델이야. 특히 역공학이나 다른 사이버 보안 작업에서 그렇지. 예를 들어 클로드는 안전장치가 작동하면 성능이 떨어질 수 있으니까.

중앙집중식 컴퓨팅 자원이 누구한테 더 효율적이라는 건데?

분산된 방식으로 직접 컴퓨팅할 수 있는 능력을 소유하고 싶은 소비자인 나한테는 아님.

샘이 버스 타고 일반 항공편을 이용하기 시작하면 내 램도 가져가도 됨.

그게 더 효율적인 활용이잖아!

그래도 난 내 PC에 램이 있는 게 좋은데.

‘효율적인 사용’이라는 말에 동의 못 하겠음. 결국 권력자와 국가가 누가 언제 어떻게 접근할 수 있는지, 얼마를 낼지 결정한다는 뜻이니까. 부유하고 힘 있는 사람들이 자원을 독차지해서 공급이 인위적으로 제한되고 가격도 크게 부풀려졌다고 봄. 선두에 서려고 당장 필요하지도 않은 엄청난 용량을 앞다퉈 사들이는 거지. 그러고는 자원을 어디에 어떻게 쓸지 결정하고.

더 나쁜 건 그들은 더 크고 빠르고 제약이 적은 모델을 쓰면서, 우리는 남은 것을 비싼 돈을 내고 써야 한다는 거야.

그러니 어떤 기준으로도 더 낫다고 생각하지 않음.

내 차도 쓰는 시간은 전체의 5%뿐임. 식기세척기도, 샤워기도, 청소기도, 잔디깎이도, 식탁의 네 번째 의자도 마찬가지고. 끝도 없음.

RTX Pro 6000 두 장으로 Qwen Flash Next, Kimi K3, Deepseek Flash 1017을 돌리고 있음. 이번 주말에는 새 미스트랄 모델도 써볼 예정.

H3로 영상 생성도 하고.

어이가 없는 건 내가 부정확한 부분을 지적하면 마치 이걸 옹호하는 것처럼 보인다는 거야. 전혀 아닌데 말이지. OpenAI는 문제라고 생각함. 그래도 레딧은 가끔 정말 답답하다.

음식에 향신료를 넣는 것도 자원을 참 끔찍하게 쓰는 일이네. 거기 들어가는 물과 노동력을 다른 데 더 효율적으로 쓸 수 있을 텐데.

~ 어느 냉혈한이

두고 봐. 대형 AI 회사들이 총기처럼 컴퓨터 장비도 정부가 제한하고 규제해야 한다고 주장할 거야.

샘한테는 상당히 끔찍하겠지.

맞아. 문제의 상당 부분은 ‘이건 내 거야’라는 개인주의적 사고방식이라고 봄. 한 달에 한두 번 쓰는 잔디깎이도 이웃과 공유하면 더 잘 활용할 수 있다는 생각을 비웃게 되잖아.

부분적으로는 그의 말이 맞아. 그렇다고 우리가 해야 할 일은 집에 홈랩을 구축하는 거라고 봄. 방법을 알고 구성을 잘하면 일상적으로 쓰는 PC에는 적은 양의 램만 넣어도 될 수 있음.

하지만 그는 그 컴퓨팅 자원을 소유하고 싶어 하니, 좋은 로컬 환경을 버리고 대형 업체에 가입하자는 얘기는 아님. 작은 모델을 돌리고 아이클라우드나 구글 서비스가 제공하는 것 같은 여러 기능도 쓸 수 있는 홈랩을 가전제품처럼 집에서 쓰는 방향으로 가야 한다고 생각함.

그러니까. 그리고 많은 사람이 원칙적으로는 좋다고 말하다가도 정작 자기 차례가 되면 달라짐. 저 사람이 자기 차를 나한테 오후 내내 빌려줄지는 상당히 의문인데.

하지만 실제로 램을 100% 활용하지는 않잖아. 소비자 전체로 봐도 확실히 그렇고, 그렇게 하도록 강제할 수도 없음. 설령 네 램을 24시간 내내 돌려도 소비자 전체의 활용률에는 사실상 변화가 없어. 너는 수많은 사람 중 한 명이니까.

그의 발언 자체는 객관적으로 맞음. 왜 다들 그 사실에 반박하려고 하는지 모르겠어.

그냥 서버 활용률이 가정용보다 높든 말든 사람들이 별로 신경 쓰지 않는다고 인정하면 됨. 가정에서 자원을 소유하며 얻는 실제 효용이 그런 가동률 지표보다 훨씬 중요하니까.

전 세계 램을 토큰을 읽고 쓰는 데 쓰는 게, 램과 모든 소비자 전자제품의 가격을 보통 사람들이 감당할 수 있는 수준으로 낮추는 것보다 결코 자원을 더 잘 쓰는 방법은 아님.

소수의 거부들이 자원을 가장 ‘효율적으로’ 쓸 수 있다는 이유로 세상의 자원을 소유할 자격이 있다고 정당화하는, 자기들에게만 유리한 논점 흐리기라고 생각함. 이런 기술 재벌들의 세계관이 잘 드러나는 것 같아.

로컬 LLM이 최첨단 모델 수준에 한참 못 미치더라도, 많은 AI 활용 사례에서는 꼭 그 수준일 필요가 없음. 특히 작업을 세부적인 개별 흐름으로 나눠서 처리한다면 말이지.

시간을 들여 이것저것 만져보면 로컬 LLM으로 할 수 있는 일이 놀라울 정도로 많아. 그래도 네 말대로 대부분의 일반적인 AI 사용 방식에서는 최첨단 모델의 능력에 한참 못 미치는 건 맞음.

파워 오토메이트를 안다면, 내 생각에 로컬 LLM의 진짜 방향은 그런 쪽임. 그리고 속도에 대한 기대치를 낮추는 것도 중요하고.

“집에서 개인이 쓰면 컴퓨팅 효율이 훨씬 떨어진다는 건 부정할 수 없다.”

무슨 기준의 효율인데? 집 자동화에 작은 AI를 돌리는 데 데이터센터까지 필요하진 않아. 거대한 클라우드에 맡기면 내가 가진 팬 없는 5W 미니 PC보다 전력을 훨씬 더 쓰게 됨. 내가 필요한 출력과 관계없이 수백 킬로와트에 달하는 전력을 쓰는 장비에서 요청을 처리할 테니까.

그의 주장은 아주 좁은 지표 하나에만 집중하고, 모두에게 항상 같은 작업량이 필요하다고 가정하는 것 같아. 그런 주장이라 비판받는 게 당연함.

사람에게 편안함을 주는 자원, 예를 들어 소파가 있다고 해보자. 거기 앉아 있지 않을 때 다른 사람들이 그 자원으로 편안함을 누리지 못하게 하는 셈임. 그러면 소파가 편안함을 제공하는 가동 시간이 줄고 자원 효율도 떨어짐.

반면 당신은 다음에 앉고 싶을 때 깨끗하고 다른 사람이 건드리지 않은 소파가 있을 거라는 편안함을 얻지.

다른 사람을 희생시키면서 자기 몫을 원하는 것, 그게 욕심의 정의임.

참고로 욕심이 나쁘다는 얘기는 아님. 사람은 대체로 욕심이 있으니까.

그런데 r/openai에서 하는 이 토론이 정말 잔디깎이 얘기는 아니잖아? 잔디깎이의 세부 사정에만 집중하면 요점을 놓치는 거임.

원하면 내 램을 시세의 열 배에 사가도 됨.

그것도 개인주의의 부정적인 악순환 중 하나임. ‘내 거니까 마음대로 쓴다’고 생각하다가 공공재가 생기면 ‘이것도 앞으로 5분 동안은 내 거니까 재미로 망가뜨려도 된다’고 생각하는 거지. 그래서 좋은 걸 함께 쓰기 어려워짐.

일본 같은 집단주의 문화에서는 ‘어차피 망가질 거야’라는 생각 자체를 잘 하지 않는다고 봄. 그래서 공공 인프라와 시설, 서비스를 더 많이 누릴 수 있고.

집단주의가 무조건 개인주의보다 낫다는 말은 아님. 나도 개인주의를 더 선호하는 편이야. 다만 이 부분에서는 집단주의 문화가 확실히 유리하다고 생각함.