아마존 엔비디아 칩 전력 부족으로 창고에 쌓여있대

돈이 엄청나게 묶여 있네. 전기 있는 사람한테 칩을 되팔면 안 되나? ㅋㅋ

그런 사람이 있었으면 진작 그랬을 듯.

중국에는 전력이 많지만 우리는 중국이 AI를 잘하게 되는 걸 원하지 않고, 중국도 더는 미국 칩에 의존하고 싶어 하지 않잖아.

ㅇㅇ 중국이 베이조스를 도와줄 거라고는 생각 안 함.

새 기술이 나오는 동안 감가상각은 계속되고, 투자한 돈이 사실상 날아가는 걸 생각해 봐.

'설치 중이라 가동하지 않는 GPU도 있다'
그렇겠지.

아마존이 쌓아둔 칩 가격을 50% 더 올린 다음 무료 당일 배송해 주겠네.

칩 수요의 상당 부분이 사실 되팔이 때문이었다는 결론이 나오면 웃기겠다 ㅋㅋ

아마존은 아마 괜찮을 거고, 칩을 나중에 샀으면 더 비쌌을 수도 있음.

이제 AI 기업들끼리 같은 칩만 서로 돌려가며 사고파는 판이 벌어지는 건가 ㅋㅋ

젠슨이 AI 기업들 상대로 포르쉐식 판매 전략을 쓰는 느낌임. 베라 루빈을 원하면 먼저 블랙웰 GPU를 최소 몇십억 달러어치 사야 한다는 식으로.

중국은 칩이 많고 그쪽 업계에도 거품이 있음. 딥시크는 수익이 3억 달러 정도인데 기업가치는 200억 달러쯤 됨.

서구 기업들은 AI 사업에서 수익을 단 1달러도 못 내고 있음.

에드 지트론은 매일매일 자기 말이 맞았다면서 한 바퀴씩 돌겠네.

근데 아직 가동하지 않았으니 회계상 감가상각은 안 되고 있음! 희한한 회계 규칙 중 하나인데, 자본재는 전부 시간이 지나도 상하지 않는다고 가정하거든. 현대 기술 장비 상당수는 실제로 그렇지 않은데도.

스페이스X의 숫자가 좋아 보이는 이유 중 하나도 만드는 중인 것들이 건설 기간에는 회계상 '나이 들지' 않기 때문임.

지트론이 여름에 이 얘기를 했었지. 경쟁사들이 못 가져가게 가치가 떨어지는 하드웨어를 쌓아두는 거라고.

근데 LLM은 돈을 버는 단계인 추론에 꼭 최첨단 칩이 필요한 건 아님. 서비스 업체들은 아직도 2022년 칩으로 모델을 돌리고 있고, 10년쯤 된 고메모리 GPU도 가격이 여전히 높음.

지금 저 사람은 세상에서 제일 쉬운 일을 하고 있네.

중국이 왜 아마존 사정을 신경 쓰겠어? 수출 통제만 허용한다면 중국 연구소 수없이 많은 곳이 파는 사람한테서 그 칩을 사려고 할걸.

앞으로 수십억 달러 규모 계약에서 벌 돈으로 전기요금을 내면 되잖아? 전력회사가 차용증을 요금으로 안 받아준다고?

“비용 처리하면 되잖아, 제리.”
“크레이머, 넌 비용 처리가 뭔지도 모르잖아.”
“알아. 비용으로 처리하는 거지.”

딥시크 기업가치는 앤트로픽이나 다른 미국 최첨단 AI 기업들보다 훨씬 합리적으로 보임. 다른 수익 사업이 있는 구글, 아마존, 메타 같은 곳은 빼고.

아니, 지트론의 주장은 엔비디아가 지금 계속 칩을 사지 않으면 나중에 공급을 끊겠다는 식으로 기업들을 압박한다는 거임.

엔비디아가 초대형 클라우드 기업들의 지출을 쥐고 흔든다는 거지.

그것도 이유 중 하나지.

그 사람은 시기를 너무 성급하게 잡는 듯. 기대를 좀 낮춰야 함.

경제에서는 일이 생각보다 늦게 일어나고, 일단 일어나면 생각보다 훨씬 빠르게 진행된다.

• 뤼디거 도른부시

내가 듣기로는 그 사람이 다른 사람들처럼 시장 폭락 날짜를 예측해 온 건 아님. 팟캐스트에 워낙 많이 나와서 어딘가에서 그랬을 수도 있지만. 최근에 들은 것 중 가장 구체적인 건 내년 초쯤일 수도 있다는 정도였음.

딥시크: 미국 최첨단 기업들보다 기껏해야 6개월 뒤처져 있는데 기업가치 200억 달러.

미국 최첨단 기업들: 2조 달러. 딥시크의 100배.

누가 이 차이 좀 설명해 줘.

수명이 갑자기 크게 늘어나지 않는 한 가동하기도 전에 쓸 만한 기간이 끝날 거임. 사실상 돈을 날리는 셈이지. 회계 처리로 가릴 수 있다고 해서 비용이 갑자기 없어지는 건 아니잖아?

초대형 거품, 역대 최악의 거품, 엄청난 튤립 투기 뭐 그런 거지.

이제 기업 차원에서도 물건 쌓아두기 경쟁을 하네.
아마존 프라임 신작 '창고 전쟁' 시즌 1.

https://danluu.com/zitron/

2024년 2월: “생성형 AI가 할 수 있는 일과 결과물의 정확성은 한계에 가까워지고 있다고 생각한다.”

2024년 7월: “3월에도 말했듯 생성형 AI는 이미 정점에 이르렀거나 정점에 가까워지고 있다. 새로운 입력을 받아 지금 하는 일을 더 빠르게 하는 것 외에는 크게 더 할 수 없다.”

2025년 11월: “고품질 학습 데이터가 부족해지고 있고 스케일링 법칙도 벽에 부딪혀, 현재 학습 방식에서는 모델이 더 좋아지지 않는다. 지금 보는 모습이 앞으로도 거의 그대로일 것이다.”

몇 가지 사례만 가져온 거고, 더 보려면 링크를 확인해 봐.

공장이 있어서 하루에 물건 100개를 만드는 기계를 샀다고 해 보자. 이듬해 같은 비용으로 하루에 1,000개를 만드는 새 기계가 나옴. 기다렸던 경쟁사는 그걸 설치하고. 그러면 네 기계는 사실상 쓸모가 없어지는 거임.

아마존만 그런 것도 아니고, 기업들이 AI에 돈을 비효율적으로 쏟아붓는 방식도 이것 말고 많음. AI 성능이 어떻든 결국 비용 효율이 중요해질 거임. 그런데 시장 선두 기업들이 걱정하는 건 비용 효율이 아니라 주가임. 그래서 주가를 올려주는 지표인 AI 투자에 최대한 돈을 쏟아붓는 거지. 여기 수십억, 저기 수십억 쓰고 그 돈으로 실제 뭘 얻었는지는 나중에 보거나 아예 안 보는 식.

게다가 전부 빚으로 하는 거잖아. 결말이 좋을 리 없음.

아, 저 글 정말 답답하다. 에드 지트론은 예언자가 아님. 기술업계 사람들에게 너무 질려서 실제 숫자를 들여다보기로 한 자폐인일 뿐임. 그리고 지금까지 그가 공개한 정보는 큰 방향에서 정확했음. 특정 일이 언제 일어날지에 대한 개인적인 생각은 그냥 의견일 뿐인데, 그가 논의하는 실제 구조는 무시하고 그 부분만 파고드는 건 말이 안 됨.

실제 돈을 낼 필요가 없기 때문임. 엔비디아가 칩을 살 돈을 빌려주고, 기업들은 주식이나 차용증으로, 가능하면 토큰으로 갚는 거지. 겉으로 보이는 것보다 실제 오가는 돈은 훨씬 적음. 수십억 달러어치 칩을 사서 창고에 넣어두는 목적은 투자자들에게 AI에 수십억을 투자했다고 발표해서 주가를 띄우고 모두를 만족시키는 거임.

모델 자체가 좋아지는 걸까? 아니면 모델 주변 소프트웨어, 이를테면 하네스나 MCP 같은 것들이 좋아지는 걸까?

내가 이해하기로는 모델은 조금씩 좋아지고 있지만, 개선의 대부분은 주변 소프트웨어와 추론 같은 과정에서 나오는 것 같음.

물론 내가 완전히 틀렸을 수도 있음. AI 발전 얘기는 다들 감정적이라 확실한 정보를 얻기가 어려워.

지트론의 AI 기술 관련 평가는 별로였지만, AI 재무에 관한 평가는 꽤 정확했음.

오픈AI와 앤트로픽의 재무 상태가 형편없다는 걸 수치가 공개되기 전에 지적했고, 실제로도 그렇잖아. 코어위브에 대해서도 오래 경고했는데 지금은 정말 무너질 수 있어 보이고. GPU가 다 어디 있느냐고 물으면서 바로 이 기사 내용도 짚었음.

에드가 인기 있는 이유는 한동안 뭔가 이상하다는 느낌이 계속 들었기 때문임. AI 기술 자체에 관한 말은 그대로 믿지 않겠지만, 재무 쪽이라면 난 충분히 귀 기울일 거임.

그런 방식으로 더 유명한 건 페라리인데, 다른 주요 브랜드들도 어느 정도는 함. 돈이 있다고 페라리 매장에 그냥 들어가서 신차를 주문할 수 있는 게 아님. 나중에 나올 한정판 하이퍼카 주문 후보 명단에라도 오르려면 이미 페라리를 잔뜩 가지고 있어야 하고, 원하지도 않는 차에 터무니없이 비싼 옵션까지 붙여 사야 함. 탑기어랑 그랜드 투어에서도 페라리 옵션값을 두고 차가 제일 싼 부품이라고 농담 많이 함.

실제로 어떻게 쓰이는지 불투명하고 조작도 가능한 벤치마크 말고는 제대로 측정할 방법도 없음. AI 옹호론자들이 늘 주장하는 것처럼 모델 성능이 기하급수적으로 늘고 있는 건 확실히 아님. 학습 비용은 기하급수적으로 늘지만 모델 품질은 조금씩 선형적으로 좋아지는 정도임.

큰 방향에서는 맞았다고? 그 사람은 지금쯤 오픈AI와 앤트로픽이 파산하고 상장도 절대 못 할 거라고 했음. 그런데 오히려 두 회사 가치는 각각 1조 달러가 넘잖아?

AI가 더 나아지지 않을 거라고도 했는데, AI는 인류가 직면한 가장 어려운 수학 문제 일부를 풀었음. 테렌스 타오는 준리만 문제에 대한 AI의 접근법을 인간은 생각해 내지 못했을 거라고 했고, 또 다른 필즈상 수상자는 자기가 연구하던 내용이 전부 해결됐다며 경탄했다고 함. 연구를 훔쳤다는 뜻이 아니라.

AI 낙관론자들조차 동의할 만한 얘기 말고는 맞힌 게 없음. AI 연구소들이 아직 수익을 못 내는 건 맞지만, 다리오조차 지금 이익이 날 거라고 예상하진 않았잖아.

대체 어떤 큰 방향을 맞혔다는 거임?

그래도 결국엔 대가를 주고받아야 함. 빚을 다른 방식으로 포장한다고 빚이 아닌 게 되는 건 아니잖아 ㅋㅋ 누군가 그 의무를 이행하지 못하면 어떻게 됨?

코어위브, 오라클 같은 곳에서 아래부터 균열이 올라오는 게 보이기 시작함. 기업들이 무슨 발표를 하든, 사람들이 '칩에 수십억을 투자해서 선반에 올려놓는 데 쓰고 있다'는 얘기를 들으면 자본이 낭비되는 걸 좋아하진 않을 거임.

맞음. 결국 실현 가능성이 낮은 기대에 기대고 있는 빚이고, 계속 돌려막는 데도 한계가 있음. AGI 유토피아가 나타나지 않는 하루하루 이자 비용은 늘다가 결국 빚을 갚지 못하게 되는 거지.

기업 입장에서 LLM을 바꾸는 건 엄청 쉬움. 애플이나 엔비디아 같은 플랫폼 기업과 달리 진입 장벽이 없거든. 더 좋거나 싼 LLM이 나오면 거의 즉시 그걸 쓰면 됨.

참 이상하지. 모델 성능 향상이 둔화되니까 갑자기 '인류를 위해 다 같이 속도를 늦춰야 한다'는 얘기가 나오네. 수학 관련 성과가 알트먼과 아모데이가 내놓을 수 있는 최고 결과라는 거야? 코딩 능력은 유용할 정도로 좋아졌지만, 그들이 예언하던 신과 같은 기계와는 여전히 거리가 멀고.

내 생각엔 AI 기업들이 정부 규제로 진입 장벽이 생길 때까지 시간을 벌려고 물러서는 중임. 초지능이 미래라는 명분으로 연준의 지원까지 받으려는 걸지도 모르지. 안 그러면 값싼 전기와 오픈소스 모델을 가진 중국에 밀릴 테니까.

지금은 상황을 잘 모르지만, 몇 년 전에 GPU를 약 1,000만 달러어치 사려고 엔비디아와 얘기한 적 있음. 주문량의 10%는 3개월 안에, 나머지는 18개월 뒤에 받을 수 있다고 보장하더라. 빨리 주문을 확정하지 않으면 긴 대기줄 맨 뒤로 가야 했음. 18개월이 길어 보이지만 데이터센터 짓는 데는 몇 년씩 걸리니까, 지금 먼지만 쌓이며 대기 중인 GPU가 엄청 많을 것 같음.

“학습 비용은 기하급수적으로 늘어나는데 모델 품질은 조금씩 선형적으로 개선된다.”

내 AI 교과서에는 LLM이 등장한 이후 성능이 계속 그런 식으로 발전해 왔다고 나옴. 놀라운 건 계속 개선되고 있다는 점임. 다른 머신러닝 성능은 대부분 어느 순간 한계에 이르면 더 나아지지 않는 경향이 있거든.

LLM에도 한계가 있는지는 아직 아무도 발견하지 못했음. 데이터가 많아지면 성능도 좋아짐. 비율이 불리하더라도 성능이 더 좋아지는 건 사실이지.

이 AI 경쟁에서 결국 이득 보는 건 인내심 있게 기다리는 기업들뿐일까 봐 걱정임. AI에 쏟아붓는 돈은 막대한데 순이익에는 아무 도움도 안 되고, 당분간은 그럴 거임. 가만히 기다리다가 파산한 인프라 기업과 AI 기업을 헐값에 사들이면 되겠지.