MS가 오라클 구형 GPU 반납하자 가격 두고 말 나옴

공평하게 말하면 두 번째 선택지의 20%는 두 번째 선택지와 같음.

MS가 ‘구독 취소’를 눌렀는데 어째서인지 청구서는 나한테 날아옴.

이거 엔비디아와 메모리 업계에는 호재 아닌가?

내 기술적 이해가 맞다면, 더 큰 모델에 메모리가 더 많은 새 GPU가 필요해서 구형 GPU가 덜 매력적이 된 것 같음. 이런 흐름이 가까운 미래에 더 이어질 수도 있을 듯.

걔네는 GB 시리즈 칩을 원하는 거임.

맞기도 하고 아니기도 함. 거품을 둘러싼 기대 중 하나는 문제가 생겨도 이 칩들이 가치를 유지하면서 프로젝트를 뒷받침할 거라는 거였음. 칩 자체가 빚의 담보가 되는 거지. 그런데 3~4년 만에 칩 가치가 없어지면 좋은 담보가 아님.

다른 가능성은 칩에서 메모리 모듈을 떼어내 재활용하기 시작하는 거임. 중국의 일부 시장에서는 이미 하고 있음.

미국에는 그런 작업을 할 기술 인력이 많이 부족하고.

이 뉴스에도 오라클 주가가 안 떨어진다고? 바닥이 가까워졌네.

블룸버그에 따르면 MS는 계약 갱신을 거절하고 해당 자원을 끄고 있음. 오라클 장비가 MS 사양에 더는 맞지 않는 구형 엔비디아 칩을 쓰기 때문이라고 함. 내 생각엔 수요 붕괴 신호보다는 하드웨어가 안 맞는 문제에 가까움.

오라클이 이 칩들의 사용량을 일반적이거나 우선순위가 낮은 작업용으로 팔 수는 없나? 예를 들면 최신 하드웨어가 필요 없는 간단한 질문이나 일반인들이 무료로 검색할 때 쓰는 AI 도구 같은 거.

업계가 결국 가장 크고 복잡한 작업에는 최신 연산 자원을 쓰고, 구형 하드웨어는 가벼운 AI 요청을 처리하는 쪽으로 자리 잡지 않을까 싶음.

“칩 자체가 빚의 담보가 되는 거지. 그런데 3~4년 만에 칩 가치가 없어지면 좋은 담보가 아님.”

그건 틀렸음. 우선 구형 GPU가 돈을 벌고 있다는 증거는 지금도 아주 많음. V100조차 최대 9년이 지난 지금까지 수익을 내고 있음. 대형 모델만 연산 자원을 필요로 하는 게 아니라서 현재 시장에서는 사실상 가치가 아예 없어지지 않음.

둘째로 투자금 회수에 여러 해가 걸릴 거라고 예상하는 사람은 없음. 요즘은 2~3년이 흔할 거임.

지금 기대가 큰 이유도 바로 그 시점까지 가치가 거의 떨어지지 않았다는 경험 때문임. 물론 새 칩으로 교체할 수도 있지만, 그냥 기존 칩을 놔두고 계속 수익을 올릴 수도 있음.

그러니 이런 흐름이 좀 약해지는 건 흥미롭지만, 그렇다고 4년 된 GPU를 버리는 사람은 없음.

3년 넘은 칩에 큰 가치가 있을 것 같지는 않은데.

이거 6월에 나왔던 헤드라인을 다시 쓴 거라서 그럼. 2023년 빙 계약에서 매출 30억 달러가 빠진다는 얘기는 반년 전에 이미 주가에 반영됐는데, 오라클이 어떻게 버티겠냐고 호들갑인 거지.

레딧에서는 그걸 잘 파악하지 못하는 듯.

너도 레딧 하는 사람 아니냐?

IREN은 비슷한 GPU를 두 배 가격에 임대했음. 그러니까...

아직도 서로 맞장구치면서 이 판을 유지하려고 하네! 💥

MS는 자체 연산 자원을 더 많이 확보하고 있음.

연산 자원 사용도 더 효율적이 됐고.

MS가 확보한 신형 GPU는 전력 1kWh당 더 많은 토큰을 생성함. 그리고 MS는 오라클 연산 자원으로 학습을 하는 게 아니라 추론을 돌리고 있었는데, 그건 자체 서버에서 더 싸게 할 수 있음.

내 생각에 MS의 궁극적인 목표는 추론용 연산 자원을 아예 빌리지 않고 자체 맞춤형 칩을 쓰는 거임.

오라클이랑 네오클라우드 업체들 주가가 바로 5% 떨어졌다가 몇 시간 만에 다시 올라왔음.

게다가 기업들은 가치가 더 빨리 떨어질 수도 있는 기술에 엄청난 웃돈을 내고 있음.

감가상각이 잘 관리되는 것처럼 보이게 회계 처리를 하려고 애쓸 거임.

이런 일이 여기저기서 벌어질 거임.

오라클은 이제 부담할 비용은 더 커지고 현금 흐름은 줄어드는 상황임. 주문도 취소하고 건설 계획도 취소해야 할 거임.

하이닉스와 엔비디아에도 영향이 갈 거고.

시가총액 4조 달러짜리 회사의 행동이 80억 달러짜리 회사보다 시장 방향을 더 잘 보여준다고 보는 게 합리적이지.

A100이 지금의 AI에는 더 이상 유용하지 않아서 그런 거임.

그런데 진짜 뉴스는 MS가 납품 문제 때문에 네비우스와 엔스케일러 주문을 취소했다는 거임.

현재 개발 중이거나 계획 중인 데이터센터들이 납기를 못 맞출 거라고 봄. MS가 납품 문제를 이유로 빠질 수 있다면 2029년 이후 주문도 대부분 같은 문제를 겪을 가능성이 큼.

MS는 대부분의 회사와 좀 다름. 필요한 자원을 구하지 못하는 회사가 엄청 많은데, MS의 사양 기준이 전체 시장을 보여준다고는 생각 안 함.

MS는 다른 회사보다 선택지가 많을 뿐임.

IREN은 그만큼 급한 거임.

오라클, 단단히 각오해라.

오라클 큰일 났네.

그래도 사양을 까다롭게 고를 수 있다는 것 자체가 MS의 수요나 오라클 자산의 유용성, 또는 둘 다에 관한 신호임. 적어도 오라클의 이런 자산이나 비슷한 장비의 중기 가치에 좋은 징조는 아니라고 봄.

같은 임대 연산 자원 이야기인데, 실제로 자원을 끄니까 제목이 더 요란해진 거네.

특정 데이터센터의 특정 계약 이야기임. 오라클이 제공하는 장비가 전부 그 4년 된 CPU뿐이라는 뜻은 아님.

나는 초대형 클라우드 업체들 전망을 아주 낙관적으로 봄. 다만 지금은 구글이 독보적인 위치고, 그다음이 아마존, 마지막이 MS임.

MS는 인프라에 더 투자하지 않는 큰 실수를 하고 있음. 구글이 나머지 둘보다 훨씬 빨리 성장하는 이유임.

전 분기 대비 구글은 59억 달러가 늘었는데, 더 큰 아마존은 37억 달러 늘어나는 데 그쳤음.

“그리고 자체 맞춤형 칩을 사용한다”

MS가 자체 칩의 필요성을 놓쳤다는 게 정말 놀라움. 구글은 10년도 더 전에 TPU를 공개적으로 선보이기 시작했는데.

MS는 구글을 따라 하기만 하면 됐음. 인터넷도 놓치고 모바일도 놓치고, 같은 이야기가 계속 반복되는 것 같음.

맞음, 내가 말하는 자산이 바로 그거임. MS가 신형 GPU를 충분히 구할 수 있어서 구형 연산 자원을 빌릴 가치가 없다고 판단했다면, 그건 구형 자원의 가치와 최대 고객 중 하나의 전반적인 수요에 관한 신호임.

구형 GPU와 신형 GPU가 할 수 있는 일에는 큰 차이가 있는데, 아직 이걸 아는 회사가 몇 안 됨. 그래도 엔비디아가 이 부분에 많이 노력하고 있어서 다행임.

원래 구형 카드의 연산 자원은 일반 대중이나 모델을 학습시키지는 않고 LLM 등을 구동하는 데만 연산이 필요한 기업들에 빌려줄 계획 아니었음?