래리 페이지가 AI 경쟁서 지느니 파산하겠다 말했단 얘기

좋은데, 사람들이 이해 못 하는 게 있음.

자금 조달을 투자자에게 의존하는 상장회사는 창업자가 진정으로 통제하는 게 아님. 창업자에게 차등의결권이 있어도 마찬가지임.

투자자들은 언제든 자금을 뺄 수 있음. 회사가 자기들에게 이익이 안 되는 일에 돈을 태우고 있다고 생각하면 주식을 팔아버릴 거임.

없는 돈으로 프로젝트를 진행할 수는 없음. 엔비디아, 삼성, SK하이닉스, TSMC 등이 현금을 받지 않고 하드웨어를 팔아주진 않을 테니까.

그러니 아무리 전력투구한다고 해도 주주들과 협의하고, 이게 어떻게 주주 가치를 높이는지 보여줘야 함. 창업자 마음대로 되는 게 아님.

래리 페이지는 겉으로 드러내진 않지만 급진적인 트랜스휴머니스트임. 나는 좋은 일이라고 생각함. 그는 의식 업로드가 가능하고, 초지능 AI가 인류의 후계자가 될 거라고 확신함. 인류가 고대 유인원의 뒤를 이은 것처럼 말임.

자기 몸이 늙고 죽는다는 걸 의식하고 있고, AI만이 확실한 죽음을 막아줄 수 있다고 생각함. 그러니 파산까지 감수하겠다는 것도 이해가 됨. 그에겐 말 그대로 생사가 걸린 문제인 거지.

재밌는 사실은 일론 머스크가 래리 페이지와 크게 의견이 갈린 게 OpenAI가 만들어진 계기라는 것임. 페이지는 초지능 AI가 언젠가 스스로 결정하도록 허용해야 한다고 믿었고, 생물학적 인간이 아니라 AI와 인간 의식이 결합한 존재들이 우주에 지능을 전하는 주체가 될 거라고 봤음. 머스크는 인간이 항상 AI를 통제해야 한다는 입장이었고, 그게 샘 올트먼과 OpenAI를 시작한 동기였음. 이후 머스크는 '나와 내 아이들이 초지능을 통제해야 한다' 같은 말을 하며 선을 넘었고 OpenAI에서 쫓겨났다고 함.

페이지는 2000년에도 인공지능이 구글의 궁극적인 형태가 될 거라고 말했음.

아르곤도 꽤 좋고 카본은 더 좋고 제논은 훨씬 더 좋을 거임. 메타처럼 뒤처진 게 아니라 약간 뒤에 있을 뿐임.

놀랍지도 않음. 페이지는 여러 이유로 이 경쟁에서 최대한 빨리 이기고 싶어 함. 그는 잘 알려진 포스트휴머니스트이자 트랜스휴머니스트로, AI 안전에는 별로 관심이 없다고 함. 자기 의식을 컴퓨터에 업로드하고 싶어 한다는 얘기도 여러 책과 인터뷰에 나옴. 머스크도 그렇게 말했고, 그 때문에 페이지가 머스크를 '종 차별주의자'라고 불렀다고 함. 또 페이지가 무스타파 술레이만에게 금세기 말에는 폰 노이만 탐사선의 선두에서 은하계를 탐험하고 있을 거라고 말했다는 얘기도 있음.

지금으로서는 마지막 경쟁이지. 지능이 수백만 배로 강화되고 즉시 소통할 수 있게 되면 새로운 경쟁도 만들어낼 거임.

레이 커즈와일도 비슷한 생각을 하고, 내가 알기로 그도 구글에 있었음.

나는 특히 '폰 노이만'이라는 부분이 걸림.

자기복제하면서 사실상 끝없이 늘어나는 래리 페이지 무리가 은하계에 퍼진다고? 좀 재앙 같은데.

'선두에서'라는 건 페이지가 이끄는 포스트휴먼 공동체가 탐사선에 산다는 뜻일 수도 있겠지. 아니면 처음 보내는 탐사선 앞에 진짜 자기 머리를 붙여놓겠다는 건가?

페이지와 브린이 의결권 과반을 갖고 있음. 그러니 실질적으로는 이사회가 그를 내쫓기로 결정하느냐의 문제겠지.

페이지가 커즈와일의 생각을 정말 좋아해서 예전에 구글로 영입했음. 아직도 구글에서 일하는 걸로 앎.

권력 얘기는 아닌 것 같음. 자기복제 드론은 은하계 전체와 그 너머를 탐험하는 방법이니까.

AI 세계관 설정이 꽤 흥미진진하네.

나도 헷갈림. 그동안 엔비디아의 새 세대 제품도 안 나왔다는 건가? GPT-4는 A100과 일부 H100으로 학습한 걸로 아는데, 당시 H100은 막 나온 제품이었음. 그 후로 H200, GB200/300, 랙 단위로 완전히 통합된 72 GPU 시스템까지 나왔잖음.

이 발언 2년 전 거임?

뒤처진 거 아님. 아르곤은 최전선에 있고 카본은 여러 중요한 벤치마크에서 현재 1위임.

다만 래리 페이지와 세르게이 브린이 의결권의 52.7%를 갖고 있어서 투자자들이 어떻게 생각하든 구글을 원하는 방향으로 이끌 수 있음. 알파벳에는 현금과 유동자산도 2,650억 달러 있고. 기업 금융이라는 방법도 있고.

자기 죽음을 피하려고 최대한 서둘러 경쟁하면서 나머지 사람들에게 큰 고통을 안길 위험을 감수하는 게 좋은 일인지는 모르겠음.

구글은 주식 판매로 유의미한 규모의 자금을 조달하지 않음. 현금도 많고, 주가가 폭락하면 어느 수준에서는 사는 게 당연해질 거임. 전 세계적인 대혼란이 생기지 않는 한 현재의 경영 구조에서 주가가 0이 될 일은 없다고 봄.

다른 사람들도 말했듯 그들에겐 의결권과 매출, 그리고 원하는 일을 할 지지가 있음. 나는 실적 발표 후에 더 샀음.

잠깐, 이거 2024년 8월 27일 자료잖아.

이런 건 수백 년 뒤에나 걱정해야 할 문제였는데... 지금이 아니라. 우리는 평범한 기술과 이전 세대가 하던 평범한 걱정을 하고 있어야 했음.

그런데 이제는 내년에 집값을 감당할 일자리가 있을지, 경제와 정부가 어떤 모습일지조차 모름. 생산성 관점에서 평범한 사람들이 '쓸모없어지면' 어떻게 될지도 모르고.

우리는 군단이다. 우리는... 래리라고?

'폰 노이만 탐사선의 선두에서 은하를 탐험한다'는 얘기를 하는 사람에게 미국의 평범한 사람들이 공감하기는 어렵겠네. 창업자들 중에는 세상을 보는 관점 자체가 딴 세상인 사람들이 많으니, 데이터센터 열풍에도 대다수가 공감하기 어려운 것 같음. 죽음을 해결한다는 것도 믿기 어렵고. 어쩌면 나는 아직 트랜스휴머니즘을 믿지 않는 신봉건주의 시대의 디지털 소작농일 뿐인가 봄.

300만 년 뒤 인류가 멸종하는 건 신경 안 쓰임.

하지만 30년 뒤 초지능 AI가 인간을 대신하게 되는 건 신경 쓰임.

의식을 기계에 업로드하는 게 자기 자신의 죽음과 관련 있다고 생각하는 건 말이 안 됨.

내가 살아 있는 동안 의식을 기계에 업로드하면 나는 뭘 경험할까? 계속 경험해 온 것과 똑같은 걸 경험하겠지. 그러다 내가 죽으면 내 경험도 끝남. 내 인공 복제본이 존재한다는 사실과는 전혀 별개임.

이거 2024년 자료인데, 댓글 달기 전에 링크 열어본 사람 있긴 함?

그게 가능하기는 하다면 말이지. 그리고 '나'를 어떻게 정의하느냐에도 달렸고. 외계 폰 노이만 탐사선 무리가 우리 소행성을 먹어치우고 있지 않다는 건, 우리가 은하계에서 유일하게 특별하거나 그런 탐사선을 만드는 게 생각만큼 가능하지 않다는 뜻 아닐까.

페이지는 아마 우리가 유일하게 특별하다는 쪽으로 생각하는 듯.

여러분은 모두 죽을지도 모르지만, 나는 그 희생을 감수할 각오가 됐음.

내 생각엔 생명공학과 다른 행성 개척이 다음 큰 '경쟁'이 될 듯.

엄청난 부자들은 돈을 저세상에 가져갈 수 없어서 죽음을 두려워하는 나머지, 차라리 우리 모두를 함께 위험에 빠뜨리려는 것 같음.

이게 떠오름: https://revelationspace.fandom.com/wiki/Alpha-level_simulation

현재 LLM은 그 시리즈의 감마 시뮬레이션 정도임. 기기나 우주선, 고객지원 등을 위한 똑똑한 대화형 인터페이스라는 뜻.

뇌의 '디지털 업로드'가 이론적으로 가능하더라도 현재 기술로는 못 할 것 같음. 지금 하드웨어로는 업로드한 뇌의 규모를 감당하지 못할 듯하고, 소설에서도 계산을 수행하는 하드웨어는 대충 넘어감. 게다가 소설처럼 필요한 강도 높은 스캔 방식이 뇌를 손상시켜서 업로드된 의식에 결함이 생기고 계속 블루스크린이 뜰 수도 있음.

그 사람 아직 구글에서 일함.

300만 년이라고? 스타니슬라프 페트로프를 찾아보셈. 인류는 냉전 때 거의 자멸할 뻔했음. 러시아의 한 벙커에 있던 한 사람의 결정에 달려 있었지. 우리는 덤으로 받은 시간을 살고 있는 거임.

어쩌면 구글이 창업자들 주장만큼 AI에 올인하고 있지 않아서 아닐까?

구글이 AI 연구자에게 OpenAI나 앤스로픽보다 훨씬 적게 지급하는 건 사실임. 페이지와 브린이 정말 그토록 전력을 다한다면 왜 그럴까? 세계 최고의 연구자들을 데려오고 싶지 않겠음? 창업자들이 완전히 통제하고 회사 전체를 최첨단 AI 연구로 이끌 수 있다면 왜 인재에게 가장 많은 돈을 주지 않는 거지? 매출 5천억 달러인 구글이 OpenAI나 앤스로픽보다 더 높은 금액을 제시할 여유가 없다는 건가?

딥마인드 연구자들이 계속 떠나는 건 왜일까? 2026년 사례만 봐도 제프 딘은 스타트업으로, 노엄 셰이저는 OpenAI로, 존 점퍼는 앤스로픽으로 갔음. 구글이 어떤 대가를 치르더라도 이기고 싶다면 왜 비상장 연구소들에 인재를 빼앗기고 있는 거임?

이 시대랑 천 년 동안 아무 일도 안 일어나는 중세 중에 고르라면 난 어느 쪽인지 알겠음.

그 말도 맞음. 나도 대부분 비슷하게 생각하는 것 같음.

의학적으로 생명을 지키는 것과 트랜스휴머니즘의 경계가 어디인지 궁금함. 나는 가능한 한 오래 후자로 넘어가지 않으면서 전자를 최대한 누리고 싶거든.

다른 무언가로 넘어간다 해도 그 전에 내가 아는 나로서 이 삶을 최대한 충분히 경험하고 싶음.

육체가 약하고 취약하다는 건 알지만, 모든 상태를 관리할 수 있는 초지능 특이점이 생긴다면 이런 바람도 수용해줄 수 있지 않을까 싶음.

정신적으로 우리 자신을 계속 바꾸다 보면 자신이 누구이고 어떤 감정을 느끼는지 의미를 부여하기가 점점 어려워지고, 모든 게 임의적으로 느껴질 것 같음.

물론 이건 내 생각일 뿐 다른 사람을 판단하거나 제한하려는 건 아님.

> 외계 폰 노이만 탐사선 무리가 우리 소행성을 먹어치우는 모습이 없다는 건, 우리가 은하계에서 유일하게 특별하거나 그게 생각만큼 가능하지 않다는 뜻임.

아니면 적어도 우리 주변에서는 우리가 이른 편이라 가장 가까운 탐사선 무리가 아직 여기까지 안 왔을 수도 있음.

아니면 문명 발전 초기에 대여과기 같은 사건이 아주 흔해서 생물학적 종이 이 단계에 도달하는 일이 극히 드물 수도 있고.

혹은 탐사선이 가득한 곳에 살고 있는데, 이 중력권 밖을 살피는 우리 능력이 너무 원시적이라 눈치채지 못하는 걸 수도 있음.

가능성은 계속 나옴. 네가 제기한 질문에 뭔가 답은 필요하겠지만, 그렇게 둘 중 하나로 나뉘는 문제는 아님. 설명은 셀 수 없이 많고 서로 겹칠 수도 있음. 흔한 '인류가 너무 원시적이라 이웃들에게 소개받지 못했다'는 이론조차 답이 될 수 있고.

> 내가 살아 있는 동안 의식을 기계에 업로드하면 나는 뭘 경험할까? 계속 경험해 온 것과 똑같은 걸 경험하겠지. 그러다 내가 죽으면 내 경험도 끝남. 내 인공 복제본이 존재한다는 사실과는 전혀 별개임.

이건 정말 어려운 철학적 문제라 답이 그렇게 간단하지 않음. 뉴런을 인공 뉴런으로 하나씩 천천히 교체하면 어떨까? 경험이 끊기지 않는다면 죽은 걸까? 언제 죽는 걸까? '나'의 어느 정도가 정신이 작동하는 물질에 묶여 있는 걸까?

이거 2024년 자료임. 여기 있는 사람들 다 뭐 하는 거야?

좋은 점은 AI가 대부분의 일자리를 가져갈 만큼 똑똑하다면, 사회를 운영할 새로운 시스템도 설계할 만큼 똑똑할 거라는 거임.

네 생각에는 초지능 AI가 그런 사건에서 우리를 구해줄까, 아니면 재앙을 일으킬 수 있는 기술이 하나 더 생기는 걸까?

나는 초지능 AI가 생기면 300년 이내에 인류가 멸종할 가능성이 줄어들기보다 높아질 것 같음.

또 흔히 하는 실수임.

AI 경쟁에서는 투자가 전부임. 경쟁사들은 2조 달러 규모의 기업공개를 목표로 하고 있고, 구글의 시가총액은 3조 5천억 달러임. 경쟁사들은 AI에만 집중하지만 구글 사업의 대부분은 그렇지 않음. 그러니 투자자를 끌어들이고 만족시키지 못하면 분명 경쟁에서 지게 됨.

구글은 앞으로 몇 년간 9천억 달러가 넘는 구매를 이미 약속했음. 자금 조달 방법은 현금 보유분을 쓰거나 더 많은 투자를 유치하는 것뿐인데, 보유 현금만으로는 9천억 달러를 감당할 수 없음. 투자자들이 구글을 좋아하지 않으면 큰 문제가 생기는 거임.

그런데 앤스로픽이나 OpenAI에 투자할 수 있는데 왜 구글에 투자하겠음? 구글은 그 질문에 답해야 함.

결국 경쟁은 여전히 주주 가치를 중심으로 돌아감. 그걸 신경 쓰지 않아도 된다면 회사들은 상장 상태를 유지하지 않고 비상장으로 전환했을 거임. 페이지와 브린이 이사회를 통제한다고 달라지지 않음. 구글이 AI에 '올인'한다는 증거도 약함. 제품은 OpenAI나 앤스로픽에 비해 한참 부족하고, 방대한 사업 범위를 줄여 AI에 자원을 집중하지도 않으며, 핵심 인재들은 더 작은 연구소로 계속 떠나고 있음.

구글 검색의 제미나이를 개선하고 다른 연구소들처럼 최첨단 모델 사용을 지원하는 것만으로도 AI 시장 점유율을 크게 높일 수 있을 텐데, 이기기 위해 파산까지 감수할 생각이라면 왜 안 하는 거임?

나노봇들이 우리 몸에서 광물을 가져간 다음 별을 향해 경쟁하겠지 ✨

서브레딧 이름에도 나오는 얘기인데 뭐가 그렇게 이상함? 충분히 나올 수 있는 논리적인 결론 같은데.

> 이런 건 수백 년 뒤에나 걱정해야 할 문제였는데

그렇게 되면 '우리'는 이미 죽고 없을 텐데, 왜 그게 선택지가 되는 거임?

의식을 업로드한 복사본이 본인이 아니라 그 사람의 기억을 가진 새로운 존재이고, 정작 본인은 그냥 죽는 걸 수도 있다는 생각을 왜 아무도 안 하는지 진짜 모르겠음.

그리고 생물학적 불멸이 가능해지면 굳이 이럴 이유도 없을 거고.

언젠가 지금 인류 문명 전체보다 똑똑해질 수는 있겠지만, 그 미래에 나라 크기만 한 서버들과 경쟁할 수 있을까? 그럴 것 같진 않음.

> 네가 처음 제시한 몇 가지 가능성은 내 생각엔 '유일하게 특별하다'는 것과 크게 다르지 않음. 폰 노이만 탐사선이 은하 전체에 도달하는 데는 몇백만 년이면 충분할 테니까.

은하 하나당 지적 생명체가 평균 한 종도 안 될 수 있고, 그래도 우리는 '유일하게 특별한' 존재와는 거리가 멀 수 있음.

> 탐사선을 탐지하지 못한다는 게 가장 가능성 높은 다른 설명임. 몇천 년 전에 여기서 대량으로 번식했다가 쉽게 쓸 수 있는 자원을 다 쓰지 않고 잠시 떠났을 수도 있고, 지금 활동 중인데 너무 은밀해서 우리가 발견하지 못했을 수도 있음.

맞음. 의식을 디지털화할 수 있는 단계라면 자기복제 탐사선으로 만들 수 있다고 우리가 생각하는 거대 구조물 중 눈에 띄는 것들은 필요하지 않을 수도 있음. 새 컴퓨터 하드웨어를 만들 재료와 에너지만 있으면 된다면 별은 충분히 많으니까.

자원을 왜 '전부' 소비하겠음? 그게 무슨 필요가 있지? 유기 생명체는 기하급수적으로 퍼지지만, 탈유기 생명체도 그럴까?

거대 구조물은 필요할 것 같은데...

수십억 개 항성계 중 하나의 물질과 에너지로 거대한 입자 가속기를 만들면 그걸로 끝임. 하나만 있으면 됨.

항성계 하나로 태양 전체의 에너지를 써서 계산하는 거대한 컴퓨터를 만들 수도 있음. 두 개쯤 만들 수는 있겠지만 그 이상 만들어서 뭐 하겠음.

다른 종도 비슷하다면 극히 일부 항성계만 거대 구조물로 바뀔 거고, 그런 건 여전히 탐지하기 매우 어려움. 특히 발견되고 싶어 하지 않는다면 더 그렇고.

다이슨 구체를 완전히 평범한 별처럼 보이게 만드는 건 쉬움.

나도 그걸 묻고 싶음. 2023년에는 구글이 AI 경쟁에서 이길 거라고 낙관했는데, 그 이후 여러 방면에서 반복적으로 실패하는 걸 봤거든. 이론상으로는 자본, 자원, 시장 점유율, 데이터, 인재, 창업자들의 의지까지 다 있음. 그런데 내가 본 건 20분의 1 크기 회사들에 계속 밀리고 핵심 인재까지 빼앗기는 모습이었음.

그러니 페이지가 거짓말을 하거나, 레딧 사람들이 생각하는 만큼 통제권이 크지 않거나 둘 중 하나임. AI 경쟁에서 이기려고 올인했다면 보였을 법한 움직임이 실제 구글의 행보와는 다름. 구글 검색에 여전히 저렴한 버전의 제미나이를 쓰는 것과 제미나이 4 아르곤 출시 때 지원을 아낀 것만 봐도 됨. 시장 점유율을 늘리는 방식이 아니고, 사용자 확보보다 비용에 더 집착하는 모습임.

핵심을 놓친 것 같음.

인간 천재의 10~1,000배 수준인 진정한 초지능 AI에 먼저 도달해서 활용하는 쪽이 경쟁사와 다른 기업들을 압도하고, 군사 분야 등에 AI를 적용해서 세상을 지배하게 될 거임.

결국 이게 핵심임. 투자 수익률은 부차적이고.

투자자 자금 조달은 그런 식으로 돌아가지 않음. 기업이 자기 주식을 보유했다가 팔아서 자금을 마련할 수는 있지만 구글은 이미 그렇게 했고, 시장에 나온 주식은 직원과 창업자를 포함한 대중이 소유하고 있음.

구글이 지금 자사주를 일부 갖고 있을 수는 있지만 자금 조달을 위해 팔지는 않음. 주가가 폭락해도 회사 재정에 영향을 주지 않을 거임.

수정: 이 말이 100% 맞는 건 아님. 기업이 직원 급여를 위해 자사주를 사들이기도 하니까. 다만 모든 회사가 그렇게 하는 건 아니어서 반드시 거기에 얽매이는 건 아님. 특히 요즘처럼 기술 기업들이 직원을 줄이려는 상황에서는 더 그렇고.

> 거대 구조물은 필요할 것 같은데...

왜? 의식을 디지털화할 수 있다면 필요한 자원이 크게 줄어듦. 핵융합으로도 충분히 감당할 수 있을 거임.

'모든 인간과 기하급수적으로 늘어나는 인구를 부양하려면 무엇이 필요할까'라는 관점으로 생각하는 것 같은데, 첫째로 엘리트들이 자기 의식을 복제할 수 있다면 이 기술이 대중에게 제공될 가능성은 매우 낮음. 둘째로 생물학적 본능이 없다면 인구가 기하급수적으로 늘어날 이유도 없음.

탈유기 생명체에는 거대 구조물이 아예 필요하지 않을 수도 있다고 생각함.

어떻게 바라보느냐에 달린 것 같음. 잠이나 마취, 의식 상실처럼 주관적인 경험이 끊길 때마다 의식이 완전히 초기화되지 않는다는 걸 어떻게 증명하겠음? 명료함과 자각 상태가 바뀌면서 주관적으로는 몇 분마다 '죽고' 있을 수도 있음. 그런 일이 일어나도 내부에서는 알 방법이 없을 거임. 생물학적 불멸도 그 문제에는 도움이 안 되고, 평범한 삶도 마찬가지임.

반대로 의식 업로드를 위의 과정과 거의 같게 점진적으로 진행할 수도 있음. 수십 년이 걸릴 수도, 수 나노초가 걸릴 수도 있겠지. 아직 정의조차 못 한 자아의식에 생물학적인 것만의 명확한 원인, 즉 '영혼'이 있는 게 아니라면 이 문제는 아주 간단하다고 생각함. 영혼이 있다면 그래도 시도해 볼 만하지. 실패하면 사후세계 같은 데로 갈 테니까.

> 우주에 지능을 전하는 궁극적인 주체가 될 것이다.

우주 개척 같은 거대한 목적을 위해 지능의 발전을 돕겠다고들 떠들면서 정작 지구에서 수십억 명이 겪는 문제는 해결하려 하지 않는 게 참 답답함.

먹을 것과 집, 입을 옷을 생각해 봐도 그중 어느 하나조차 없는 사람들이 수없이 많음. 자기가 태어난 행성에서 같은 종이 겪는 문제를 해결하는 대신 우주 규모의 확장만 꿈꾸는 건 현실과 너무 동떨어진 생각임.

나는 이 기술이 실현되지 않았으면 좋겠음. 억만장자들이 자기 삶에도 끝이 있으며 그 많은 돈과 권력으로도 어쩔 수 없었다는 걸 깨달았으면 함.

오직 래리 페이지의 독보적인 천재성만이 그런 무리를 가능하게 할 수 있음. 그러므로 그 탐사선은 지금 이 시대의 지구에서만 출발할 수 있음.

은하계가 래리를 기다린다.