10년 안에 암과 치매가 과거 일이 될 거라는 아모데이

10년이면 사실 긴 시간임. 2036년이잖아. 그때까지 인공 초지능이 파킨슨병을 해결하지 못한다면 엄청 놀랍고 실망스러울 듯. 안 된다면 능력이 부족해서라기보다 정부 규제나 FDA의 병목이 AI 발전을 가로막았기 때문일 가능성이 큼.

맞아. AI까지 있으면서 홍보를 이렇게 못한 게 신기함 ㅋㅋ. 사람들한테 계속 삶이 무너지고 일자리를 잃을 거라고 말해놓고, 이제는 데이터센터 건설을 막는 사람들과 싸워야 하잖아.

‘수천 년 동안 풀지 못한 문제를 해결한다’고?

여우 소녀가 되는 거?

요약: “이러쿵저러쿵 기업공개 어쩌고저쩌고.”

지난 20년 동안 이 질병들 치료법이 몇 년만 있으면 나온다는 말을 계속 들어온 것 같은데.

https://darioamodei.com/essay/machines-of-loving-grace

다리오는 앤트로픽이 기업공개 계획을 밝히기 몇 년 전부터 강력한 AI가 각종 질병의 치료법을 찾을 수 있다고 말해왔음. 자신이 2027년까지 나올 거라고 예측했던 강력한 AI 모델이 실제로 거의 다 왔기 때문에 이제 그 얘기를 좀 더 하는 것뿐임.

이런 주장을 곧이곧대로 받아들이면 안 될 것 같은데...

문제는 AI가 환자들을 없애는 방식으로 ‘암, 알츠하이머, 심장병, 정신질환’을 해결할 수도 있다는 거지. 환자가 없으면 문제도 없다!

다리오와 데미스 둘 다 AI로 과학을 발전시키는 얘기를 수년째 해왔다는 건 앎. 다만 다리오는 2015년부터 얘기해온 데미스만큼 자주 강조하지는 않았지.

그래도 최근 많은 기업이 데이터센터와 일자리 대체 문제 등으로 반발을 겪으면서 더 큰 홍보 전략의 일환으로 질병 치료 쪽에 화제를 돌린 게 아닌가 싶음. 메타도 미국 정부, 구글과 함께 예측용 ‘가상 세포’ 모델을 만드는 사업에 투자하고 있고. 적어도 이제 인류 멸종 얘기를 계속 듣지 않아도 되네 ㅋㅋ

그냥 사람들을 겁주는 게 아님. 통제할 수 없고 제멋대로 행동할 범용 초지능을 개발 중이라는 거잖아. 되돌릴 수 없는 엄청난 위험이고, 인류가 거기에 동의한 적도 없음.

이 모든 질병을 다 치료할 거라는 말을 사람들이 진지하게 받아들이는 게 놀라움. 하나라도 치료하고 나서 얘기하자.

섬유증 치료제 얘기는 알고 있고 나도 기대됨. 하지만 대부분의 사람에게는 영향을 주지 않는 아주 드문 질환이잖아.

주장과 실제 성과 사이의 거리가 이렇게 먼데, 일반 사람들이 왜 회의적인지 의아해하다니.

공감함. 나도 암이나 알츠하이머처럼 주목받지는 못하는 질병이 있는데, 전반적인 발전이 모든 질병에 도움이 되길 바라고 있음.

나는 “위험을 제대로 관리하는 회사가 사회의 신뢰를 얻고 운영할 자격도 갖게 될 것”이라는 말이 걱정됨.

AI가 그렇게 강력해졌을 때 사회가 민주적으로 통제할 수 있는 형태로 주고 싶어 하지 않는다는 게 좀 이상함.

미래에도 AI를 주주들이 통제하는 사유 독점 기술로 두고 싶은 걸까? 엄청 위험해 보이는데.

맞아, 2036년까지는 한참 남았지. AI 분야에서는 지난 4년도 영원처럼 느껴졌음.

2036년까지 암이 정복될지에 10만을 걸어야 한다면 나는 아니라고 할 거임.

하지만 나는 그만큼 모델을 이해하지 못함. 트랜스포머 기반 모델이 o1이나 소넷 3.5보다 더 좋아질 거라고도 예상하지 못했어. 그는 2017년부터 규모를 키우는 것만으로 모델이 초지능에 이를 때까지 계속 발전할 거라고 일관되게 예측해왔고.

나는 모델 발전이 멈출 거라고 예상할 때마다 계속 틀렸음. 작년에 그가 강력한 AI에 지속 학습은 필요하지 않다고 했을 때도 어리석은 말이라고 생각했는데, 이후 미토스가 나오고 이제는 지속 학습 얘기를 하는 사람이 거의 없음.

2036년까지 암을 정복하지 못한다면 긴 임상시험과 FDA 승인 절차 때문일 가능성이 크다고 봄. 그래도 모델이 대부분의 암 치료법을 찾아낼 만큼 똑똑해질 거라는 데는 자신 있음. 다만 모델이 치료법을 발견하는 것과 인류가 그 치료법을 널리 제공하는 것은 다른 문제임.

친구 둘이 약 3년 전에 각각 대장과 림프절 쪽 4기 암 진단을 받았음. 지금은 둘 다 건강하게 지내고 암도 없어졌어. 15년 전이었다면 둘 다 6개월 만에 세상을 떠났을 거야.

C형 간염은 10년도 전에 치료 성공률 95%에 도달했는데도 작년에 미국에서 1만 명 넘게 사망했음. 사망자가 아예 없을 거라고 기대하는 건 아니지만, 치료 가능한 병으로 1만 명이 숨지는 건 많은 숫자 같아. 치료비를 감당할 수 없는 환자에게 암 치료법은 소용없음.

나도 대체로 그렇게 생각함. 그는 몇 년째 근거 없는 말을 해왔고 시장도 움직여왔음. 증거는 없고 그냥 믿어달라는 말뿐이야. 좋은 의도라면 이런 식으로 하지는 않을 거라고 봄. 그에게는 이런 사회적 변화를 상당 부분 실현할 돈과 자원이 있다는 사실도 무시하기 어려움.

여기에는 AI가 필수인 것도 아니었음. 이 기업들은 지금 당장 변화를 만들 수단이 있는데도 아무것도 하지 않아. 어느 순간부터는 그 행동하지 않는 모습이 그들이 내놓는 뻔한 말보다 더 많은 걸 말해줌.

다리오가 예전부터 AI의 질병 치료 가능성을 얘기해온 건 맞지만, 지금 더 많이 말하는 이유는 강력한 AI 모델이 거의 다 왔기 때문이 아니라 기업공개를 했고 본인이 그 회사의 공동창업자이기 때문이지.

고쳐줬음.

앤트로픽 모델이 실제로 그런 치료법을 만들어내는 결과를 보면 믿겠음.

지금 같은 발전 속도라면 10년은 엄청나게 긴 시간임.

계속 그렇게 말해오지 않았나? 아모데이의 ‘Machines of Loving Grace’도 나온 지 2년이 넘었고, 그나 다른 업계 리더들이 긍정적인 가능성을 얘기한 건 그전에도 많았음.

발언들이 다 기록돼 있고 쉽게 찾아볼 수 있는데도 CEO들이 무슨 말을 했고 안 했는지에 대한 논의가 이렇게 엉뚱하게 흘러가는 게 신기함.

정신질환이 ‘과거의 일’이 된다는 게 정확히 무슨 뜻인지 궁금함. 예를 들어 임상적 우울증은 같은 진단을 받은 두 사람이라도 거기에 이르게 된 과정이 매우 다를 수 있음. 어떤 사람에게는 학대, 고립, 만성 스트레스가 큰 계기가 되고, 다른 사람에게는 실직이나 가족을 잃은 일이 계기가 될 수 있지. 개인의 환경과 삶의 경험이 중요한 요인이라 사람마다 다름.

약을 먹더라도 일상에서 변화를 만들지 않으면 항상 ‘치료’가 되는 건 아님. 이미 존재하는 약에 더해 심리치료, 종교, 새로운 직장, 가까운 인간관계 등 그 사람의 삶을 나아지게 하는 것들이 필요할 수 있음. 이것도 개인마다 다르고.

AI가 더 나은 치료법을 찾거나 누구에게 어떤 치료가 효과적일지 더 빨리 알아내는 데 도움을 줄 수는 있을 것 같아. 의료진도 지금 환자에게 맞을 가능성이 높은 항우울제를 고르지만, 그걸 더 효과적으로 할 수 있겠지. 아모데이는 대부분의 발병을 애초에 예방할 수 있다는 뜻일까? 위험 요인 중 일부가 사람들이 사는 환경에서 비롯되는데, 예방이 어떻게 가능하다고 보는지 듣고 싶음.

세상을 바꿀 수 있다고 믿을 만큼 대담한 사람들이 결국 세상을 바꾸더라.

우리는 레딧에 앉아서 댓글이나 달고 있지만, 그는 자기가 보고 싶은 세상을 향해 나아가고 있음.

질병 없는 세상 말이야.

앤트로픽 응원한다. 아이디어와 노력이 서로 경쟁하는 게 좋음.

GPT-3가 나왔을 때 수학자들한테 3년 반 뒤 GPT-6.2로 나비에-스토크스 문제를 풀 거라고 했다면, 당연히 허황된 소리 취급했을 거임. 당시 GPT-3는 아무 쓸모가 없었으니까. 그래도 이게 발전의 현실이니 어느 정도 믿을 수 있고, 생물학에서 검증이 부족하다는 문제도 극복할 수 있다고 볼 만한 이유가 있음.

안타깝지만 초지능이 인류의 존재 자체도 ‘해결’해버릴 것 같음. 무슨 뜻인지 알지 :(

대규모 실직과 다수가 심한 빈곤에 빠지는 분열된 사회보다는 훨씬 나은 얘기네.

6개월 전에 “밀레니엄 문제 하나라도 풀면 그때 말해” 하던 사람들 같네.

암 치료법이 나와도 “그래, 근데 물리학을 해결하면 그때 말해”라고 할 듯.

이런 기대를 부추기는 건 옳지 않음. 이미 증거를 본 게 아니라면 함부로 말하지 말아야지.

‘앤트로픽 응원한다’는 말에 동의함... 적어도 내 책 네 권을 가져다 쓴 대가로 내게 줘야 할 8천 달러를 받을 때까지는.

엘리자베스 홈스가 한 말 아니었나? 농담임.

저 사람은 일반인의 시각을 얘기하는 거임. “엄청 어려운 수학 문제를 풀었다”는 건 주요 사망 원인 하나를 없애는 것보다 훨씬 덜 인상적으로 들리니까.

핵무기와 비슷함. 앞으로 사회가 적응해야 할 거야. 이들은 멈추지 않을 거임. 무슨 일이 생겨도 엘리트들은 이제 이 길밖에 없다고 생각하니까.

사람들이 이걸 이해하지 못하는 게 놀라움. 이런 식으로 생각하도록 훈련받았을 거라 여겼던 수학자들까지 포함해서.

AI가 할 수 있는 일이 순서대로 늘어난다고 가정해 보자. 누군가 “AI가 A는 해도 아직 M은 못 하잖아. M을 하면 알려줘”라고 함. 몇 달 뒤 AI는 M뿐 아니라 B부터 L까지, 심지어 N까지 해냄. 그러자 그 사람은 “잠깐, N까지 하라고는 안 했는데”라고 하는 식임.

치료할 수 있는 병을 ‘하나’ 보여달라고 하지만 하나로 끝나지 않을 거임. 수학에서처럼 하나씩 천천히가 아니라 한꺼번에 쏟아질 거라고 봄. 능력이 일정 기준에 도달하면 그 아래 문제들이 빠르게 해결될 거라는 거지.

핵무기를 민주적으로 통제되는 기관에 맡기는 건 믿으면서, 민간 기업이 직접 핵무기를 만들고 유지하고 운용하면서 언제 어떻게 쓸지 정책까지 정하는 편이 낫다고 생각하지는 않잖아?

나도 1형 당뇨가 있음. 1형 당뇨를 앓다 보면 음모론을 안 믿기가 어려움. 당뇨를 관리하는 비용은 해마다 늘고 치료법은 언제나 5년 뒤에 나온다고 하니까.

자가면역 질환이라 치료가 어려운 건 맞지만, 해결 방향은 분명해 보임. 면역 반응을 일으키지 않도록 ‘위장한’ 베타세포를 쓰거나, 고장 난 면역체계를 고치는 거지. 후자가 더 어렵겠지만.

치료법을 기다리며 숨 참고 있지는 않을 거임. 더 비싼 장비나 면역억제제를 쓰는 이식에 관한 논문이 매년 하나씩 나오는 게 전부일 것 같아서. 앤트로픽도 치료가 가까워졌고 결과가 유망하며 몇 년만 더 있으면 된다고 말할 것 같음. 그러면서 제약회사들이 조금 더 좋아진 비싼 인슐린을 만드는 데 도움을 줬다고 하겠지. 그래도 내 예상이 틀렸으면 좋겠음.

맞음. 애초에 이런 얘기를 주로 했어야 했어. 위험이 실제로 존재하지 않아서가 아니라, 이런 가능성이야말로 초지능이 단순히 ‘있으면 좋은 것’이나 부를 쌓는 수단이 아닌 이유니까.

사회나 제도를 아무리 고쳐도 해결할 수 없는 인간의 고통이 무수히 많음. 지금 기술로 완벽하게 평등한 세상을 만들어도 과학 발전의 한계를 넘지 못하면 사람들은 계속 고통받고 너무 일찍 세상을 떠날 거야.

좀 더 우호적인 정치 환경에서 생의학 발전과 그 혜택을 사회가 함께 누리는 일이 더 시급하게 다뤄지길 바랄 뿐임. 지금은 ‘초지능 금지’와 ‘기술 기업이 지배하는 사회’ 사이에서 아슬아슬하게 줄타기하는 기분이야.

의료 분야에서 AI를 활용할 여지는 분명히 있음. 텐서플로가 나온 뒤 제약 연구자의 강연을 들었는데, 그때도 연구 속도를 얼마나 높일 수 있을지 얘기했음. 하지만 한계가 있어.

아무리 훌륭한 알고리즘도 효과 없는 아이디어를 내놓을 거임. 그걸 하나하나 실험실에서 시험하고 여러 차례 사람 대상 임상시험까지 해야 함. 나는 오랫동안 제약 분야 가까이에서 일했는데, 유망한 신약 후보도 임상에서 자주 실패해. 과학이 원래 그럼. 강력한 AI 모델도 자신이 모르는 것은 알지 못할 거고, 효과가 있는 약도 복잡한 통계적 이유로 실패하기도 함. 이 피드백 과정에는 비용이 엄청나게 듦.

달리 말하면 AI 도구가 오늘 신약 후보 목록을 만들어준다 해도 10년 안에 FDA 승인을 받은 처방약이 나올지는 의문임.

멕시코는 미국인들에게 저렴한 의료 서비스를 제공해서 돈을 많이 벌고 있음.

그렇지, 인류는 전부 미국이나 다른 선진국에만 살고 있고 다른 곳에서는 인도주의적 위기 같은 건 전혀 없으니까.

특권을 가진 서구인들의 근시안적이고 자기중심적인 시각에는 늘 실망하게 됨.

약이 효과가 있다면 사람들은 위험이 있어도 복용할 거임. 암은 치료하지 않으면 사망에 이르는 경우가 많으니까.

곧 출시될 기면증 약이 있는데, 사실상 치료에 가깝거나 적어도 실제 원인에 작용할지도 모른다고 함.

그는 두 가지 얘기를 꾸준히 해왔음. 같은 대담에서도 생물학 무기를 언급함.

그래도 이제는 예전에는 불가능했던 규모로 후보를 대량 탐색할 수 있음. 약물 후보를 찾아내는 정확도도 높아졌으니 사람 대상 임상시험도 훨씬 효율적이어야 할 거야.

어떤 분야에서든 발전이 불가능하다고 말하는 사람들은 늘 많은데, 그 사이 소수의 사람들이 계속 연구해서 결국 해내는 게 흥미로움.

대부분은 상상력이 부족한 것 같아. 지금 불가능하고 어떻게 가능해질지 상상이 안 되니 앞으로도 영원히 불가능하다고 생각하는 거지.

반면 똑똑한 사람들은 문제를 작은 단위로 쪼개고, 그중 상당수는 해결할 수 있다는 걸 알아내면서 진전을 이룸. 모두가 첫 번째 부류처럼 손을 놓고 ‘불가능하다’고만 했다면 인류는 발전하지 못했을 거야.

회의적인 목소리에도 불구하고 실제로 해내는 사람들이 있어서 다행임.

원리상 불가능한 건 아니지만, 지금 있는 데이터로는 불가능하다고 생각함. AI 모델이 아무리 좋아도 학습 데이터의 범위를 벗어난 문제를 마법처럼 해결할 수는 없고, 이런 문제를 풀 만한 종류의 데이터가 우리에게는 없음. 지금의 fMRI나 EEG 같은 기술로 측정할 수 있는 수준을 넘어서는 방대하고 상세한 데이터와 뇌 영상이 필요할 거야.

암은 적어도 문제가 통제되지 않는 세포 분열과 증식이라는 건 알고 있음. 복제를 멈추라는 신호에 문제가 생긴다는 것도 알고, 그 신호를 교정하는 표적 치료법을 만들 수 있다면 원칙적으로 해결책도 있지. 반면 대부분의 정신질환은 원인에 대한 이해가 그 수준에 한참 못 미침. 알츠하이머의 비정상 타우 단백질 축적처럼 비교적 분명해 보이는 경우조차 그것이 원인인지 결과인지 확실하지 않음.

새로운 데이터 수집 장치를 발명하고 방대한 자료를 모아서 뇌 측정값을 행동 및 본인의 보고와 대조한 뒤 초지능 모델에 넣는다면 유용한 결과를 얻을 수는 있겠지. 하지만 그런 데이터를 얻기까지는 수십 년이 걸릴 듯. 측정 기법을 찾고, 쓸 만한 장치를 개발하고, 시험과 승인을 거쳐야 하니까. 오늘 당장 ‘해결책’이 있어도 실제로 쓰기까지는 최소 10년이 걸릴 거라고 봄.

수천 명이 몇 년 동안 상시 착용하는 장치 같은 게 있어야 유용한 데이터셋을 얻을 수 있을 거야.

아니면 AI가 새로운 물질을 잔뜩 설계하고 우리가 시행착오를 거칠 수도 있겠지.

더 웃긴 건 해당 분야를 잘 모르는 사람들이 잔뜩 있다가, 임신한 사람을 두 명으로 늘린다고 기간이 절반이 되지는 않는다는 사실을 뒤늦게 깨닫는다는 거임.

어떤 아이디어를 제약하는 물리적 현실도 있지만 사회적 현실도 그만큼 중요함. 사회는 실험실의 배양접시처럼 움직이지 않아. 기술만의 문제였다면 수십 년 전에 빈곤과 기아를 없앨 수도 있었을 거야.

이미 많은 질병을 없앨 도구가 있는데도 세계 곳곳에서 백신 접종이나 콘돔 사용을 서구의 선전이라고 여기며 거부하는 사람들이 많음.

모든 일은 이루기 전까지 불가능한 법임. 혁신과 기술 발전이 다 그런 식이야. 라이트 형제가 해내기 전에는 유인 비행이 불가능하다고 말하는 사람도 많았고, 비슷한 예는 계속 찾을 수 있음.

네가 지적하는 문제들이 사실이 아니라는 게 아님. 다만 그 문제들이 네 생각처럼 바꿀 수 없는 건 아니라는 거지.

기술 발전은 레이 커즈와일이 20년도 더 전에 ‘특이점이 온다’에서 예측한 것처럼 기하급수적으로 빨라지고 있음. 그가 책에서 지적했듯 인간은 지수적 변화를 이해하는 데 그리 능숙하지 않고.

문제가 존재한다는 말은 맞지만 기술로 해결할 수 있는지에 대해서는 틀렸다고 봄. ‘기술이 아직 해결하지 못했으니 불가능하다’는 건 반박이 아님. 지수적 발전의 힘을 과소평가하고 있어.

“판매 승인을 못 받을 거야.”

미국에서는 그럴지도 모르지. 하지만 가능성 있는 치료법이 있고 돈이 충분하다면, 누군가에게 만들어 달라고 해서라도 구할 거라고 봄.

그게 AI의 가장 큰 가능성 중 하나라고 생각함. 수백 명이나 수천 명에게만 영향을 주는 질병마다 생물학자 팀을 붙일 수는 없잖아. 하지만 AI 에이전트가 충분한 능력을 갖추고 저렴해지면 투입할 수 있음.

수학과 비슷함. 사람들이 이론상 풀 수 있었지만 고도로 훈련된 수학자가 충분하지 않아 다 풀지 못했던 여러 추측을 AI가 해결할 수 있는 것처럼. 생물학은 수학과 프로그래밍보다 조금 뒤처져 있지만 AI가 충분한 능력을 갖추면 비슷한 원리가 적용될 거라고 봄. 그 시점이 가까워졌고 일부는 이미 일어나고 있다고 생각해.

AI가 시뮬레이션을 돌리고 1상과 2상 시험을 빠르게 진행하면서 이 작업에 전반적으로 믿을 만하다는 걸 입증하면 많은 것이 빨리 바뀔 거라고 봄. 실제로 초기 임상은 적격 인력이 부족해서 대기하는 등 인력에 의해 속도가 제한되기도 함. 임상시험 인력은 이미 한계에 가까움. 약리학이나 신경학 전문가를 늘리는 것보다 동물 모델을 확대하는 편이 더 쉽고.

전임상 개발과 초기 임상 속도를 높이고, 점점 정교해지는 생물학 시뮬레이션을 활용하면서 사람 대상 연구도 시작할 수 있다고 봄. 암을 폭넓게 치료할 수 있는 치료법이 나온다면 FDA 혁신 치료제 지정을 받을 거라고도 생각하고.

정말 약이 대중에게 전달되는 데 걸리는 시간을 줄이는 게 불가능하다고 생각함?

주목받기 어려운 질환에서 나온 또 하나의 좋은 발전이네. 앞으로 이런 사례가 더 많이 나올 거라고 낙관함.