AI 수학을 두고 독성 폐기물 얘기까지 나온 테렌스 타오

난 다르게 생각함. 여러 매체가 수학자의 의견을 듣고 싶어 하는데, 수십 년 동안 타오가 세상에서 가장 똑똑한 수학자로 주목받다 보니 이런 일이 생긴 것 같음.

내가 수학자이고 격하게 불만을 터뜨리고 싶었다면 하필 옵서버를 찾아가진 않았을 듯.

이번이 처음으로 목소리를 낸 것도 아님. 몇 달째 이어진 일이라 실존적인 위기를 겪는 것처럼 보임.

안타깝다. 수학자들도 나름의 예술가이고 AI가 그들의 열정을 빼앗아 가는 것 같음. 그래도 이제 막을 수는 없으니 받아들여야겠지만.

내가 아는 수학자들은 숫자에는 똑똑했지만 성숙함이나 감성 지능은 부족했음. 이 사람도 예외는 아닌 듯. 자기가 잘하는 유일한 분야를 누구나 접근할 수 있고 계속 발전하는 기계가 이끌게 되니 화가 난 거라고 봄.

타오가 쓰는 비유를 보셈. AI의 성과를 ‘독성 폐기물’과 ‘가공되지 않은 덩어리’에 비교했음. 불만이 엄청나다는 거지.

기사에서는 기업들이 큰 수학 문제를 성능 평가에 쓰면서 결과는 훌륭해도 풀이가 우아한지, 누가 이해하는지, 다음에 뭘 할지는 신경 쓰지 않는다고 말함. 좋은 문제들을 남김없이 쓸어간다면서 ‘전시 태세’라는 표현도 썼고.

내 생각엔 기술이 나빠서 화난 게 아니라 기계가 학계보다 빠르게 움직이기 때문임. 온화하기로 유명한 수학자가 필즈상 수상자 25명을 모아 자동 풀이 도구를 배제하려는 건 지적 자존심을 지키려는 격한 반응이라고 봄.

타오의 주장을 제대로 듣고 있지 않은 것 같음.

탐험과 사이드 퀘스트가 핵심인 경쟁 게임에 즉시 순간이동을 넣는다고 생각해 보셈. 게임이 망가짐. 혼자 걸어 다니며 탐험하겠다고 해도 자동 순간이동을 쓰는 더 강한 플레이어들에게 쫓기겠지.

결국 아무도 탐험하지 않고 플레이어들은 다 같이 게임의 본질에서 멀어짐. 충분히 타당한 걱정이라고 봄.

게임이 아니라 약을 만들거나 기계를 발명하는 일이라면 빨리 도달하자는 말에 동의함. 하지만 수학은 수학 세계를 이해하는 일임. 내 생각엔 사이드 퀘스트 자체가 목적임.

‘수십 년 동안 지구상에서 가장 똑똑한 수학자로 주목받았다’는 부분에 대해서는, 내 생각엔 페렐만임. 밀레니엄 문제를 푼 유일한 사람이고 앞으로도 그럴 것 같음. 물론 와일스와 페르마도 그 수준에 있어야겠지만.

처음에 그들이 작가들을 찾아왔을 때
나는 작가가 아니라서 말하지 않았다.

그다음 디자이너들을 찾아왔을 때도
나는 디자이너가 아니라서 말하지 않았다.

그다음 개발자들을 찾아왔을 때도
나는 개발자가 아니라서 말하지 않았다.

그다음 나를 찾아왔고
테렌스 타오는 격하게 반응했다.
그래도 난 저 사람 의견에 동의 못 하겠음.

“증명이 길어서 죄송합니다. 더 짧게 쓸 시간이 없었습니다.”

수학자들이 소프트웨어 개발자들보다 이 상황을 훨씬 힘들게 받아들이는 것 같음.

그 말들이 맞는 지적 아닌가? 수학계가 내놓는 주장보다 그 사람과 감정에 너무 집중하는 것 같음.

수학자의 자존심이 얽혀 있다는 건 맞음. 나도 그렇고. 그래도 주장 중 일부는 사실임.

AI가 내가 연구하던 문제를 풀었을 때 정말 기뻤음. 그런데 증명 설명이 너무 형편없어서 답답했음. 내가 직접 문제를 풀었을 때처럼 완전히 이해했다는 느낌은 없었고, 그저 특정 방식으로 풀 수 있다는 것만 알게 됐음.

학생이 와서 풀이를 설명해 달라고 해도 내가 직접 푼 문제만큼 잘 설명하지 못할 거임.

언젠가는 AI가 가르치는 것도 잘하게 되겠지만 지금은 아니고, 그건 고민해야 할 문제임. AI의 설명 능력을 개선하지 않은 채 사람을 없애버리면 지식은 줄어든 채 답만 내는 블랙박스에 의존하게 됨.

이 격한 반응은 본인 트위터에서 먼저 시작됐음. 이미 크게 목소리를 내고 있었기 때문에 언론에서 연락한 거임.

수학에는 정말 근본적이고 아름다운 의미가 있는데, 대부분의 코더는 별 의미 없는 CRUD나 만들고 있었으니까.

나도 소프트웨어 엔지니어로서 하는 말임.

수학은 우주의 언어지, 단순한 ‘사이드 퀘스트’가 아님.

새로운 도전이 필요하다면 인류에게 더 유용한 일에서 우아한 풀이를 찾을 수도 있음. 수학 문제에서 지위를 놓고 경쟁하고 싶을 수는 있지만 AI 모델들도 마찬가지로 경쟁하는 거임.

가장 빠른 인간을 가리는 경주를 하는데 누가 자전거를 발명했다고 포기하겠음? 규칙을 만들어 사람끼리 달리기 경쟁을 하면 됨.

그가 불평하는 건 자전거를 탄 사람만큼 빨라질 수 없어서 달릴 동기를 잃었다는 것처럼 들림.

체스 선수들도 컴퓨터를 이길 수 없지만 사람끼리 경쟁하고 컴퓨터로 훈련함. 적이 아니라 도구로 보는 거지.

나도 수학자들하고 같은 심정임. 깔끔한 코드, 깔끔한 시스템 설계, 정돈된 코드베이스가 좋았음. 대부분은 신경 안 썼지만. AI가 오면서 그런 게 다 사라졌는데, 대부분의 개발자는 괜찮아하고 책임감 있게 일하려던 사람들만 끝없는 AI 풀리퀘스트와 수정 위의 수정을 보며 의미를 찾으려 하고 있음.

‘더는 가장 빠르지 않고 자전거를 탄 사람만큼 빨라질 수 없어서 달릴 동기를 잃었다는 불평’이라는 건 사실이 아님. 그가 제시한 주장을 읽어보셈.

기본 전제는 이제 자동화된 AI 풀이 도구가 있다는 것임. 이 도구들은 문제를 풀 수 있지만 사람에게 설명하는 건 형편없음. 사람을 그런 도구로 대체하면 결과는 얻지만 인간의 수학 지식을 넓혀주는 설명은 얻지 못함.

소프트웨어 엔지니어링에서 일어나는 일과 같음. 지금 자기 코드 전체를 완전히 설명할 수 있는 소프트웨어 엔지니어가 몇이나 됨? 많지 않음. 소프트웨어에서는 최종 제품이 중요하니 괜찮을 수 있음.

하지만 수학에서는 수학적 진실을 다른 사람에게 설명하는 게 핵심임. AI가 설명을 아주 잘하게 되기 전까지는 그걸 잃게 될 거임.

특히 마지막 부분에 강하게 동의함. 나도 물리학자로 일했는데, 과학 체계 전체는 연구자들이 자기 연구를 이해하고 서로 대화하며 생각을 공유하는 것을 중심으로 돌아감.

‘연구’가 주로 AI 도구로 이뤄진다면 그 결과의 가치는 사람이 직접 이뤘을 때의 일부에 불과하다고 생각함.

수학자들은 개발자들이 소프트웨어 개발에 느끼는 것보다 수학에 더 감정적으로 연결돼 있는 듯. 많은 개발자는 은퇴할 때까지 돈 버는 수단으로 봤으니까. 이해는 감.

아니, 우리는 그 사람처럼 수학을 보지 않는 거임. 수학은 목적을 위한 수단이자 과정이지 그 사람만의 예술 영역이 아님.

수학 문제를 푸는 게 우리에게 도움이 된다면 어떻게 풀든 상관없고, 솔직히 느린 인간을 기다리고 싶지도 않음. 예를 들어 재료과학의 발전이 젤다의 전설 시간의 오카리나를 빨리 깨는 데 달려 있다면 버그를 써서 빨리 깨든 말든 상관없음.

윗댓글 말이 맞음. 듣기 좋게 바꿔 말하고 있을 뿐임.

정말? 대부분은 그럴지 몰라도 리누스 토르발스가 기술 발전 때문에 우는 건 못 봤는데?

‘수학은 아름다운 것’이라면 수학을 발전시키고 완전히 더 높은 수준에서 연구할 수 있게 해주는 기술을 받아들이면 되잖아.

그런 경쟁 게임의 경우 경쟁이 주의 깊게 관찰되고 제한되는 닫힌 환경에서 이뤄진다고 생각함.

반면 수학 연구에서 겪는 ‘경쟁’은 제한된 환경이 아니고, 원래 그런 경쟁을 위한 것도 아님.

충분한 사람이 원한다면 수학 연구 수준의 닫힌 대회를 만들 수는 있음. 국제수학올림피아드보다 더 어렵게 하고 AI를 쓰지 않는지 며칠, 몇 달, 심지어 몇 년 동안 감시할 수도 있겠지.

하지만 연구 문제는 ‘나와 내 그룹만’ 풀어야 한다고 독점할 수 없고, 이전에도 그래서는 안 됐음. 실력을 시험할 문제는 닫힌 문제로 두면 됨. 공개된 미해결 문제라면 비밀로 하지 않는 한 누구도 다른 사람이 푸는 걸 막을 수 없고 막아서도 안 됨. 이건 AI 이전에도 그랬음.

제발 그만 불평하고 앞으로 나아가자. AI로 수학을 더 깊이 파고들 방법을 못 찾겠으면 거위라도 키우든가.

그가 불평하는 건 증명의 품질 저하임. 수학 증명은 최종 결과만을 위한 게 아님. 새로운 기법을 개척한 증명은 다른 수학자들이 그 기법을 다른 문제에 적용하게 해줌. AI가 새로운 것을 증명하는 건 매우 유용하지만 잘 쓰인 증명은 더 유용함. 줄거리와 결말이 같은 소설 두 권 중 하나는 문장이 엉망이고 다른 하나는 깨달음을 주는 것과 비슷함.

수학 논문과 다른 학술 논문은 동료 심사와 출판을 위해 명확성 같은 기준을 충족해야 함.

새로운 AI 도구를 문제 해결의 한계까지 밀어붙이다 보니 글의 품질이 떨어질 수 있다고 생각함. 그건 타당한 지적임. 그래도 앞으로 빠르게 개선되고 프롬프트를 통해 사람이 쓴 수준의 증명을 작성할 수 있을 거라고 예상함. 나는 데이터 과학자로서 GitHub Copilot을 쓰면서 더 깔끔하고 문서화가 잘된 코드를 얻기 위해 응답을 반복 개선하는 법을 배우고 있음. OpenAI는 다른 수학자들보다 먼저 성과를 내려고 다소 엉성하지만 옳은 결과물을 냈고, 문체와 품질을 다듬는 데 시간을 더 쓸 수도 있을 거임.

‘다른 사람이나 기계가 더 빠르고 잘한다고 갑자기 흥미를 잃는 사람은 없다’는 말에 대해: 내 지도교수는 Claude Code에 수만 달러를 쓰고 있음. 그 돈으로 박사 인력을 고용할 수도 있었음. 이미 벌어지는 일이라는 거지.

‘현실을 모델링하려면 수학이 필요하고 많은 과학 분야가 수학의 발전을 기다리니 AI가 해결하면 수학자들이 나중에 연구하면 된다’는 말에 대해서는, 현실을 수학적으로 모델링하는 건 보통 물리학이나 생물학 같은 분야 사람들의 일임. 그들은 그 과정에서 늘 새로운 수학을 만들어냄. 그 사람들이 AI를 써서 더 빨리 결과를 얻는 건 전적으로 찬성함.

수학자의 일은 조금 다름. 거의 전부가 수학에 대한 지식을 얻고 다른 사람에게 전하는 일임. AI가 그걸 도울 수 있다면 좋지만, 적어도 단기적으로는 오히려 제한할까 봐 걱정하는 거임.

동의하지만 OpenAI가 ‘해결한’ 수학 문제를 발표하는 방식에는 한 가지 단서가 있음. 문제를 작은 단계들로 나누고 각 단계에서 자연어 명제를 Lean 공식으로 번역해 해결하는 식임.

그 문제들이 발표된 뒤의 연구에서는 이 번역 과정에 오류가 생길 수 있다는 게 드러났는데, OpenAI는 각각의 Lean 공식이 자연어 부분과 같은 뜻인지 확인하지 않았음. 사실상 증명 개요만 담은 반쪽짜리 논문을 발표하고 정말 올바른 것을 증명했는지는 다른 사람들에게 확인하라고 넘긴 셈이라 게으르고 무례하다고 생각함. AI를 쓰는 건 좋지만 적어도 자연어를 Lean으로 번역한 단계는 직접 재확인해야 함.

지금 방식은 AI로 문제를 푸는 재미있는 부분만 하고 어렵고 재미없는 내부 검토는 남에게 떠넘기는 것임. 과학 논문을 심사해 본 사람은 그 일이 시간은 많이 들고 본인에게 돌아오는 공은 거의 없다는 걸 알 거임. 수학자든 OpenAI든 AI로 문제를 푸는 건 찬성하지만, Lean 결과가 원래 문제와 맞는지 스스로 모르는 상태에서 첫 검증을 다른 사람에게 시키지는 말아야 함.

인류를 발전시키고 공학에서 유용한 걸 만드는 데 도움이 된다면 칭찬받아야지. 충분히 ‘아름답지’ 않다는 이유로 실질적인 발전을 막을 이유는 없음.

괴델이 수학은 현실의 근본이 아니라고 증명했다는 건 오해라고 생각함. 현실도 괴델의 발견에서 벗어나지 않으므로, 이 현실 내부에서 논리적으로 증명할 수 없는 실제 물리적 명제도 존재한다는 뜻이 될 거임.

수학은 본질적으로 논리 구조를 연구하는 학문임. 정의는 조금 다르게 할 수도 있겠지만. 어느 정도 ‘임의의 규칙’일 수는 있어도 그 규칙은 우주에 대한 가장 깊은 질문에서 영감을 받은 것들임.

범주론은 대략 수학의 수학으로, 구조와 구조 사이의 관계를 정의하는 분야임. 현실 세계가 플라톤적 복소수 집합과 어떻게 상호작용하는지 궁금하다면 이를 설명할 수학적 도구를 제공함.

이 예시는 플라톤이 고민했던 가장 오래된 형이상학적 문제 중 하나인 ‘분유의 문제’이기도 함.

플라톤적 대상이 정말 존재하는지는 동의하지 않을 수 있지만, 이것이 아름답고 흥미로우며 근본적인 문제라는 점에는 동의할 수 있을 거임. 형상을 논의하는 것보다 현실에 더 근본적인 문제도 드물지.

그렇게 말하면 수학이라는 분야가 수학자들끼리 ‘놀기’ 위해 존재하는 것처럼 들리는데.

더 많이 알면 세상에 도움이 되는 중요한 분야라면 어떤 방식으로든 문제를 풀고 싶어야 하는 거 아님? 아니면 아무 기여도 안 한다는 건가.

그 관점은 이해하지만 수학의 돌파구가 다른 분야의 돌파구로 이어지는 경우도 많음. 그러니 속도를 높일 수 있다면 좋은 일임.

타오의 경우에는 생계와 삶에서 기술을 발휘하던 ‘장인’이 ‘산업화’에 밀리는 상황에 더 가까운 거 아닐까?

그렇다면 충분히 이해할 만한 반응이지만, 그런 반응으로 기술 변화 자체를 바꿀 수는 없겠지.

괴델이 이 얘기와 무슨 상관임?

소프트웨어 개발자의 일이 코드 작성이라고만 생각한다면 틀렸음. 내 시간은 늘 대부분 조직 문제를 해결하는 데 들어갔고, 요즘은 그 비중이 더 커졌음.

AI가 생성한 수학 연구에서 내 가장 큰 걱정은 의존성 문제임.

수학자들이 검증할 수 있는 속도보다 AI가 논문을 더 빨리 내기 시작하면 어떻게 될까? 한 논문 위에 다른 논문이 쌓이고 또 그 위에 논문이 쌓이다 보면, 아무도 제대로 확인하지 않은 전제에 연구 전체가 의존하게 될 수 있음.

앞부분의 오류나 오해 때문에 수백 편의 논문이 각자 전제 안에서는 논리적으로 일관돼도 근본적으로 틀릴 수 있음. AI로 수학적 발견을 가속하려면 의존성을 추적하고 기초 전제를 검증해서 실제로 증명된 게 뭔지 확인할 방법이 필요함.

그렇다고 수학자나 엔지니어들이 AI에 노골적으로 적대적인 건 이해가 안 됨. 프로그래밍과 게임 개발 동료들에게서도 비슷한 태도를 봤음.

AI가 엉성한 결과물을 만든다고? 사람도 그럼. 이해하거나 시험하거나 검증하지 않고 AI 결과물을 그대로 받아들인다면 그건 엔지니어링의 문제임. 자기 결과물에 대한 책임은 여전히 본인에게 있음.

반발의 일부가 분야의 발전보다는 직업적 지위를 지키려는 건 아닌지도 궁금함. 더는 자기가 제일 똑똑하지 않거나 자기가 문제를 풀지 못했다는 게 문제라면 받아들여야지.

문제를 풀고 인간의 지식을 발전시키려고 수학이나 엔지니어링을 시작한 건가, 아니면 가장 똑똑한 사람으로 인정받고 싶어서였나?

검증과 수학적 이해를 보존하는 문제에 관해서는 타오의 말도 어느 정도 이해함.

기사에서 타오는 프리미엄 AI 서비스의 신규 가입을 며칠간 중단한 게 주력 서비스의 컴퓨팅 자원을 이 문제에 돌리고 앤스로픽을 이기려 했기 때문이라고 말함. 그런데 이건 시간 순서가 맞지 않는 것 같은데?

티보가 월 200달러 요금제 가입 중단을 발표한 건 9월 10일이고, 나비에–스토크스 관련 발표는 그 이틀 전인 9월 8일이었음.

근본적이고 아름다운 무언가를 만드는 소프트웨어 개발자의 수는 전 세계 수학자 전체보다도 분명 많을 거임. 반대로 종신직을 유지하고 평범한 대학에서 가르치려고 CRUD에 해당하는 일을 하는 수학자도 많고. 유명 수학자들이 자신들은 다른 똑똑한 사람들과 달리 특별하다고 착각한 것뿐이라고 봄.

동의함. 나도 하드웨어 개발자임. 원래 댓글이 삭제돼서 맥락이 많이 사라졌는데, 거기에는 ‘소프트웨어 엔지니어의 일자리가 줄어들 때보다 수학자들이 더 힘들게 받아들인다’고 적혀 있었음. ‘소프트웨어 엔지니어링은 코딩이다’라는 뜻이 아니었음. 많은 코더가 일을 그냥 직업으로 봤기 때문에 수학자들만큼 강하게 반응하지 않았다는 말이었음.

이러면 수학자들의 이미지가 안 좋아지겠는데.

그건 사실이 아님.

나도 깔끔한 코드와 시스템 설계를 좋아하지만, AI를 써서 그런 결과를 얻을 수도 있음. 내가 중요하게 생각하는 AI 작성 코드는 전부 검토하고 처음부터 끝까지 설계가 모듈식이고 깔끔하며 확장하기 쉬운지 확인함.

유지보수에 관심 없이 엉망인 코드를 만드는 사람들은 AI가 없어도 그랬을 거임.

전직 수학자로서 AI가 대체로 보기 좋지 않은 수학을 만든다는 말에 동의함. 무작정 계산을 밀어붙이거나 특수한 경우를 많이 나누는 증명으로 가는 경향이 있음. 그러면 증명이 성립하는 원리가 가려짐. 시간이 지나면서 나아질지 궁금함. AI가 strawberry에 R이 몇 개 들어가는지도 못 세던 게 얼마 전이니까.

그렇다고 수학자들이 일자리를 잃을 위험에 처했다고는 생각하지 않음. 자료를 찾고 생각을 정리하는 데는 큰 도움이 되지만 수학은 인간의 활동이고, 연구할 가치가 있는 질문은 사람이 해야 함.

OpenAI 등이 새로운 수학 결과를 많이 내놓고 있다는 건 알지만 오래가지는 않을 듯. 수학자를 대체하려는 게 아니라 사람들이 힘들어하던 어려운 문제를 풀어서 AI 능력을 보여주려는 거임. 언젠가는 계속 수학을 할 동기가 없어질 거라고 봄.

그는 자신에게 쏟아지는 관심을 해밀턴에게 돌리려고도 했음. 그냥 관심받는 걸 불편해하는 것 같음.

타오의 긴 인터뷰를 보면 실제로는 AI로 수학을 발전시키는 데 꽤 기대하고 있음. OpenAI의 결과를 이해하려고 들여다보기도 했고. 레딧에서 묘사하는 것처럼 AI 반대론자는 아님. OpenAI가 일을 진행한 방식에는 비판적인 면이 있어서 독성 폐기물 같은 말을 한 거지만, 전반적으로는 연구에 이 기술을 적극 도입하고 있음.

근본적이라는 건 현대의 모든 기술과 과학이 수학을 토대로 한다는 뜻임. 그중 상당수는 누군가 응용 방법을 발견하기 전까지는 ‘이론’에 불과했음. 대표적인 예가 일반상대성이론이고. 멋진 바탕화면 사진 아이디어를 보고 따라 만들 수 있게 해주는 기반이 뭘 거라고 생각함?

AI 코딩은 수학보다 훨씬 완만하게 발전했음. 15년 넘게 소프트웨어 엔지니어로 일해서 우리 분야의 장인정신이 안타깝지만, 수학은 정말 큰 충격을 받은 듯. 인간 지성은 AI의 그늘에 남게 될 거임. 받아들이기 어렵지만 현실이 그렇다고 봄.

내가 말했듯 수학은 현실의 일부를 설명할 수 있음. 하지만 어떤 수학은 만들어낸 것이고, 어떤 건 재미를 위한 것이며, 어떤 건 아직 현실에 응용할 곳이 없음. 그런데 나는 수학을 ‘현실의 기본 구성 요소’라고 배워서 이 분야 전체에 환멸을 느꼈음.

이제는 그때 수학 선생님들께 하고 싶었던 말을 좀 더 분명히 할 수 있음.

‘왜 이 단계들이 이런 식인지, 갑자기 등장하는 용어나 연산의 범위가 어디까지인지 설명할 수 없다는 건가요? 이유를 말할 수 없다면 객관적인 것도 우주의 기본 구성 요소도 아니잖아요. 그러니 그런 설명 대신 이 규칙 안에 머무르게 하는 제약을 알려주세요. 그래야 왜 그런지에 대한 의문에서 벗어나 직관적으로 이해할 수 있을지도 모르니까요.’

살면서 이유를 어느 정도라도 알면 제약을 추론하고, 애매한 상황을 만나도 해결하고 설명할 수 있음. 수학에 이유가 없고 제약이 전부 임의적이라면, 새로운 걸 하려면 제약을 전부 외워야 하는데 그걸 외울 동기를 주는 충분한 이유가 필요함.

지금은 우아하지 않을지 몰라도 아주 짧은 시간에 존재하지 않던 수준에서 투박하게나마 해내는 수준까지 왔음. 앞으로 우아하고 아름다워질 거고, 바둑 AI가 바둑기사들을 발전시키듯 인간 수학자들도 끌어올릴 거라고 봄.

무슨 뜻인지는 알겠지만 잘못된 비교라고 생각함. 말하는 건 수학보다 물리학과 공학에 가까움. 수학은 기본적으로 ‘이런 가정들이 주어지면 이런 결과가 반드시 따라온다’는 것임. 물리학과 공학은 현실의 어떤 경우가 그 가정과 비슷한지 살피고 ‘X가 성립하면 수학적으로 Y가 따라온다’고 말하는 데 관심이 있음.

수학에서 ‘왜’는 공리에서 나오고, 응용과학에서 ‘왜’는 관찰에서 나옴. 수학은 가능한 모든 우주의 공간에서 몇 가지 가정을 잡고 그 결과를 살펴보는 일, 응용과학은 그 가능성 중 우리 우주에 해당하는 것을 찾는 일이라고 생각하면 됨.

그리고 오늘날 수학이 너무 방대해서 한 사람이 전부 알 수 없는 건 맞지만 물리학, 생물학, 화학, 공학 등도 마찬가지임.

산업혁명은 자연을 황무지로 바꿨고

AI 혁명은 수학의 아름다움을 독성 황무지로 바꾸는구나.

타오와 다른 수학자들은 이미 개발자들에게 일어나는 일이 자기들한테도 올까 봐 걱정하는 것 같음. 재미있는 일은 전부 LLM이 하고 사람은 수동으로 검증만 하는 거지.

그쯤 되면 수학이란 뭘까. 생각해 보면 좀 섬뜩함. 수학이 생명력을 얻는 동시에 이해할 수 없는 게 되어가는 느낌임.

비슷한 점은 분명 있지만 소프트웨어와 수학에서 벌어지는 일에는 중요한 차이도 있다고 봄. 가장 큰 건 소프트웨어 개발은 산업이지만 수학에는 그런 산업이 없다는 점임.

전 세계 수백만 개발자는 주로 상업적 활동이나 적어도 상업적 효용이 있는 일을 위해 코드를 만듦. 여기서는 자동화가 말이 되고 AI 기업도 개발 비용을 줄이는 수단으로 제품을 팔 수 있음. 그러면 초기 시간·인건비 절약과 신뢰성·유지보수 문제를 비교하면 됨.

반면 수학자는 대략 10만 명 수준이고 대부분 학계에서 수학 자체를 위해 연구함. 결과물 대부분은 수학계 밖에서는 관심을 끌지 못할 테니 애초에 왜 이걸 자동화하는지 물어볼 만함. 지금은 AI 기업들이 상장 가치를 부풀리려는 것처럼 보임. 제대로 확인하지도 않은 증명 400개를 세상에 던져놓는 건 홍보 행사처럼 느껴짐.

소프트웨어에서는 산업을 뒤흔든다고 말할 수 있지만 수학에서는 공동체에 혼란을 일으키는 것에 더 가까워 보임.