수학 난제 붙들던 물리학자, AI 대화로 길을 찾았다는데

비슷하게 대단한 문제를 푼 건 아니지만, 내 경험담도 공감될 것 같음.

나는 수치 시뮬레이션으로 먹고사는데, 가끔 시뮬레이션의 전제가 깨져서 계산이 폭주하는 한계 사례가 나옴. 흔한 사례는 기본 도구가 알아서 처리하거나 조금 손보면 되지만, 아주 드문 사례는 해결책이 있는 논문을 찾아야 하고, 더 드물게는 직접 알아내야 함. 15년 동안 나와 동료들이 도무지 못 푼 사례가 하나 있었음. 어찌저찌 우아하지 못한 방식으로 피해 가긴 했지만, 원인을 단순화한 재현 사례를 따로 보관해 두고 몇 년간 가끔 다시 도전해도 계속 실패했음.

Fable 5를 처음 써볼 때 이걸 다시 맡겨 봄. 30분쯤 만에 핵심 원인을 찾고, 완전히 다른 분야에서 비슷한 한계 사례를 해결한 논문을 찾아내더니 내 사례에 맞게 고쳐서 제대로 해결함. 그게 왜 어떻게 통하는지 나와 전 동료가 납득하는 데는 일주일 정도 걸렸음.

그때 내 전문 분야에서도 난 끝났구나 싶었음.

이제 다들 끝나는 날과 컬처가 오는 날을 기다리는 중임. 나는 낙관주의자임.

AI와 일할 때 수학자들이 이런 태도를 보여야 하는데, 왜 이렇게 어려워하는 걸까.

전문가 둘이 답을 확인하는 데 일주일이나 필요했다면, 그게 바로 네 일이 아직 필요한 이유를 실증한 거임.

결과가 충분히 꾸준해질 때까지는 그렇지 않음. 위험도에 따라 통계적으로 신뢰할 수준을 넘으면 그다음부터는 매번 확인하지 않기도 함.

확신은 안 듦. Fable과 대화를 주고받으며 익숙하지 않은 수학 분야를 배웠고, 공부하고 답을 검증하는 데 일주일이 걸렸음. 어쩌면 애초에 그 분야 지식이 더 넓었어야 했을지도 모름. 그래도 이전엔 그럴 필요가 없었음. AI가 해낸 건 우리가 다른 제약까지 고려하느라 떠올리지 못했을 법한 큰 우회였음. 영상 속 연구자의 ‘튜브 보조정리’ 사례와 똑같음. 우리가 아는 것과 그 보조정리 사이의 거리가 꽤 멀었음. 그 과정에서 배운 건 우리를 더 나은 전문가로 만들겠지만, 기계 전문가와는 상대가 안 된다고 생각함.

수학의 대중화네.

영상 봤음? 본인이 “AI는 모든 걸 알고 있고 그걸 배울 수 있다”고 말하고, 쓸 보조정리도 받았는데 그게 인상적이지 않다는 거임? 이제 기준을 어디까지 올릴 건데?

영상 봐. 본인이 직접 튜브 보조정리를 배웠고, 증명과 그게 왜 통하는지도 이해했다고 분명히 말함.

그 논리는 스팸 필터나 추천 엔진에는 통하지만 물리 공학에는 통하지 않음. 여기서 다루는 건 지배 방정식이 폭주하는 드문 사례였음. 통계적 신뢰도는 학습 데이터가 많은 영역에서 의미가 있지, 극단적인 새 실패 사례에는 해당하지 않음. 실제 수치 시뮬레이션, 특히 구조물·유체·생명이 걸린 문제에서 엔지니어는 느낌만 믿고 수식을 바꾸지 않음. 물리적 한계와 해법의 유효성을 모르면 시뮬레이션이 멈췄더라도 엉뚱한 결과를 내서 큰 사고로 이어질 수 있음. 작동 원리를 검증하는 것이 엔지니어링임.

방금 말한 건 ‘증강된 엔지니어링’인데, 어떻게 자기 일이 쓸모없어졌다고 결론 내렸는지 모르겠음.

AI는 너를 대체한 게 아니라, 찾아볼 시간이 없던 문헌으로 이어지는 다리 역할을 한 거임. 15년간 현장을 겪은 전문가 둘이 일주일 동안 공부하고 검증해야 했다는 사실이 오히려 대체가 아니라는 걸 보여줌. 초보자는 수치 불안정 문제를 어떻게 분리해야 할지도 모르고, 제안된 수학이 물리적으로 말이 되는지, 눈에 안 띄는 오류를 넣진 않았는지 감사할 수도 없음. 전문가를 대체한 게 아니라 연구 능력을 크게 키워준 도구임.

AI가 도와줄 때는 다들 들뜨지만, AI가 실제 일까지 해버리기 시작하면 그 기분은 사라짐. 저 사람에겐 연구가 그런 일일 테고.

겉으로 어려워 보이는 건 일반인이 미묘한 차이를 이해하기 어려워서임. 핵심은 수학에 AI를 쓰지 말자는 게 아니라, 불투명한 해법을 이해할 수 있게 설명하는 해석 가능성임. 루빅스 큐브를 풀어 놓고 그 과정을 외계 문자처럼 보여주는 것과 같음. 답을 아는 것보다 왜 답인지 아는 게 중요함. 영상 속 수학자는 설명을 따라가며 해법을 이해할 수 있어서 기뻐했던 거임.

자기 연구 분야 이야기하는데 정말 신나 보여서 좋다 😊

밝은 쪽으로 봐줘서 고마움. 내 비관적인 결론보다 훨씬 듣기 좋네.

그런데 이 한 사례만의 문제는 아니고 앞으로 벌어질 일을 생각하면 걱정됨. 언젠가는 이해의 격차를 메우지 못할 수도 있다는 상상이 어렵지 않았음. OpenAI가 내놓은 여러 해법을 외면하지 않고 살펴본 수학자들에게서 벌써 그런 조짐이 보이는 듯함. 글이 아주 엉성하지 않은 짧은 논문도 이해하는 데 상당한 수고가 들더라. AI 수학을 검토하려는 사람들이라면 논문을 읽는 데도 AI 도움을 받을 거라고 생각함.

그 사람들은 내 분야보다 훨씬 복잡한 영역에서 일하고, 내가 설명할 수 있는 건 STEM 학부생 수준이지만 그들은 그러기 어려움. 거기에 쓰인 AI도 Fable 5보다 더 뛰어났다고 볼 수 있음. 인간이 계속 개입할 수 있을지는 확신이 없음. 곧 알게 되겠지.

물리학자들은 아직 AI가 자기들을 비켜 갈 거라 생각하는 듯함. 저 사람은 AI가 자기와 대화를 통째로 해낼 수 있다면 연구자가 꼭 필요한 역할이 있긴 한지라는 문제를 제대로 짚지 않음. 잠깐 답하긴 했지만 AI도 가끔 멍청하다는 정도임. 그게 더는 사실이 아니게 되면 어떻게 할 건데?

와, 저 사람 정말 행복해 보임. 나까지 기분 좋아짐. 내 일자리가 사라질 거란 건 알지만, 무료 AI로 철학이나 아마추어 수준의 수학·물리·화학을 얘기할 수 있어서 즐거움. 책을 다 읽을 시간은 없거든. 저 사람 수준은 아니지만 Claude가 답하면서 개념을 이해시켜 주고, 서로 연결해서 생각하는 데 도움을 줄 때 비슷한 기쁨을 느낌.

언젠가는 우리가 AI를 바로 믿고 전문가가 일주일 동안 확인하지 않게 될 거라고 생각하지 않음?

창의성의 시대가 왔음. 이제 우리는 그냥 만들어 내면 됨. 대신 데이터 입력 같은 ‘단순 업무’를 하던 사람들도 이제 머리를 써야 할 거임.

이 모든 일이 기하급수적으로 진행된다면 인간이 연구 과정에 남아 있을 시간은 얼마 안 될 것임.

창의적인 일을 안 하는 사람들을 왜 그렇게 무시함? 창의적인 직업은 예나 지금이나 부자에게 주어진 특권이었음.

종신 재직권을 얻는 교수들 대부분은 부유한 배경에서 나옴.

그리고 왜 재능 있는 사람만 세상에 자리를 가져야 함?

어쩌면 시스템을 통째로 다시 짜야 할지도 모름. AI가 논문을 내고 다른 AI가 검토하고, 우리는 나무에서 과일을 따듯 결과를 골라 쓰는 해석자가 되는 거임.

이 사람만 그런 게 아님. 나와 동료들도 AI를 적극적으로 쓰고 있음. 어려운 수학 문제뿐 아니라 아이디어를 탐색하는 효율도 달라졌음.

해석적 수학 모델링을 하는데, 예전엔 모델을 세운 뒤 결과를 파악하고 다음 버전을 정하는 데 며칠씩 걸렸음. 지금은 15분임. 어려운 일은 아니지만 계산을 여러 쪽으로 살펴보고 확인해야 해서 시간이 들었는데, AI는 그걸 인간보다 100배 빠르게 하고 서로 독립된 세션에서 따로 확인도 할 수 있음. 웬만한 박사과정 학생보다 실수를 적게 함.

“열린 집합의 폐포의 내부는 원래 집합이다.”

하하, AI가 이런 말을 했다니 우습네. 물론 무슨 뜻인지 알고, 왜 틀렸거나 맞는지 당연히 알지.

필요한 건 재능이 아니라 단순한 사고가 더 가치 있게 되는 일임. 사람에게는 쓰이지 않는 능력이 많이 남아 있음.

인간을 컴퓨터 앞에 앉혀 하루 8시간 생각 없이 숫자만 입력하게 하는 건 낭비임. 공장 노동자가 기계 때문에 일자리를 잃는다고 불평하지 않듯, AI가 생각 없이 숫자를 입력하는 일을 대신한다고 더 크게 불평할 이유도 없음.

인간 전문가가 결과를 감사하지 않는다면 그건 확률적 텍스트 예측기를 맹목적으로 믿는 것뿐임.

그 예측 모델이 전문가보다 더 믿을 만하다면, 아마 그렇거나 곧 그렇게 될 텐데… 믿어야지. 원한다면 맹신이라고 불러도 됨.

계속 따라가는 사람들도 있겠지만, 예전엔 과학이나 수학을 할 기회를 얻는 데 좋은 멘토를 만나는 운이 꽤 중요했음. 기초를 잘 다지고 혼자 확장해 갈 수 있도록 도와줄 사람이 필요했는데, LLM 교사는 사람에 맞춰 설명을 바꿔줄 수 있어서 큰 도움이 될 수 있음. 이제는 그걸 배우려는 의지가 있느냐의 문제임.

다만 곧 새로운 위기가 올 수도 있음. 지금은 부의 격차지만 앞으로는 지식과 지능의 격차가 될 수 있음. LLM에 모든 걸 맡기는 사람과, 함께 배우고 지식을 쌓아 결과를 검증하며 최대한 활용하는 사람 사이가 곧 엄청나게 벌어질 거임.

너는 여전히 글을 제대로 읽지 않고 자기 주장에 맞는 부분만 골라 말하고 있음.

인간 엔지니어도 실수함. 초기 검증에서 모델의 정확도가 꾸준히 더 높다는 게 확인되면, 사람 검증을 계속 기다릴 이유가 없음. 모델이 일반화나 예외 상황을 처리 못하는 기계라고 생각하는 듯한데, 특정 수준을 넘으면 그런 능력이 빠르게 좋아지는 경향이 있음. 왜인지 모델을 딱딱하게 정해진 시뮬레이션처럼 취급하는데, 작동 방식이 그렇지 않음.

AI가 하는 일은 분야 사이의 인간적 자존심을 없애는 거라고 봄. 나는 전기공학과 소프트웨어 쪽인데, 물리학·수학·공학·생물학 사람들이 누가 더 어려운 문제를 푸는지, 어느 분야가 더 어려운지 경쟁하는 걸 많이 봄.

AI는 그런 걸 신경 쓰지 않음. 각자 나름의 어려움과 장단점이 있는 게 사실임. 이제 그걸 제쳐 두고 AI가 여러 분야에서 돌파구와 발견을 만들어낼 차례임.

수학적으로 내부 일관성이 있는 물리 모델도 실제로는 틀릴 수 있다는 게 차이임.

원하면 언제든 확인할 수 있음. 일반인이 전문가를 대할 때도 똑같음. 보통 잘 맞으니 믿는 거고, 전문가와 AI 사이에도 그런 신뢰가 생길 거라는 게 내 생각임.

언젠가 인간이 AI의 결과를 검증할 능력이 없어지는 순간이 올 거임. 검증에 드는 시간과 자원이 감당하기 어려워지고, 결국 다른 AI에게 검증을 맡기며 기계를 더 신뢰하게 될 수 있음. 탈출 속도 같은 문제임.

내 수학 연구도 이렇다고 느낌. 다른 수학자들에게 도움을 구해도 받지 못했는데 AI가 이제 내가 필요한 유일한 협업자가 됐음. 슬픈 건지 기쁜 건지 모르겠지만, 드디어 답을 얻게 되어 다행임.

사람이 필요한 건 프롬프트를 입력해야 해서만이 아니라, 프롬프트가 필요한 이유인 판단력 때문임.

사람의 판단이 없으면 AI는 금방 엉뚱한 데로 감. 그때까지 걸리는 시간이 빠르게 늘고는 있지만 아직은 짧음. 기본적인 코딩에서도 AI가 어이없는 실수를 자주 함. 그래도 사람의 판단으로 바로잡으면 AI는 강력한 도구가 됨. 판단력이 없으면 취약함. 사람도 마찬가지라 아무리 똑똑해도 판단력이 없으면 결국 엉뚱한 일을 저지름.

인간의 판단이 더는 필요하지 않은 날이 오면 세상은 빠르게 바뀔 것임. 그때가 언제인지는 아무도 모름.