AI 연구 가속이 2027년 예측 수준에 왔다는 연구자

무슨 근거로? 네 느낌?

AI 2027은 AI 안전 문제로 공포를 조장한다면서 이 서브에서 꽤 심하게 혹평받았는데, 요즘은 며칠마다 예측했던 이정표에 하나씩 도달하는 것 같음.

때로는 AI 2027이 예측한 것보다 더 빨리 도달하기도 하고.

관심 있는 사람을 위한 METR 평가 보고서: https://metr.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

ㅇㅇ 그리고 그때가 되면 발전 속도를 계속 무시하던 사람들은 다음에 올 일은 여전히 부정하면서도 “난 이런 일이 일어날 걸 부정한 적 없어”라고 하겠지.

고마워. 맹목적인 가속주의자가 어떤 식으로 생각하는지 보여주는 좋은 예시네.

빨리 매트릭스에 접속해서 내 상상 속 세계를 탐험하고 싶다.

안전벨트 매자.

흥미롭네. 9월 9일 기준으로 GPT 6 Astra Pro에 물어봤을 때는 예정보다 3~4개월 빠르다고 추정했음. Bel이 Agent 3에 해당한다고 보고 말이지. METR은 대체로 Model 4가 Agent 3에 해당한다고 보는 듯.
https://chatgpt.com/share/6aa0f81e-56b0-83ea-8a50-a4f714c5e33e?ogimg=plain

그뿐만 아니라 우리 연구실에서는 AI 정렬이 훨씬 나아지고 있다는 점을 고무적으로 보고 있음. 지난 몇 달 사이 경각심을 일깨우는 일들이 있었고, 이제 다들 통제를 유지하는 데 엄청 신경 쓰고 있음.

ㅋㅋㅋ 나도 껴도 됨? 같이 매트릭스 접속하자.

걱정 마 얘들아. 민주당이 모든 걸 감속시켜 줄 테니까 다 괜찮을 거야.

앞으로 몇 달이면 우리도 너한테 똑같은 말을 할 수 있을 것 같은데.

‘매트릭스에 접속한다’고?

네가 어떤 사람인지 알겠다 짤.

제발 그만해. 너무 순진하잖아.

가짜 세계를 만드는 대신 원하는 쾌감을 느끼도록 뇌를 바꾸면 되지 않을까? 그편이 훨씬 효율적이잖아.

A에서 B까지 더 빨리 간다고 해서 C에도 도달할 수 있는 건가? 속도는 전체 방정식의 작은 일부일 뿐임. 현재 방식으로 초지능이나 폭발적인 RSI, 즉 빠른 이륙에 도달할 수 있는지는 이 숫자만으로 알 수 없음.

파국론자들은 이걸 알 만큼 똑똑하면서도 사람들을 속이고 겁주려고 두 문제를 뒤섞는다고 봄.

이 댓글들 보고 있으면 좀 민망하지 않냐. 인류 역사상 가장 격변하는 시기로 가고 있는데 이 사람들이 할 말은 매트릭스 얘기뿐임.

METR 보고서나 연구실 밖에서 볼 수 있는 다른 자료들을 봐도 병목이나 장애물이 있다는 증거는 없음. 최첨단 수학과 컴퓨터과학 문제로 강화학습을 계속하는 게 인간 수준을 넘어서는 데 효과적인 것 같고, 그 능력이 다른 계획 수립과 문제 해결에도 상당히 일반화되는 듯함.

어떤 의미에서? 이 서브에 대해서라면 나도 일부는 동의할 것 같은데, 서로 관점은 꽤 다를 것 같음.

꿈을 이루려면 매트릭스가 필요하다는 거네.

나도 그렇게 생각했었는데 지금 모델들은 이미 단순한 LLM을 훨씬 넘어섰음. 추론이 모든 걸 바꿨지.

지금 가장 큰 문제는 계속 늘어나는 맥락 처리 수요와 그걸 유지할 수 있는 능력이라고 봄.

AI에서 뭘 기대하고 있는지는 모르겠지만, 그 밖에 AI가 가져올 수 있는 것들은 다 암울해 보임.

지금까지 정확도가 85%고, 2026년 말에 관한 예측은 거의 다 맞았음. 남은 건 워싱턴 DC에서 1만 명 규모의 반AI 시위가 열린다는 예측뿐임. 능력 발전 추세는 굉장히 정확했음. 사실 예정보다 빠르게 진행 중임.
https://fixupx.com/spicey_lemonade/status/2118581762754556108

물리 법칙 안에서 가능한 모든 일을 인간보다 잘하는 AI라니 엄청 신나고 당연히 유용하잖아. 가속주의자가 되지 않을 이유가 뭐임?

내 직감에도 뭔가 근거가 있겠지. 야호오오오.

우린 전쟁이나 여러 위기를 향해 가고 있는데, 뭐 그래 매트릭스에 접속하겠지.

뭐가 잘못될 수 있겠어?

응? 인간의 감독이 필요 없는 완전한 RSI와 지능 폭발에 도달하는 데 병목이 있다는 자료들이 있는데.

아무도 그걸 만들지 않으면 모두 죽음. 언젠가는 자연사로 말이지.

이제 내가 기대할 수 있는 건 매트릭스뿐인가 보네.

그래서? 난 불멸을 원하지도 않고 불멸이 좋은 일일 거라고 생각하지도 않음.

넌 개인의 관점에서만 보고 있음. 개인은 죽어도 인류는 살아남잖아.

나도 AI 발전에는 찬성함. 일 안 해도 되거나 놀라운 기술을 개발할 수 있다면 좋겠지. 하지만 단점이 전혀 없을 거라고 생각하는 건 착각임.

폭군 용에 관한 우화: https://philosophynow.org/issues/89/The_Fable_of_the_Dragon-Tyrant

진심으로, 괜찮은 약물만 있으면 뭐든 시키는 대로 할 듯.

반AI 시위는 분명히 일어날 거임. 결국 새 의회가 들어서면 흐름도 속도를 늦추는 쪽으로 바뀌기 시작할 듯.

무슨 일이 있어도 밀고 나가야 한다고 생각하는 낙관적인 가속주의자들 때문에 그 시나리오가 혹평받았지. AI 능력을 그렇게 추켜세우면서도 상황이 얼마나 심각한지는 이해를 못 함.

GPT-2나 Mythos를 포함한 이전 모델들처럼, 아직 공개되지 않은 모델의 능력도 지금 과대평가되고 있을 가능성이 큼. 지금 두려워하는 사람들에게도 2027년이 되면 그게 분명해질 거임.

AI 2027 보고서가 옳았다는 결론은 안 나올 거라고 봄. 파국론자들이 틀린 걸로 드러나겠지만, 생각을 바꾸는 대신 파국이 2028년에 온다고 하겠지. 그다음엔 2029년이라고 하고.

아이러니하게도 틀리는 예측은 인간 행동에 관한 것일 수도 있음. 미국 사람들이 그렇게 ‘쉽게’ 시위에 나설 거라는 믿음 말이지.

가능하다면 약물과 휴대폰까지 동원해서라도 매트릭스에 접속하고 싶다.

이정표에 도달했는지는 정량적인 예측의 문제였음. 그렇다고 초지능 AI가 은밀히 적대적인 의도를 가질 거라는 예측까지 맞는다는 뜻은 아님.

전체 게시물이 궁금한 사람을 위한 링크: https://nitter.mizuki.st/RyanGreenblatt/status/2118447235289817503#m. 이 캡처는 뒤가 많이 잘렸음. 전체 글은 캡처만 봤을 때보다 훨씬 더 잠정적인 이야기임.

그린블랫은 공개 보고서만 보고 이야기하는 것이며, 가려지지 않은 보고서는 본 적이 없다고 밝힘. 공개 보고서에서 근거 자료 상당 부분이 가려져 있어서, 벤치마크상 발전 속도가 2배 빨라졌다는 관측 외의 결론은 보고서 작성자들을 얼마나 신뢰하느냐에 크게 좌우된다고 함. 가령 그 가속의 원인이 RSI인지에 관한 결론이 그렇다는 것. 본인은 작성자들이 신중하고 엄격하게 작업한다고 크게 신뢰하며, 자신도 METR에서 일한다고 밝힘. 가려진 부분이 더 적었다면 이렇게 신뢰에 의존할 필요도 훨씬 줄었을 거라고 함.

또 현재 맡은 역할상 전망에 영향을 줄 수 있는 다른 기밀 정보를 접할 가능성이 있어, 모든 정보를 종합한 초지능 도달 시점이나 소프트웨어 지능 폭발 가능성에 대한 자신의 견해는 지금 밝힐 수 없다고 함. 여기서는 과거에 공개적으로 밝혔던 의견을 바탕으로 의미를 분석했다고 설명함.