삼성전자가 지속해서 개발 중인 PIM(프로세싱 인 메모리) 기술을 두고 해외 개발자 커뮤니티에서 뜨거운 토론이 벌어짐. 메모리 내부에서 직접 연산을 처리해 데이터 이동 병목을 줄이겠다는 아이디어가 과연 차세대 게임 체인저가 될 수 있을지를 두고 의견이 갈리는 중임.

찬성 쪽에서는 AI와 LLM 시대에 행렬 곱셈이나 QKV 연산 같은 대규모 병렬 처리가 필수적이라며, 램에서 직접 연산을 수행하면 외부 메모리 대역폭 병목을 획기적으로 뚫어줄 수 있다고 강조함. 서버에 PIM 메모리를 대거 탑재해 인퍼런스 속도를 극적으로 끌어올릴 수 있다는 기대감도 나옴.

반면 회의적인 시선도 만만치 않음. 메모리 구조상 뱅크 간 직접적인 데이터 교환이 어렵거나, 물리적으로 연속된 램이 강제되어 기존 가상 메모리 시스템과 충돌할 수 있다는 지적임. 또한 발열 문제나 제한적인 인터페이스 규격 때문에 범용성이 떨어질 거라는 의견도 적지 않음.

결국 아키텍처의 복잡함이나 메모리 단편화 같은 단점에도 불구하고, 달러당 유효 성능 압도적이라면 결국 실리적인 선택이 승리할 것이라는 분석이 공감을 얻고 있음. 과연 하드웨어 판도를 뒤흔들 수 있을지 주목되는 부분.

출처: Hacker News