인공지능 경쟁이 GPU와 HBM을 넘어 스마트폰과 AI PC에 들어가는 저전력 메모리 영역으로 확대되고 있다. 삼성전자가 공개한 ‘LPDDR5X-PIM’은 데이터를 저장하는 역할에 머물던 메모리가 일부 AI 연산까지 직접 처리하도록 설계된 차세대 기술이다. 특히 온디바이스 AI 시장이 성장하면서 삼성전자 LPDDR5X-PIM이 스마트폰과 노트북의 AI 성능, 전력 효율, 배터리 사용시간을 동시에 개선할 수 있는 기술로 주목받고 있다.
이번 기술에서 가장 중요한 키워드는 PIM이다. PIM은 Processing In Memory의 약자로 말 그대로 메모리 안에서 데이터를 처리하는 기술을 의미한다.
삼성전자는 미국 스탠퍼드대학교에서 열린 반도체 학술대회 Hot Chips 2026에서 ‘Samsung LPDDR5X-PIM: World’s First LPDDR based Processing in Memory Solution for AI Inference’를 발표했다. Hot Chips 공식 프로그램에도 삼성전자의 LPDDR5X 기반 PIM 기술이 메모리 세션의 주요 발표 주제로 포함됐다.
기존 컴퓨터 구조에서는 일반적으로 데이터를 메모리에 저장한 뒤 CPU나 GPU로 이동시켜 연산하고, 처리한 데이터를 다시 메모리로 보내는 과정이 반복된다.
문제는 AI 모델의 규모가 커질수록 이동해야 하는 데이터도 크게 증가한다는 점이다. 연산 장치 자체의 성능이 아무리 빨라져도 메모리와 프로세서 사이에서 데이터를 계속 이동해야 한다면 전력 소비와 처리 지연이 발생할 수밖에 없다.
LPDDR5X-PIM은 이런 데이터 이동 과정 중 일부를 줄이는 것을 목표로 한다.
쉽게 설명하면 기존 메모리가 데이터를 보관하는 창고였다면 PIM은 창고 안에서 간단한 작업까지 직접 처리하는 구조에 가깝다.
이 방식이 중요한 이유는 크게 세 가지다.
- CPU·GPU와 메모리 사이의 데이터 이동량을 줄일 수 있다.
- AI 추론 처리 속도를 높일 가능성이 있다.
- 데이터 이동에 사용되는 전력을 줄여 전력 효율을 높일 수 있다.
특히 세 번째 요소가 스마트폰과 노트북에서는 중요하다.
데이터센터에서는 높은 전력 소비를 감수하면서 대규모 GPU를 사용할 수 있지만 스마트폰과 노트북은 배터리와 발열이라는 물리적인 한계를 가지고 있다. 따라서 온디바이스 AI 시장에서는 단순한 최고 성능보다 ‘같은 전력으로 얼마나 많은 AI 연산을 할 수 있는가’가 중요한 경쟁 요소가 되고 있다.
삼성전자가 LPDDR5X-PIM을 주목하는 이유도 여기에 있다.
최근 AI 산업은 클라우드에서 모든 연산을 처리하는 방식에서 스마트폰과 PC 내부에서도 AI 모델을 직접 실행하는 온디바이스 AI 방식으로 빠르게 확장되고 있다.
온디바이스 AI의 장점은 비교적 분명하다.
- 인터넷 연결 없이 일부 AI 기능을 사용할 수 있다.
- 개인정보를 외부 서버로 보내지 않고 기기에서 처리할 수 있다.
- 서버와 데이터를 주고받는 시간을 줄일 수 있다.
- AI 서비스를 이용할 때 발생하는 클라우드 비용을 줄일 가능성이 있다.
- 네트워크 상황과 관계없이 빠른 응답이 가능하다.
하지만 기기 자체에서 AI를 실행하려면 CPU와 NPU의 성능뿐 아니라 메모리 속도와 전력 효율도 중요해진다.
삼성전자 역시 기존 LPDDR5X를 모바일을 넘어 PC, 서버, 자동차, 온디바이스 AI 등으로 적용 범위를 확대하고 있다. 삼성전자 공식 자료에 따르면 최신 LPDDR5X는 최대 10.7Gbps의 데이터 처리 속도를 지원하며, 저전력 특성을 기반으로 AI와 엣지 디바이스 등 다양한 영역을 겨냥하고 있다.
이번 LPDDR5X-PIM에서 관심을 끄는 부분은 실제 AI 추론 성능이다.
삼성전자가 메타의 Llama 3.1 8B 모델을 이용해 테스트한 결과 기존 LPDDR5X 환경에서 약 12.3초가 걸렸던 처리 시간이 LPDDR5X-PIM을 적용했을 때 약 5.4초 수준으로 단축됐다고 밝혔다.
단순 계산하면 처리 시간이 절반 이하로 줄어든 것이다.
초당 생성할 수 있는 토큰 수를 나타내는 TPS에서도 차이가 나타났다.
기존 환경에서는 초당 약 27개의 토큰을 처리했지만 LPDDR5X-PIM 적용 환경에서는 약 81.3개로 증가한 것으로 소개됐다.
이 수치는 단순한 메모리 속도 경쟁과는 의미가 조금 다르다.
지금까지 메모리 경쟁에서는 용량과 데이터 전송 속도가 주요 기준이었다면 PIM 기술에서는 ‘메모리가 얼마나 효율적으로 AI 연산을 지원하는가’라는 새로운 평가 기준이 추가될 수 있기 때문이다.
AI 시대에 메모리가 단순한 저장장치에서 연산 시스템의 일부로 바뀌고 있다는 의미이기도 하다.
삼성전자가 PIM 기술을 처음 시도한 것은 아니다.
삼성전자는 2021년 HBM에 연산 기능을 적용한 HBM-PIM을 공개한 바 있다. HBM은 대규모 AI 서버와 데이터센터에서 사용되는 고대역폭 메모리로 최근 AI 반도체 시장에서 가장 주목받는 메모리 가운데 하나다.
이번에는 PIM 기술을 저전력 D램인 LPDDR 영역까지 확대했다는 점에서 의미가 있다.
HBM-PIM과 LPDDR-PIM은 목표 시장에서도 차이가 있다.
HBM-PIM이 데이터센터와 고성능 컴퓨팅에 적합한 방향이라면 LPDDR5X-PIM은 스마트폰과 AI PC 등 상대적으로 전력 사용에 민감한 기기를 겨냥하고 있다.
삼성전자는 2026년 FMS에서도 LPDDR5X-PIM을 차세대 AI 메모리 솔루션 중 하나로 공개했다. 당시 삼성전자는 메모리 내부에서 연산을 수행해 데이터 이동을 최적화하고 전력 효율을 높이는 제품이라고 소개했으며, LPDDR5X-PIM은 FMS 2026에서 차세대 메모리 관련 수상도 기록했다.
이번 기술에서 또 하나 살펴볼 부분은 기존 시스템과의 호환성이다.
새로운 반도체 기술이 실제 시장에 적용되려면 단순히 성능만 좋아서는 부족하다. 스마트폰 제조사나 PC 제조사가 제품을 적용하기 위해 시스템 구조를 완전히 변경해야 한다면 도입 비용과 개발 시간이 크게 늘어날 수 있기 때문이다.
삼성전자는 LPDDR5X-PIM을 기존 LPDDR5X 시스템과 최대한 호환할 수 있도록 설계하는 방향을 선택했다.
이는 향후 PIM 기술이 상용화될 경우 스마트폰이나 AI PC 제조사가 기존 플랫폼을 크게 변경하지 않으면서 적용할 수 있는 가능성을 높여주는 요소다.
물론 LPDDR5X-PIM 성능 공개가 곧바로 스마트폰이나 노트북의 대규모 상용화를 의미하는 것은 아니다.
반도체 신기술은 실제 제품에 적용되기까지 여러 과정을 거쳐야 한다.
대표적으로 다음과 같은 조건이 필요하다.
- 스마트폰 AP 및 PC 프로세서와의 최적화
- AI 모델 및 운영체제와 연동할 수 있는 소프트웨어 환경
- 실제 제품에서의 전력 효율과 발열 검증
- 대량 생산 시 원가 경쟁력 확보
- 주요 고객사의 채택 여부
특히 PIM은 하드웨어뿐 아니라 소프트웨어 생태계가 중요하다.
일반 애플리케이션이 PIM의 연산 기능을 자동으로 활용하는 것이 아니라 개발자가 해당 구조를 효과적으로 사용할 수 있는 환경이 필요하기 때문이다.
삼성전자가 SDK와 시뮬레이터 등을 제공하며 PIM 생태계를 확대하려는 것도 이러한 이유로 볼 수 있다.
향후에는 LPDDR6-PIM도 중요한 관전 포인트가 될 가능성이 있다.
AI 모델은 지금도 빠르게 변화하고 있다. 한동안 AI 경쟁은 모델의 파라미터를 계속 확대하는 방향으로 진행됐지만 최근에는 상대적으로 작은 모델을 효율적으로 실행하는 기술 역시 중요해지고 있다.
스마트폰과 노트북에서 실행되는 소형언어모델과 멀티모달 AI가 확산된다면 모든 AI 연산을 데이터센터의 HBM과 GPU에 의존할 필요는 없다.
이 경우 AI 메모리 시장도 두 가지 방향으로 확대될 수 있다.
- 데이터센터에서는 HBM 중심의 초고성능 AI 메모리
- 스마트폰·PC·자동차에서는 LPDDR 중심의 저전력 AI 메모리
삼성전자의 메모리 전략도 이런 시장 변화와 연결돼 있다.
삼성전자는 HBM4E와 HBM5 같은 고성능 AI 메모리를 개발하는 동시에 LPDDR5X-PIM을 포함한 다양한 AI 메모리 포트폴리오를 확대하고 있다. 즉 AI 메모리 경쟁이 데이터센터용 HBM 한 분야에만 머무르는 것이 아니라 클라우드부터 엣지 디바이스까지 넓어지는 상황에 대응하는 전략으로 해석할 수 있다.
투자자 입장에서도 이번 발표를 단순히 삼성전자 신제품 하나가 공개된 것으로만 볼 필요는 없다.
AI 반도체 시장의 경쟁 축이 변화하고 있다는 점을 함께 살펴볼 필요가 있다.
현재 AI 반도체 산업에서는 GPU와 HBM이 가장 큰 관심을 받고 있지만 앞으로 온디바이스 AI가 성장하면 저전력 D램, NPU, 모바일 AP, AI PC용 프로세서 등 관련 시장이 동시에 커질 가능성이 있다.
결국 삼성전자 LPDDR5X-PIM이 보여주는 핵심은 ‘메모리의 역할 변화’다.
과거 메모리 산업의 핵심 경쟁력이 얼마나 많은 데이터를 빠르게 저장하고 전달하느냐였다면 AI 시대에는 메모리가 데이터를 저장하면서 동시에 연산 효율까지 높이는 방향으로 진화하고 있다.
이번 LPDDR5X-PIM 성능 공개는 그 변화가 데이터센터용 HBM을 넘어 우리가 매일 사용하는 스마트폰과 노트북으로 확대되고 있다는 점에서 의미가 있다.
향후 실제 스마트폰이나 AI PC에 LPDDR-PIM이 적용되고 차세대 LPDDR6-PIM까지 상용화된다면 AI 기기의 성능 경쟁도 새로운 단계로 넘어갈 가능성이 있다.
앞으로 삼성전자 LPDDR5X-PIM을 볼 때는 단순한 처리 속도 숫자보다 실제 상용화 시점, 모바일 AP와의 연동, 전력 절감 효과, 주요 스마트폰·PC 제조사의 채택 여부를 함께 확인하는 것이 중요하다. AI 시대의 메모리 경쟁이 HBM을 넘어 온디바이스 AI까지 확장되고 있다는 점에서 삼성전자의 PIM 기술은 향후 AI 반도체 시장에서 계속 주목할 만한 분야다.
