← 목록으로
반도체·컴퓨팅연구 결과

Sangam: PIM 기반 DRAM 가속기, LLM 추론 최적화

원문 발행 2025.11.16 01:39 KST블랙덱 추가 2026.11.19 03:07 KST
요약에 참고한 원문

무엇이 새로워졌나요?

논리 및 메모리 기능을 차량 기술 노드에서 분리하여 통합한 chiplet 기반 구조를 제안합니다.

핵심 내용

  1. LLM 추론이 메모리 제약으로 인해 데이터 집약적 성격을 갖추고 있습니다.
  2. 해당 과정은 메모리 기반 GEMV 및 GEMM 연산에 의해 주도되며 PIM 기술에 적합합니다.
  3. Sangam은 CXL을 통한 PIM 기반 chiplet 기반 메모리 모듈로, GPU와 함께 실행 가능하며 성능 향상 효과를 보입니다.

내 일에 연결해 보면

DRAM 내부에 처리 요소를 통합하는 데 따른 면적 비용과 제작 기술 제약을 극복합니다.

아직 확인해야 할 점

논문 초록에 근거한 연구 요약입니다. 실제 적용 조건과 검증 범위는 연결된 원문에서 확인해야 합니다.

요약에 참고한 원문

아래 링크는 원문 사이트의 새 창으로 열립니다.

  1. arxivSangam: Chiplet-Based DRAM-PIM Accelerator with CXL Integration for LLM Inferencing