← 목록으로
모빌리티·물류연구 결과

HCRMap: 핫 엑스퍼트 위치 맵핑을 통한 3.5D MoE 인프라 효율화

원문 발행 2026.07.13 23:05 KST블랙덱 추가 2026.11.17 06:17 KST
요약에 참고한 원문

무엇이 새로워졌나요?

핫 엑스퍼트의 위치를 동적으로 관리하여 메모리 레이어 간 균형을 유지합니다.

핵심 내용

  1. 3.5D 모에 시스템에서 핫 엑스퍼트의 불균형 활성화 문제를 해결하기 위한 HCRMap 프레임워크를 제안합니다.
  2. 핫 엑스퍼트의 로딩 비용과 실행 압력을 기반으로 동적 위치를 결정하여 메모리 및 통신 부하를 감소합니다.
  3. 프리필 및 디코딩 단계에서 하이드라, 모엔트윈, 피모에 대비해 각각 43.6%, 34.5%, 46.7%의 지연 감소를 보입니다.

내 일에 연결해 보면

3.5D 모에 시스템에서 토큰 라우팅에 따른 엑스퍼트 불균형을 해결하는 맵핑 프레임워크를 제안합니다.

아직 확인해야 할 점

논문 초록에 근거한 연구 요약입니다. 실제 적용 조건과 검증 범위는 연결된 원문에서 확인해야 합니다.

요약에 참고한 원문

아래 링크는 원문 사이트의 새 창으로 열립니다.

  1. arxivHCRMap: Pressure-Aware Hot-Expert Residency Mapping for 3.5D MoE Chiplet Inference