← 목록으로
AI·소프트웨어연구 결과

Compass · 컴пас: LLM 인프라 동적 특성과 하드웨어 간 공동 탐색 프레임워크

원문 발행 2025.12.06 04:03 KST블랙덱 추가 2026.11.18 16:56 KST
요약에 참고한 원문

무엇이 새로워졌나요?

계산 실행 그래프 기반 맵핑을 통해 미세 배치와 레이어 차원을 분리하여 하이브리드 칩릿에서 세부 실행 제어를 가능하게 합니다.

핵심 내용

  1. LLM의 대규모 계산 요구는 다중 칩릿 가속기의 통합 리소스를 요구합니다.
  2. 기존 설계 탐색은 CNN/Transformer 작업에 집중되어 LLM 인프라의 동적 특성에 부족합니다.
  3. 컴пас는 맵핑 전략과 하드웨어 설계를 공동 탐색하여 동적 LLM 작업에 최적화합니다.

내 일에 연결해 보면

LLM 인프라의 동적 특성에 맞춘 맵핑 및 하드웨어 설계를 공동 탐색하는 프레임워크를 제안합니다.

아직 확인해야 할 점

논문 초록에 근거한 연구 요약입니다. 실제 적용 조건과 검증 범위는 연결된 원문에서 확인해야 합니다.

요약에 참고한 원문

아래 링크는 원문 사이트의 새 창으로 열립니다.

  1. arxivCompass: Co-Exploration of Mapping and Hardware for Heterogeneous Multi-Chiplet Accelerators Targeting LLM Inference Service Workloads