AI·소프트웨어연구 결과
Compass · 컴пас: LLM 인프라 동적 특성과 하드웨어 간 공동 탐색 프레임워크
원문 발행 2025.12.06 04:03 KST블랙덱 추가 2026.11.18 16:56 KST
무엇이 새로워졌나요?
계산 실행 그래프 기반 맵핑을 통해 미세 배치와 레이어 차원을 분리하여 하이브리드 칩릿에서 세부 실행 제어를 가능하게 합니다.
핵심 내용
- LLM의 대규모 계산 요구는 다중 칩릿 가속기의 통합 리소스를 요구합니다.
- 기존 설계 탐색은 CNN/Transformer 작업에 집중되어 LLM 인프라의 동적 특성에 부족합니다.
- 컴пас는 맵핑 전략과 하드웨어 설계를 공동 탐색하여 동적 LLM 작업에 최적화합니다.
내 일에 연결해 보면
LLM 인프라의 동적 특성에 맞춘 맵핑 및 하드웨어 설계를 공동 탐색하는 프레임워크를 제안합니다.
아직 확인해야 할 점
논문 초록에 근거한 연구 요약입니다. 실제 적용 조건과 검증 범위는 연결된 원문에서 확인해야 합니다.
요약에 참고한 원문
아래 링크는 원문 사이트의 새 창으로 열립니다.