칩으로 가는 길
GPU에서 자체 ASIC으로.
GPU는 무엇이든 돌리지만, 그 대가를 가격과 전력으로 치릅니다. 안정된 워크로드 하나가 대규모로 돌아간다면, 그 일만을 위해 만든 칩이 더 적은 비용으로 같은 일을 합니다. 당사는 그 타당성을 평가하고 가속기를 설계합니다. AI 추론이든, 형태가 굳은 다른 연산이든 마찬가지입니다.
- 대상
- GPU 지출이나 전력 예산을 워크로드 하나가 좌우하는 팀. AI 추론, 또는 대규모로 반복되는 다른 연산
- 준비하실 자료
- 지금 GPU에서 돌아가는 그대로의 워크로드. 처리량, 사용하는 하드웨어, 비용
- 받으시는 결과물
- 먼저 타당성 보고서, 이어서 고객 제품을 위해 사양을 정하고 설계해 테이프아웃까지 마친 칩
- 당사 실적
- 고객사를 위해 28 nm, 16 nm, 8 nm, 7 nm에서 설계해 GDS로 납품하고 고객사가 제조한 연산 가속 ASIC. 6 nm AI 풀 커스텀 칩 설계
세 가지 기준
워크로드가 전용 칩을 만들 만한가.
워크로드가 그대로 유지될까?
칩은 연산 내용을 고정합니다. 모델, 연산자, 커널이 설계 기간보다 오래 버틸 만큼 안정적이어야 하고, 그렇지 않다면 칩에서 필요한 부분을 프로그래머블로 남겨야 합니다.
칩이 GPU를 얼마나 앞설 수 있을까?
이득은 워크로드가 쓰지 않는 것을 덜어 내는 데서 나옵니다. 더 좁은 연산 폭, 데이터에 맞춘 메모리, 연산에 맞게 짠 데이터패스. GPU에서 쓰는 부분이 적을수록 이득이 커집니다.
규모가 일회성 비용을 감당할까?
작업 단위당 절감액에 칩 수명 동안 돌릴 작업량을 곱한 값이 엔지니어링과 마스크 비용을 넘어야 합니다.
칩으로 달라지는 점
워크로드 하나를 중심에 둔 설계.
수치 표현
정확도 목표에 맞춰 수 형식을 고릅니다. INT8, FP8 같은 저정밀도 형식도 포함합니다.
메모리
온칩 SRAM과 외부 메모리를 용량만이 아니라 대역폭을 기준으로 계획합니다.
연산 어레이
MAC 어레이, 곱셈기, 애더 트리, 파이프라인 레지스터. 풀 커스텀 설계의 효과가 가장 큰 곳입니다.
소프트웨어 경로
컴파일러와 런타임 계획을 RTL 착수 전에 합의해, 칩이 첫날부터 고객의 워크로드를 돌리게 합니다.
경로
다섯 단계, 그 첫 단계는 서류 위에서.
타당성 검토
고객의 수치로 세 가지 기준을 따져 봅니다.
아키텍처와 성능 모델
칩의 모델을 만들어, 실측한 GPU 결과와 대조합니다.
RTL과 FPGA 시제품
RTL을 작성하고 검증하며, 제품에 필요하면 FPGA에서 확인합니다.
물리 설계
표준 셀 플로를 기본으로, 효과가 있는 곳에는 풀 커스텀 블록을 씁니다.
테이프아웃과 생산
마스크 데이터와 파운드리 인계, 이어서 생산과 공급.
GPU에서 ASIC으로 옮기는 일에 관한 질문
ASIC은 언제 GPU보다 낫습니까?
안정된 워크로드 하나가 많은 물량으로 돌아갈 때입니다. 모델이나 알고리즘이 아직 바뀌는 동안에는 GPU가 맞는 도구입니다. 그것이 자리를 잡고 물량이 받쳐 주면, 전용 칩이 더 적은 전력과 비용으로 같은 일을 합니다.
AI에만 해당합니까?
아닙니다. 고정되어 있고, 무겁고, 반복되는 연산이라면 같은 논리가 통합니다. 추론, 영상·신호 처리, 검색, 시뮬레이션 커널 등입니다. 지금 가장 흔한 경우는 AI 추론입니다.
GPU를 포기해야 합니까?
아닙니다. 대부분의 팀은 개발과 아직 바뀌는 워크로드에는 GPU를 계속 쓰고, 안정되고 물량이 많은 부분만 칩으로 옮깁니다.
어떤 공정에서 설계합니까?
TSMC FinFET 16 nm, 12 nm, 7 nm, 6 nm 노드에서 설계합니다. 당사는 TSMC 직접 거래 고객입니다.
설계의 소유권은 누구에게 있습니까?
설계와 데이터의 소유권은 프로젝트별 계약에서 정합니다.
관련 페이지
GPU 비용을 워크로드 하나가 좌우합니까?
워크로드, 물량, 지금 드는 비용을 알려 주십시오.
- 프로젝트 문의 양식 작성
- 영업일 기준 며칠 이내에 이메일로 답변
- 온보딩: NDA, 설계 리뷰, 단계별 계획
가장 빠르게 연락하실 수 있는 방법은 양식입니다. 모든 요청을 담당자가 직접 읽습니다.