AI 칩을 위한 풀 커스텀 설계.

학습 칩은 데이터로 모델 가중치를 학습하므로 부동소수점 연산, 메모리 대역폭, 클러스터 인터커넥트가 가장 중요합니다. 추론 칩은 학습된 모델을 실행하므로 요청당 비용, 전력, 지연 시간이 가장 중요합니다.

LLM 추론 칩은 트랜스포머 모델의 토큰을 생성하는 AI 추론 칩의 한 종류입니다. 토큰당 비용과 KV 캐시를 위한 메모리 대역폭이 가장 중요합니다.

엣지·온디바이스 AI 칩은 스마트폰, PC, 안경, 카메라 같은 기기 안에서 클라우드에 의존하지 않고 모델을 실행합니다. 핵심 제약은 전력 예산, LPDDR 대역폭, 부품 원가(BOM)입니다.

NPU는 신경망 연산을 위해 만든 프로세서로, MAC 어레이와 로컬 메모리가 핵심입니다. 별도의 칩일 수도 있고 SoC 안의 블록일 수도 있습니다.

메모리 어레이 내부나 옆에서 연산해 메모리와 연산 유닛 사이에 오가는 데이터를 줄이는 칩입니다. 디지털 방식과 아날로그 방식이 있습니다.

MAC 어레이, 곱셈기, 애더 트리, 파이프라인 레지스터처럼 스위칭이 잦은 규칙적인 블록이 가장 적합합니다. 제어 로직과 인터페이스는 표준 툴 플로를 따릅니다.

라이브러리 특성화는 맞춤형 셀과 저전압 라이브러리에 정확한 모델을 제공하고, 수동 배치·배선은 MAC 어레이를 더 규칙적으로 만들고 배선을 줄입니다. 둘을 함께 쓰면 연산 코어를 더 낮은 전압에서 동작시킬 수 있습니다.

당사는 TSMC 직접 거래 고객이며, 설계 작업은 16 nm, 12 nm, 7 nm, 6 nm FinFET을 다룹니다.