Caminhos para um chip
Das GPU ao seu próprio ASIC.
Uma GPU corre qualquer coisa, e isso paga-se em preço e em consumo; quando uma carga de trabalho estabilizada corre em grande escala, um chip construído para ela faz o trabalho por menos. Avaliamos o caso e concebemos o acelerador, para inferência de IA e para qualquer outra computação estabilizada.
- Para quem
- Equipas cujo gasto em GPU ou orçamento de consumo é determinado por uma única carga de trabalho: inferência de IA, ou outra computação repetida em grande escala
- O que nos entrega
- A carga de trabalho tal como corre hoje em GPU: o débito, o hardware que usa e quanto custa
- O que recebe
- Primeiro um relatório de viabilidade, depois um chip especificado, concebido e com tape-out feito para o seu produto
- O nosso historial
- ASIC aceleradores de computação concebidos para clientes em 28 nm, 16 nm, 8 nm e 7 nm, entregues em GDS e fabricados pelos clientes; design full-custom de chips de IA em 6 nm
Três testes decidem
Se uma carga de trabalho merece um chip próprio.
A carga de trabalho vai manter-se?
Um chip fixa aquilo que calcula. Os modelos, operadores ou kernels têm de ser estáveis o suficiente para durarem mais do que o tempo de design, ou o chip tem de manter programáveis as partes certas.
Até onde pode um chip ir além de uma GPU?
O ganho vem de deixar de fora o que a carga de trabalho nunca usa: aritmética mais estreita, memória à medida dos dados e um caminho de dados moldado à computação. Quanto menos da GPU usar, maior o ganho.
A escala suporta o custo único?
A poupança por unidade de trabalho, multiplicada pelo trabalho que vai executar ao longo da vida do chip, tem de ultrapassar a engenharia e as máscaras.
O que o chip muda
Construído em torno de uma carga de trabalho.
Representação numérica
Formatos numéricos escolhidos face aos seus objetivos de exatidão, incluindo formatos de precisão reduzida como INT8 e FP8.
Memória
SRAM no chip e memória externa planeadas em função da largura de banda, e não apenas da capacidade.
Matrizes de computação
Matrizes MAC, multiplicadores, árvores de somadores e registos de pipeline, que é onde o design full-custom mais rende.
O lado do software
Um plano de compilador e de runtime acordado antes de o RTL começar, para que o chip execute a sua carga de trabalho desde o primeiro dia.
O percurso
Cinco passos, o primeiro deles no papel.
Estudo de viabilidade
Os três testes, com os seus números.
Arquitetura e modelo de desempenho
Um modelo do chip, confrontado com os resultados que mediu nas GPU.
RTL e protótipo em FPGA
RTL escrito e verificado, e validado em FPGA quando o produto o exige.
Design físico
Um fluxo de células-padrão, com blocos full-custom onde compensam.
Tape-out e produção
Dados de máscara, entrega à fundição, e depois produção e abastecimento.
Perguntas sobre a passagem de GPU para ASIC
Quando é que um ASIC supera uma GPU?
Quando uma carga de trabalho estável corre em grandes volumes. Enquanto o modelo ou o algoritmo ainda está a mudar, as GPU são a ferramenta certa; quando estabiliza e há volume, um chip dedicado faz o mesmo trabalho com menos consumo e menos custo.
Isto é só para IA?
Não. O mesmo raciocínio aplica-se a qualquer computação fixa, pesada e repetida: inferência, processamento de vídeo e de sinal, pesquisa, kernels de simulação. A inferência de IA é hoje o caso mais comum.
Temos de abandonar as GPU?
Não. A maior parte das equipas mantém as GPU para desenvolvimento e para as cargas de trabalho que ainda mudam, e passa para o chip a parte estável e de grande volume.
Em que processos fazem design?
Em nós FinFET da TSMC de 16 nm, 12 nm, 7 nm e 6 nm. Somos cliente direto da TSMC (Direct Account).
A quem pertence o design?
A propriedade do design e dos respetivos dados fica definida no contrato de cada projeto.
Páginas relacionadas
A fatura das GPU depende de uma só carga de trabalho?
Fale-nos da carga de trabalho, do seu volume e de quanto custa hoje.
- Preencha o formulário de projeto
- Respondemos por e-mail no prazo de alguns dias úteis
- Onboarding: NDA, revisão do design e um plano por etapas
O formulário é a forma mais rápida de nos contactar. Cada pedido é lido por uma pessoa.