Caminhos para um chip

Das GPU ao seu próprio ASIC.

Uma GPU corre qualquer coisa, e isso paga-se em preço e em consumo; quando uma carga de trabalho estabilizada corre em grande escala, um chip construído para ela faz o trabalho por menos. Avaliamos o caso e concebemos o acelerador, para inferência de IA e para qualquer outra computação estabilizada.

Para quem
Equipas cujo gasto em GPU ou orçamento de consumo é determinado por uma única carga de trabalho: inferência de IA, ou outra computação repetida em grande escala
O que nos entrega
A carga de trabalho tal como corre hoje em GPU: o débito, o hardware que usa e quanto custa
O que recebe
Primeiro um relatório de viabilidade, depois um chip especificado, concebido e com tape-out feito para o seu produto
O nosso historial
ASIC aceleradores de computação concebidos para clientes em 28 nm, 16 nm, 8 nm e 7 nm, entregues em GDS e fabricados pelos clientes; design full-custom de chips de IA em 6 nm

Três testes decidem

Se uma carga de trabalho merece um chip próprio.

  1. A carga de trabalho vai manter-se?

    Um chip fixa aquilo que calcula. Os modelos, operadores ou kernels têm de ser estáveis o suficiente para durarem mais do que o tempo de design, ou o chip tem de manter programáveis as partes certas.

  2. Até onde pode um chip ir além de uma GPU?

    O ganho vem de deixar de fora o que a carga de trabalho nunca usa: aritmética mais estreita, memória à medida dos dados e um caminho de dados moldado à computação. Quanto menos da GPU usar, maior o ganho.

  3. A escala suporta o custo único?

    A poupança por unidade de trabalho, multiplicada pelo trabalho que vai executar ao longo da vida do chip, tem de ultrapassar a engenharia e as máscaras.

O que o chip muda

Construído em torno de uma carga de trabalho.

  1. Representação numérica

    Formatos numéricos escolhidos face aos seus objetivos de exatidão, incluindo formatos de precisão reduzida como INT8 e FP8.

  2. Memória

    SRAM no chip e memória externa planeadas em função da largura de banda, e não apenas da capacidade.

  3. Matrizes de computação

    Matrizes MAC, multiplicadores, árvores de somadores e registos de pipeline, que é onde o design full-custom mais rende.

  4. O lado do software

    Um plano de compilador e de runtime acordado antes de o RTL começar, para que o chip execute a sua carga de trabalho desde o primeiro dia.

O percurso

Cinco passos, o primeiro deles no papel.

  1. Estudo de viabilidade

    Os três testes, com os seus números.

  2. Arquitetura e modelo de desempenho

    Um modelo do chip, confrontado com os resultados que mediu nas GPU.

  3. RTL e protótipo em FPGA

    RTL escrito e verificado, e validado em FPGA quando o produto o exige.

  4. Design físico

    Um fluxo de células-padrão, com blocos full-custom onde compensam.

  5. Tape-out e produção

    Dados de máscara, entrega à fundição, e depois produção e abastecimento.

Perguntas sobre a passagem de GPU para ASIC

Quando é que um ASIC supera uma GPU?

Quando uma carga de trabalho estável corre em grandes volumes. Enquanto o modelo ou o algoritmo ainda está a mudar, as GPU são a ferramenta certa; quando estabiliza e há volume, um chip dedicado faz o mesmo trabalho com menos consumo e menos custo.

Isto é só para IA?

Não. O mesmo raciocínio aplica-se a qualquer computação fixa, pesada e repetida: inferência, processamento de vídeo e de sinal, pesquisa, kernels de simulação. A inferência de IA é hoje o caso mais comum.

Temos de abandonar as GPU?

Não. A maior parte das equipas mantém as GPU para desenvolvimento e para as cargas de trabalho que ainda mudam, e passa para o chip a parte estável e de grande volume.

Em que processos fazem design?

Em nós FinFET da TSMC de 16 nm, 12 nm, 7 nm e 6 nm. Somos cliente direto da TSMC (Direct Account).

A quem pertence o design?

A propriedade do design e dos respetivos dados fica definida no contrato de cada projeto.

A fatura das GPU depende de uma só carga de trabalho?

Fale-nos da carga de trabalho, do seu volume e de quanto custa hoje.

  1. Preencha o formulário de projeto
  2. Respondemos por e-mail no prazo de alguns dias úteis
  3. Onboarding: NDA, revisão do design e um plano por etapas

O formulário é a forma mais rápida de nos contactar. Cada pedido é lido por uma pessoa.