Percorsi verso un chip

Dalle GPU a un ASIC tutto suo.

Una GPU esegue qualsiasi cosa, e questa versatilità si paga in prezzo e in consumi; quando un unico carico di lavoro consolidato gira a volumi elevati, un chip costruito apposta fa lo stesso lavoro spendendo meno. Valutiamo il caso e progettiamo l'acceleratore, per l'inferenza AI e per qualsiasi altro calcolo consolidato.

Per chi
Team la cui spesa in GPU o il cui budget di potenza dipende da un solo carico di lavoro: inferenza AI, o un altro calcolo ripetuto in grandi quantità
Che cosa ci fornisce
Il carico di lavoro come gira oggi su GPU: throughput, hardware impiegato e quanto costa
Che cosa riceve
Prima un report di fattibilità, poi un chip specificato, progettato e portato al tape-out per il suo prodotto
La nostra esperienza
ASIC acceleratori di calcolo progettati per clienti a 28 nm, 16 nm, 8 nm e 7 nm, consegnati come GDS e realizzati dai clienti; progettazione full-custom di chip AI a 6 nm

Decidono tre criteri

Se un carico di lavoro merita un chip proprio.

  1. Il carico di lavoro resterà stabile?

    Un chip fissa ciò che calcola. Modelli, operatori o kernel devono essere abbastanza stabili da durare più del tempo di progettazione, altrimenti il chip deve mantenere programmabili le parti giuste.

  2. Di quanto un chip può superare una GPU?

    Il guadagno nasce dall'eliminare ciò che il carico di lavoro non usa mai: aritmetica con meno bit, memoria dimensionata sui dati e un datapath modellato sul calcolo. Meno risorse della GPU si usano, più grande è il guadagno.

  3. I volumi assorbono il costo una tantum?

    Il risparmio per unità di lavoro, moltiplicato per il lavoro che eseguirà nell'arco di vita del chip, deve superare il costo di ingegneria e delle maschere.

Che cosa cambia con il chip

Costruito attorno a un solo carico di lavoro.

  1. Aritmetica

    Formati numerici scelti in base ai suoi obiettivi di accuratezza, compresi formati a precisione ridotta come INT8 e FP8.

  2. Memoria

    SRAM on-chip e memoria esterna pianificate in funzione della banda, e non solo della capacità.

  3. Array di calcolo

    Array MAC, moltiplicatori, alberi di sommatori e registri di pipeline: è qui che la progettazione full-custom rende di più.

  4. Software

    Un piano per compilatore e runtime concordato prima che inizi l'RTL, così il chip esegue il suo carico di lavoro fin dal primo giorno.

Il percorso

Cinque fasi, e la prima si fa sulla carta.

  1. Studio di fattibilità

    I tre criteri, applicati ai suoi numeri.

  2. Architettura e modello prestazionale

    Un modello del chip, confrontato con i risultati che ha misurato sulle GPU.

  3. RTL e prototipo su FPGA

    RTL scritto e verificato, e messo alla prova su FPGA se il prodotto lo richiede.

  4. Progettazione fisica

    Un flusso a celle standard, con blocchi full-custom dove si ripagano.

  5. Tape-out e produzione

    Dati delle maschere, consegna alla fonderia, poi produzione e fornitura.

Domande sul passaggio dalle GPU a un ASIC

Quando un ASIC batte una GPU?

Quando un carico di lavoro stabile gira a volumi elevati. Finché il modello o l'algoritmo cambia, le GPU sono lo strumento giusto; quando si stabilizza e i volumi ci sono, un chip dedicato fa lo stesso lavoro con meno consumi e costi più bassi.

Vale solo per l'AI?

No. Lo stesso ragionamento vale per qualsiasi calcolo stabile, pesante e ripetuto: inferenza, elaborazione video e dei segnali, ricerca, kernel di simulazione. Oggi il caso più frequente è l'inferenza AI.

Dobbiamo rinunciare alle GPU?

No. La maggior parte dei team tiene le GPU per lo sviluppo e per i carichi di lavoro che cambiano ancora, e sposta sul chip la parte stabile e ad alto volume.

Su quali processi progettate?

Sui nodi FinFET di TSMC a 16 nm, 12 nm, 7 nm e 6 nm. Siamo cliente diretto di TSMC.

Di chi è il progetto?

La proprietà del progetto e dei suoi dati è stabilita nel contratto di ciascun progetto.

Una spesa in GPU dettata da un solo carico di lavoro?

Ci indichi il carico di lavoro, i volumi e quanto costa oggi.

  1. Compilare il modulo di progetto
  2. Rispondiamo via email entro pochi giorni lavorativi
  3. Onboarding: NDA, revisione del progetto e piano per fasi

Il modulo è il modo più rapido per contattarci. Ogni richiesta viene letta da una persona.