Percorsi verso un chip
Dalle GPU a un ASIC tutto suo.
Una GPU esegue qualsiasi cosa, e questa versatilità si paga in prezzo e in consumi; quando un unico carico di lavoro consolidato gira a volumi elevati, un chip costruito apposta fa lo stesso lavoro spendendo meno. Valutiamo il caso e progettiamo l'acceleratore, per l'inferenza AI e per qualsiasi altro calcolo consolidato.
- Per chi
- Team la cui spesa in GPU o il cui budget di potenza dipende da un solo carico di lavoro: inferenza AI, o un altro calcolo ripetuto in grandi quantità
- Che cosa ci fornisce
- Il carico di lavoro come gira oggi su GPU: throughput, hardware impiegato e quanto costa
- Che cosa riceve
- Prima un report di fattibilità, poi un chip specificato, progettato e portato al tape-out per il suo prodotto
- La nostra esperienza
- ASIC acceleratori di calcolo progettati per clienti a 28 nm, 16 nm, 8 nm e 7 nm, consegnati come GDS e realizzati dai clienti; progettazione full-custom di chip AI a 6 nm
Decidono tre criteri
Se un carico di lavoro merita un chip proprio.
Il carico di lavoro resterà stabile?
Un chip fissa ciò che calcola. Modelli, operatori o kernel devono essere abbastanza stabili da durare più del tempo di progettazione, altrimenti il chip deve mantenere programmabili le parti giuste.
Di quanto un chip può superare una GPU?
Il guadagno nasce dall'eliminare ciò che il carico di lavoro non usa mai: aritmetica con meno bit, memoria dimensionata sui dati e un datapath modellato sul calcolo. Meno risorse della GPU si usano, più grande è il guadagno.
I volumi assorbono il costo una tantum?
Il risparmio per unità di lavoro, moltiplicato per il lavoro che eseguirà nell'arco di vita del chip, deve superare il costo di ingegneria e delle maschere.
Che cosa cambia con il chip
Costruito attorno a un solo carico di lavoro.
Aritmetica
Formati numerici scelti in base ai suoi obiettivi di accuratezza, compresi formati a precisione ridotta come INT8 e FP8.
Memoria
SRAM on-chip e memoria esterna pianificate in funzione della banda, e non solo della capacità.
Array di calcolo
Array MAC, moltiplicatori, alberi di sommatori e registri di pipeline: è qui che la progettazione full-custom rende di più.
Software
Un piano per compilatore e runtime concordato prima che inizi l'RTL, così il chip esegue il suo carico di lavoro fin dal primo giorno.
Il percorso
Cinque fasi, e la prima si fa sulla carta.
Studio di fattibilità
I tre criteri, applicati ai suoi numeri.
Architettura e modello prestazionale
Un modello del chip, confrontato con i risultati che ha misurato sulle GPU.
RTL e prototipo su FPGA
RTL scritto e verificato, e messo alla prova su FPGA se il prodotto lo richiede.
Progettazione fisica
Un flusso a celle standard, con blocchi full-custom dove si ripagano.
Tape-out e produzione
Dati delle maschere, consegna alla fonderia, poi produzione e fornitura.
Domande sul passaggio dalle GPU a un ASIC
Quando un ASIC batte una GPU?
Quando un carico di lavoro stabile gira a volumi elevati. Finché il modello o l'algoritmo cambia, le GPU sono lo strumento giusto; quando si stabilizza e i volumi ci sono, un chip dedicato fa lo stesso lavoro con meno consumi e costi più bassi.
Vale solo per l'AI?
No. Lo stesso ragionamento vale per qualsiasi calcolo stabile, pesante e ripetuto: inferenza, elaborazione video e dei segnali, ricerca, kernel di simulazione. Oggi il caso più frequente è l'inferenza AI.
Dobbiamo rinunciare alle GPU?
No. La maggior parte dei team tiene le GPU per lo sviluppo e per i carichi di lavoro che cambiano ancora, e sposta sul chip la parte stabile e ad alto volume.
Su quali processi progettate?
Sui nodi FinFET di TSMC a 16 nm, 12 nm, 7 nm e 6 nm. Siamo cliente diretto di TSMC.
Di chi è il progetto?
La proprietà del progetto e dei suoi dati è stabilita nel contratto di ciascun progetto.
Pagine correlate
Una spesa in GPU dettata da un solo carico di lavoro?
Ci indichi il carico di lavoro, i volumi e quanto costa oggi.
- Compilare il modulo di progetto
- Rispondiamo via email entro pochi giorni lavorativi
- Onboarding: NDA, revisione del progetto e piano per fasi
Il modulo è il modo più rapido per contattarci. Ogni richiesta viene letta da una persona.