Wegen naar een chip

Van GPU's naar uw eigen ASIC.

Een GPU draait alles, en dat betaalt u in prijs en vermogen. Draait één uitgekristalliseerde workload in groot volume, dan doet een chip die ervoor gebouwd is het werk goedkoper. We beoordelen de businesscase en ontwerpen de accelerator, voor AI-inferentie en voor elke andere berekening die vastligt.

Voor
Teams van wie de GPU-uitgaven of het vermogensbudget door één workload worden bepaald: AI-inferentie, of een andere berekening die heel vaak wordt herhaald
U levert
De workload zoals die nu op GPU's draait: de doorvoer, de hardware die hij gebruikt en wat hij kost
U ontvangt
Eerst een haalbaarheidsrapport, daarna een chip die voor uw product is gespecificeerd, ontworpen en naar tape-out gebracht
Onze staat van dienst
Rekenaccelerator-ASIC's, voor klanten ontworpen op 28 nm, 16 nm, 8 nm en 7 nm, opgeleverd als GDS en door de klanten gebouwd; full-customontwerp van AI-chips op 6 nm

Drie toetsen beslissen

Of een workload een eigen chip verdient.

  1. Blijft de workload zoals hij is?

    Een chip legt vast wat hij berekent. De modellen, operatoren of kernels moeten stabiel genoeg zijn om de ontwerptijd te overleven, of de chip moet de juiste delen programmeerbaar houden.

  2. Hoeveel voorsprong kan een chip op een GPU halen?

    De winst komt uit het weglaten van wat de workload nooit gebruikt: smallere rekenkunde, geheugen dat bij de data past, en een datapad dat de vorm van de berekening volgt. Hoe minder u van de GPU gebruikt, hoe groter de winst.

  3. Kan het volume de eenmalige kosten dragen?

    De besparing per eenheid werk, vermenigvuldigd met het werk dat u over de levensduur van de chip draait, moet hoger zijn dan de engineering en de maskers.

Wat de chip verandert

Gebouwd rond één workload.

  1. Getalrepresentatie

    Getalformaten gekozen op basis van uw nauwkeurigheidsdoelen, ook formaten met lagere precisie zoals INT8 en FP8.

  2. Geheugen

    SRAM op de chip en extern geheugen, gepland rond de bandbreedte en niet alleen rond de capaciteit.

  3. Rekenarrays

    MAC-arrays, vermenigvuldigers, optellerbomen en pipelineregisters: daar levert full-customontwerp het meest op.

  4. Softwarepad

    Een plan voor compiler en runtime, afgesproken voordat de RTL begint, zodat de chip uw workload vanaf de eerste dag draait.

De route

Vijf stappen, de eerste op papier.

  1. Haalbaarheidsstudie

    De drie toetsen, met uw cijfers.

  2. Architectuur en prestatiemodel

    Een model van de chip, getoetst aan uw gemeten GPU-resultaten.

  3. RTL en FPGA-prototype

    RTL geschreven en geverifieerd, en op FPGA aangetoond als het product daarom vraagt.

  4. Fysiek ontwerp

    Een standaardcelflow, met full-customblokken waar die lonen.

  5. Tape-out en productie

    Maskerdata, de overdracht aan de foundry, daarna productie en levering.

Vragen over de overstap van GPU's naar een ASIC

Wanneer wint een ASIC het van een GPU?

Als één stabiele workload in grote aantallen draait. Zolang het model of het algoritme nog verandert, zijn GPU's het juiste gereedschap. Ligt het eenmaal vast en is het volume er, dan doet een eigen chip hetzelfde werk met minder vermogen en tegen lagere kosten.

Is dit alleen voor AI?

Nee. Dezelfde redenering geldt voor elke berekening die vastligt, zwaar is en vaak terugkomt: inferentie, video- en signaalverwerking, zoeken, simulatiekernels. AI-inferentie is op dit moment het meest voorkomende geval.

Moeten we GPU's opgeven?

Nee. De meeste teams houden GPU's voor ontwikkeling en voor workloads die nog veranderen, en brengen het stabiele deel met het grote volume naar de chip.

Op welke processen ontwerpt u?

Op TSMC FinFET-nodes van 16 nm, 12 nm, 7 nm en 6 nm. We zijn een directe klant van TSMC.

Wie is eigenaar van het ontwerp?

Het eigendom van het ontwerp en de data legt het contract per project vast.

Een GPU-rekening die door één workload wordt bepaald?

Vertel ons de workload, het volume en wat het nu kost.

  1. Vul het projectformulier in
  2. We antwoorden binnen enkele werkdagen per e-mail
  3. Onboarding: NDA, ontwerpreview en een plan in fasen

Het formulier is de snelste manier om ons te bereiken. Een medewerker leest elke aanvraag.