Veje til en chip

Fra GPU'er til din egen ASIC.

En GPU kan køre alt, og det betaler du for i pris og strøm. Når én fastlagt arbejdsbelastning kører i stor skala, gør en chip bygget til netop den arbejdet billigere. Vi vurderer, om det holder, og designer acceleratoren, til AI-inferens og til enhver anden fastlagt beregning.

Til
Teams, hvis udgifter til GPU'er eller strømbudget bestemmes af én arbejdsbelastning: AI-inferens eller en anden beregning, der gentages i stor skala
Du leverer
Arbejdsbelastningen, som den kører på GPU'er i dag: gennemløbet, den hardware, den bruger, og hvad den koster
Du får
Først en rapport om forundersøgelsen, derefter en chip til dit produkt, specificeret, designet og sendt til tape-out
Vores resultater
Regneaccelerator-ASIC'er designet for kunder på 28 nm, 16 nm, 8 nm og 7 nm, leveret som GDS og fremstillet af kunderne; full-custom AI-chipdesign på 6 nm

Tre test afgør det

Om en arbejdsbelastning fortjener sin egen chip.

  1. Bliver arbejdsbelastningen?

    En chip lægger fast, hvad den beregner. Modellerne, operatorerne eller kernerne skal være stabile nok til at overleve designtiden, ellers skal chippen holde de rette dele programmerbare.

  2. Hvor langt foran en GPU kan en chip komme?

    Gevinsten kommer af at skære det væk, som arbejdsbelastningen aldrig bruger: smallere aritmetik, hukommelse dimensioneret efter dataene og en datavej formet efter beregningen. Jo mindre af GPU'en du bruger, desto større gevinst.

  3. Kan skalaen bære engangsomkostningen?

    Besparelsen pr. arbejdsenhed gange det arbejde, du kører i chippens levetid, skal overstige ingeniørarbejdet og maskerne.

Hvad chippen ændrer

Bygget omkring én arbejdsbelastning.

  1. Talrepræsentation

    Talformater valgt ud fra dine krav til nøjagtighed, herunder formater med reduceret præcision som INT8 og FP8.

  2. Hukommelse

    SRAM på chippen og ekstern hukommelse planlagt efter båndbredde, ikke kun efter kapacitet.

  3. Beregningsarrays

    MAC-arrays, multiplikatorer, addertræer og pipelineregistre. Det er her, full-custom-design gør størst forskel.

  4. Softwarevejen

    En plan for compiler og runtime aftalt, før RTL-arbejdet begynder, så chippen kører din arbejdsbelastning fra første dag.

Vejen

Fem trin, og det første er på papir.

  1. Forundersøgelse

    De tre test, regnet på dine tal.

  2. Arkitektur og ydeevnemodel

    En model af chippen, holdt op mod dine målte GPU-resultater.

  3. RTL og FPGA-prototype

    RTL skrevet og verificeret og afprøvet på FPGA, hvor produktet kræver det.

  4. Fysisk design

    Et flow med standardceller og full-custom-blokke, hvor de betaler sig.

  5. Tape-out og produktion

    Maskedata, overdragelsen til foundryen og derefter produktion og forsyning.

Spørgsmål om at gå fra GPU'er til en ASIC

Hvornår slår en ASIC en GPU?

Når én stabil arbejdsbelastning kører i store mængder. Så længe modellen eller algoritmen stadig ændrer sig, er GPU'er det rette værktøj. Når den har sat sig, og mængden er der, udfører en dedikeret chip det samme arbejde med mindre strøm og lavere omkostninger.

Gælder det kun AI?

Nej. Samme ræsonnement gælder for enhver beregning, der ligger fast, er tung og gentages: inferens, video- og signalbehandling, søgning, simuleringskerner. AI-inferens er det mest almindelige tilfælde i dag.

Skal vi opgive GPU'erne?

Nej. De fleste teams beholder GPU'er til udvikling og til arbejdsbelastninger, der stadig ændrer sig, og flytter den stabile del med store mængder over på chippen.

Hvilke processer designer I på?

På TSMC's FinFET-noder på 16 nm, 12 nm, 7 nm og 6 nm. Vi har direkte konto hos TSMC.

Hvem ejer designet?

Ejerskabet af designet og dets data fastlægges i kontrakten for hvert projekt.

En GPU-regning, som én arbejdsbelastning bestemmer?

Fortæl os om arbejdsbelastningen, mængden, og hvad den koster i dag.

  1. Udfyld projektformularen
  2. Vi svarer pr. e-mail inden for få arbejdsdage
  3. Onboarding: NDA, gennemgang af designet og en plan i faser

Formularen er den hurtigste vej til os. Et menneske læser hver forespørgsel.