Reitit piiriin

GPU:ista omaan ASICiin.

GPU ajaa mitä tahansa, ja siitä maksetaan hinnassa ja tehonkulutuksessa. Kun yksi vakiintunut kuorma pyörii suuressa mittakaavassa, sitä varten rakennettu piiri tekee saman työn halvemmalla. Arvioimme, kannattaako se, ja suunnittelemme kiihdyttimen sekä tekoälyn päättelyyn että mihin tahansa muuhun vakiintuneeseen laskentaan.

Kenelle
Tiimeille, joiden GPU-kulut tai tehobudjetin määrää yksi kuorma: tekoälyn päättely tai muu suuressa mittakaavassa toistuva laskenta
Teiltä
Kuorma sellaisena kuin se nyt toimii GPU:illa: sen läpäisy, käytetty laitteisto ja kustannukset
Teille
Ensin toteutettavuusraportti, sitten tuotteellenne määritelty, suunniteltu ja tape-outiin viety piiri
Näyttömme
Asiakkaille suunnitellut laskentakiihdytin-ASICit 28 nm:n, 16 nm:n, 8 nm:n ja 7 nm:n prosesseille, toimitettuina GDS-muodossa asiakkaiden valmistettaviksi; 6 nm:n full-custom-tekoälypiirisuunnittelu

Kolme testiä ratkaisee

Ansaitseeko kuorma oman piirin.

  1. Pysyykö kuorma?

    Piiri lukitsee sen, mitä se laskee. Mallien, operaattorien tai ydinfunktioiden on oltava niin vakaita, että ne kestävät suunnitteluajan yli, tai piirin on pidettävä oikeat osat ohjelmoitavina.

  2. Kuinka paljon GPU:ta tehokkaammaksi piiri voi päästä?

    Hyöty syntyy siitä, että kaikki, mitä kuorma ei koskaan käytä, jätetään pois: aritmetiikka on kapeampi, muisti mitoitetaan datan mukaan ja datapolku muotoillaan laskennan mukaan. Mitä pienemmän osan GPU:sta käytätte, sitä suurempi hyöty.

  3. Kantaako mittakaava kertakustannuksen?

    Työyksikköä kohden saadun säästön, kerrottuna piirin elinkaaren aikana ajettavalla työllä, on oltava suurempi kuin insinöörityön ja maskien hinta.

Mitä piiri muuttaa

Suunniteltu yhtä kuormaa varten.

  1. Numeriikka

    Lukuformaatit valitaan tarkkuustavoitteidenne perusteella, myös alennetun tarkkuuden formaatit, kuten INT8 ja FP8.

  2. Muisti

    Sirulla oleva SRAM ja ulkoinen muisti suunnitellaan kaistanleveyden eikä pelkän kapasiteetin mukaan.

  3. Laskentamatriisit

    MAC-matriisit, kertojat, summainpuut ja liukuhihnarekisterit, eli juuri ne kohdat, joissa full-custom-suunnittelusta on eniten hyötyä.

  4. Ohjelmistopolku

    Kääntäjä- ja ajoympäristösuunnitelma sovitaan ennen RTL-työn alkua, jotta piiri ajaa kuormaanne ensimmäisestä päivästä lähtien.

Reitti

Viisi vaihetta, joista ensimmäinen paperilla.

  1. Toteutettavuusselvitys

    Kolme testiä teidän luvuillanne.

  2. Arkkitehtuuri ja suorituskykymalli

    Piirin malli, jota verrataan mitattuihin GPU-tuloksiinne.

  3. RTL ja FPGA-prototyyppi

    RTL kirjoitetaan ja verifioidaan sekä todennetaan FPGA:lla, jos tuote sitä edellyttää.

  4. Fyysinen suunnittelu

    Standardisoluvuo ja full-custom-lohkot siellä, missä ne kannattavat.

  5. Tape-out ja tuotanto

    Maskidata, luovutus sopimusvalmistajalle, sitten tuotanto ja toimitukset.

Kysymyksiä siirtymisestä GPU:ista ASICiin

Milloin ASIC voittaa GPU:n?

Kun yksi vakaa kuorma pyörii suurella volyymilla. Niin kauan kuin malli tai algoritmi vielä muuttuu, GPU:t ovat oikea työkalu; kun se vakiintuu ja volyymi on olemassa, oma piiri tekee saman työn pienemmällä tehonkulutuksella ja hinnalla.

Koskeeko tämä vain tekoälyä?

Ei. Sama ajatus pätee mihin tahansa laskentaan, joka on vakiintunut, raskas ja toistuva: päättelyyn, video- ja signaalinkäsittelyyn, hakuun ja simulointiytimiin. Tekoälyn päättely on nykyään yleisin tapaus.

Pitääkö GPU:ista luopua?

Ei. Useimmat tiimit pitävät GPU:t kehityskäytössä ja vielä muuttuvia kuormia varten ja siirtävät vakaan, suurivolyymisen osan piirille.

Millä prosesseilla suunnittelette?

TSMC:n FinFET-solmuilla 16 nm, 12 nm, 7 nm ja 6 nm. Olemme TSMC Direct Account -asiakas.

Kuka omistaa suunnitelman?

Suunnitelman ja sen aineiston omistuksesta sovitaan kunkin projektin sopimuksessa.

Määrääkö yksi kuorma GPU-laskunne?

Kertokaa kuorma, sen volyymi ja mitä se nyt maksaa.

  1. Täyttäkää projektilomake
  2. Vastaamme sähköpostitse muutaman työpäivän kuluessa
  3. Aloitusjakso: NDA, suunnittelun katselmointi ja vaiheistettu suunnitelma

Lomake on nopein tapa tavoittaa meidät. Jokaisen pyynnön lukee ihminen.