Reitit piiriin
GPU:ista omaan ASICiin.
GPU ajaa mitä tahansa, ja siitä maksetaan hinnassa ja tehonkulutuksessa. Kun yksi vakiintunut kuorma pyörii suuressa mittakaavassa, sitä varten rakennettu piiri tekee saman työn halvemmalla. Arvioimme, kannattaako se, ja suunnittelemme kiihdyttimen sekä tekoälyn päättelyyn että mihin tahansa muuhun vakiintuneeseen laskentaan.
- Kenelle
- Tiimeille, joiden GPU-kulut tai tehobudjetin määrää yksi kuorma: tekoälyn päättely tai muu suuressa mittakaavassa toistuva laskenta
- Teiltä
- Kuorma sellaisena kuin se nyt toimii GPU:illa: sen läpäisy, käytetty laitteisto ja kustannukset
- Teille
- Ensin toteutettavuusraportti, sitten tuotteellenne määritelty, suunniteltu ja tape-outiin viety piiri
- Näyttömme
- Asiakkaille suunnitellut laskentakiihdytin-ASICit 28 nm:n, 16 nm:n, 8 nm:n ja 7 nm:n prosesseille, toimitettuina GDS-muodossa asiakkaiden valmistettaviksi; 6 nm:n full-custom-tekoälypiirisuunnittelu
Kolme testiä ratkaisee
Ansaitseeko kuorma oman piirin.
Pysyykö kuorma?
Piiri lukitsee sen, mitä se laskee. Mallien, operaattorien tai ydinfunktioiden on oltava niin vakaita, että ne kestävät suunnitteluajan yli, tai piirin on pidettävä oikeat osat ohjelmoitavina.
Kuinka paljon GPU:ta tehokkaammaksi piiri voi päästä?
Hyöty syntyy siitä, että kaikki, mitä kuorma ei koskaan käytä, jätetään pois: aritmetiikka on kapeampi, muisti mitoitetaan datan mukaan ja datapolku muotoillaan laskennan mukaan. Mitä pienemmän osan GPU:sta käytätte, sitä suurempi hyöty.
Kantaako mittakaava kertakustannuksen?
Työyksikköä kohden saadun säästön, kerrottuna piirin elinkaaren aikana ajettavalla työllä, on oltava suurempi kuin insinöörityön ja maskien hinta.
Mitä piiri muuttaa
Suunniteltu yhtä kuormaa varten.
Numeriikka
Lukuformaatit valitaan tarkkuustavoitteidenne perusteella, myös alennetun tarkkuuden formaatit, kuten INT8 ja FP8.
Muisti
Sirulla oleva SRAM ja ulkoinen muisti suunnitellaan kaistanleveyden eikä pelkän kapasiteetin mukaan.
Laskentamatriisit
MAC-matriisit, kertojat, summainpuut ja liukuhihnarekisterit, eli juuri ne kohdat, joissa full-custom-suunnittelusta on eniten hyötyä.
Ohjelmistopolku
Kääntäjä- ja ajoympäristösuunnitelma sovitaan ennen RTL-työn alkua, jotta piiri ajaa kuormaanne ensimmäisestä päivästä lähtien.
Reitti
Viisi vaihetta, joista ensimmäinen paperilla.
Toteutettavuusselvitys
Kolme testiä teidän luvuillanne.
Arkkitehtuuri ja suorituskykymalli
Piirin malli, jota verrataan mitattuihin GPU-tuloksiinne.
RTL ja FPGA-prototyyppi
RTL kirjoitetaan ja verifioidaan sekä todennetaan FPGA:lla, jos tuote sitä edellyttää.
Fyysinen suunnittelu
Standardisoluvuo ja full-custom-lohkot siellä, missä ne kannattavat.
Tape-out ja tuotanto
Maskidata, luovutus sopimusvalmistajalle, sitten tuotanto ja toimitukset.
Kysymyksiä siirtymisestä GPU:ista ASICiin
Milloin ASIC voittaa GPU:n?
Kun yksi vakaa kuorma pyörii suurella volyymilla. Niin kauan kuin malli tai algoritmi vielä muuttuu, GPU:t ovat oikea työkalu; kun se vakiintuu ja volyymi on olemassa, oma piiri tekee saman työn pienemmällä tehonkulutuksella ja hinnalla.
Koskeeko tämä vain tekoälyä?
Ei. Sama ajatus pätee mihin tahansa laskentaan, joka on vakiintunut, raskas ja toistuva: päättelyyn, video- ja signaalinkäsittelyyn, hakuun ja simulointiytimiin. Tekoälyn päättely on nykyään yleisin tapaus.
Pitääkö GPU:ista luopua?
Ei. Useimmat tiimit pitävät GPU:t kehityskäytössä ja vielä muuttuvia kuormia varten ja siirtävät vakaan, suurivolyymisen osan piirille.
Millä prosesseilla suunnittelette?
TSMC:n FinFET-solmuilla 16 nm, 12 nm, 7 nm ja 6 nm. Olemme TSMC Direct Account -asiakas.
Kuka omistaa suunnitelman?
Suunnitelman ja sen aineiston omistuksesta sovitaan kunkin projektin sopimuksessa.
Aiheeseen liittyvät sivut
Määrääkö yksi kuorma GPU-laskunne?
Kertokaa kuorma, sen volyymi ja mitä se nyt maksaa.
- Täyttäkää projektilomake
- Vastaamme sähköpostitse muutaman työpäivän kuluessa
- Aloitusjakso: NDA, suunnittelun katselmointi ja vaiheistettu suunnitelma
Lomake on nopein tapa tavoittaa meidät. Jokaisen pyynnön lukee ihminen.