Wege zum Chip

Von GPUs zum eigenen ASIC.

Eine GPU rechnet alles, und dafür zahlen Sie mit Preis und Leistungsaufnahme. Läuft ein einziger, ausgereifter Workload in großem Maßstab, erledigt ein eigens dafür gebauter Chip die Arbeit günstiger. Wir bewerten den Fall und entwickeln den Beschleuniger, für KI-Inferenz wie für jede andere ausgereifte Berechnung.

Für
Teams, deren GPU-Ausgaben oder Leistungsbudget von einem Workload bestimmt werden: KI-Inferenz oder eine andere Berechnung, die in großem Maßstab wiederholt wird
Sie liefern
Den Workload, wie er heute auf GPUs läuft: seinen Durchsatz, die genutzte Hardware und was er kostet
Sie erhalten
Zuerst einen Machbarkeitsbericht, dann einen Chip für Ihr Produkt, spezifiziert, entwickelt und bis zum Tape-out gebracht
Unsere Erfahrung
Rechenbeschleuniger-ASICs für Kunden in 28 nm, 16 nm, 8 nm und 7 nm, als GDS geliefert und von den Kunden gefertigt; Full-Custom-KI-Chipdesign in 6 nm

Drei Prüfungen entscheiden

Ob ein Workload einen eigenen Chip verdient.

  1. Bleibt der Workload, wie er ist?

    Ein Chip legt fest, was er berechnet. Modelle, Operatoren oder Kernels müssen stabil genug sein, um die Designzeit zu überdauern, oder der Chip muss die richtigen Teile programmierbar halten.

  2. Wie weit kann ein Chip einer GPU voraus sein?

    Der Gewinn entsteht durch das Weglassen dessen, was der Workload nie nutzt: schmalere Arithmetik, Speicher passend zu den Daten und ein Datenpfad, der der Berechnung folgt. Je weniger Sie von der GPU nutzen, desto größer der Gewinn.

  3. Trägt der Maßstab die Einmalkosten?

    Die Ersparnis pro Arbeitseinheit, multipliziert mit der Arbeit, die Sie über die Lebensdauer des Chips ausführen, muss Engineering und Masken übersteigen.

Was der Chip ändert

Um einen einzigen Workload gebaut.

  1. Zahlendarstellung

    Zahlenformate, gewählt nach Ihren Genauigkeitszielen, auch Formate reduzierter Genauigkeit wie INT8 und FP8.

  2. Speicher

    On-Chip-SRAM und externer Speicher, geplant nach der Bandbreite und nicht nur nach der Kapazität.

  3. Rechen-Arrays

    MAC-Arrays, Multiplizierer, Addiererbäume und Pipeline-Register: Hier bringt Full-Custom-Design am meisten.

  4. Software-Pfad

    Ein Plan für Compiler und Laufzeitumgebung, abgestimmt vor dem Beginn des RTL, damit der Chip Ihren Workload vom ersten Tag an ausführt.

Der Weg

Fünf Schritte, der erste auf dem Papier.

  1. Machbarkeitsstudie

    Die drei Prüfungen, mit Ihren Zahlen.

  2. Architektur- und Performance-Modell

    Ein Modell des Chips, abgeglichen mit Ihren gemessenen GPU-Ergebnissen.

  3. RTL und FPGA-Prototyp

    RTL geschrieben und verifiziert und, wo das Produkt es verlangt, auf dem FPGA nachgewiesen.

  4. Physical Design

    Ein Standardzellen-Flow, mit Full-Custom-Blöcken, wo sie sich lohnen.

  5. Tape-out und Fertigung

    Maskendaten, die Übergabe an die Foundry, dann Fertigung und Lieferkette.

Fragen zum Wechsel von GPUs zum ASIC

Wann ist ein ASIC einer GPU überlegen?

Wenn ein stabiler Workload in hohem Volumen läuft. Solange sich Modell oder Algorithmus noch ändern, sind GPUs das richtige Werkzeug. Steht der Workload fest und ist das Volumen da, erledigt ein dedizierter Chip dieselbe Arbeit mit weniger Leistungsaufnahme und Kosten.

Ist das nur etwas für KI?

Nein. Dieselbe Überlegung gilt für jede Berechnung, die feststeht, aufwendig ist und sich wiederholt: Inferenz, Video- und Signalverarbeitung, Suche, Simulationskernels. KI-Inferenz ist heute der häufigste Fall.

Müssen wir auf GPUs verzichten?

Nein. Die meisten Teams behalten GPUs für die Entwicklung und für Workloads, die sich noch ändern, und verlagern den stabilen Teil mit hohem Volumen auf den Chip.

Auf welchen Prozessen entwickeln Sie?

Auf den FinFET-Knoten von TSMC in 16 nm, 12 nm, 7 nm und 6 nm. Wir sind Direktkunde von TSMC.

Wem gehört das Design?

Das Eigentum am Design und an seinen Daten regelt der Vertrag des jeweiligen Projekts.

Ihre GPU-Rechnung hängt an einem Workload?

Nennen Sie uns den Workload, sein Volumen und was er heute kostet.

  1. Projektformular ausfüllen
  2. Antwort per E-Mail innerhalb weniger Werktage
  3. Onboarding: NDA, Design-Review und ein Plan in Phasen

Über das Formular erreichen Sie uns am schnellsten. Jede Anfrage liest ein Mensch.