Chemins vers une puce

Des GPU à votre propre ASIC.

Un GPU sait tout exécuter, et vous le payez en prix et en consommation ; quand une charge de travail stabilisée tourne à grande échelle, une puce conçue pour elle fait le même travail pour moins cher. Nous évaluons l’opportunité du projet et concevons l’accélérateur, pour l’inférence d’IA comme pour tout autre calcul stabilisé.

Pour qui
Les équipes dont les dépenses GPU ou le budget énergétique sont dictés par une seule charge de travail : l’inférence d’IA, ou un autre calcul répété à grande échelle
Vous fournissez
La charge de travail telle qu’elle tourne aujourd’hui sur GPU : son débit, le matériel qu’elle utilise et ce qu’elle coûte
Vous recevez
D’abord un rapport de faisabilité, puis une puce spécifiée, conçue et menée jusqu’au tape-out pour votre produit
Nos références
Des ASIC d’accélération de calcul conçus pour des clients en 28 nm, 16 nm, 8 nm et 7 nm, livrés sous forme de GDS et fabriqués par les clients ; conception full-custom d’une puce d’IA en 6 nm

Trois critères pour trancher

Une charge de travail mérite-t-elle sa propre puce ?

  1. La charge de travail va-t-elle durer ?

    Une puce fige ce qu’elle calcule. Les modèles, les opérateurs ou les noyaux doivent être assez stables pour survivre au temps de conception, sinon la puce doit garder programmables les bonnes parties.

  2. Quelle avance une puce peut-elle prendre sur un GPU ?

    Le gain vient de tout ce que la charge de travail n’utilise jamais et que l’on retire : une arithmétique plus étroite, une mémoire dimensionnée pour les données, un chemin de données taillé pour le calcul. Plus la part du GPU que vous utilisez est faible, plus le gain est grand.

  3. Le volume de travail suffit-il à absorber les coûts fixes ?

    L’économie par unité de travail, multipliée par le travail que vous exécuterez sur la durée de vie de la puce, doit dépasser le coût de l’ingénierie et des masques.

Ce que change la puce

Construite autour d’une seule charge de travail.

  1. Arithmétique

    Des formats numériques choisis en fonction de vos objectifs de précision, y compris des formats à précision réduite comme INT8 et FP8.

  2. Mémoire

    La SRAM sur puce et la mémoire externe planifiées en fonction de la bande passante, et pas seulement de la capacité.

  3. Matrices de calcul

    Matrices MAC, multiplieurs, arbres d’additionneurs et registres de pipeline : c’est là que la conception full-custom apporte le plus.

  4. Chaîne logicielle

    Un plan de compilateur et de runtime arrêté avant le début du RTL, pour que la puce exécute votre charge de travail dès son premier jour.

Le parcours

Cinq étapes, dont la première sur le papier.

  1. Étude de faisabilité

    Les trois critères, appliqués à vos chiffres.

  2. Architecture et modèle de performances

    Un modèle de la puce, confronté aux résultats que vous mesurez sur GPU.

  3. RTL et prototype FPGA

    Le RTL écrit et vérifié, puis validé sur FPGA lorsque le produit le demande.

  4. Conception physique

    Un flot en cellules standard, avec des blocs full-custom là où ils sont rentables.

  5. Tape-out et production

    Les données de masques, la remise à la fonderie, puis la production et l’approvisionnement.

Questions sur le passage des GPU à un ASIC

Quand un ASIC l’emporte-t-il sur un GPU ?

Quand une charge de travail stable tourne en gros volume. Tant que le modèle ou l’algorithme évolue encore, les GPU sont le bon outil ; une fois qu’il est stabilisé et que le volume est là, une puce dédiée fait le même travail avec moins de consommation et à moindre coût.

Cela ne concerne-t-il que l’IA ?

Non. Le même raisonnement vaut pour tout calcul figé, lourd et répété : inférence, traitement vidéo et traitement du signal, recherche, noyaux de simulation. L’inférence d’IA est aujourd’hui le cas le plus courant.

Faut-il renoncer aux GPU ?

Non. La plupart des équipes gardent des GPU pour le développement et pour les charges de travail qui évoluent encore, et transfèrent sur la puce la partie stable et à gros volume.

Sur quels procédés concevez-vous ?

Sur les nœuds FinFET de TSMC en 16 nm, 12 nm, 7 nm et 6 nm. Nous sommes un compte direct de TSMC.

À qui appartient la conception ?

La propriété de la conception et de ses données est fixée dans le contrat de chaque projet.

Une facture GPU dictée par une seule charge de travail ?

Indiquez-nous la charge de travail, son volume et ce qu’elle coûte aujourd’hui.

  1. Remplissez le formulaire de projet
  2. Nous répondons par e-mail sous quelques jours ouvrés
  3. Démarrage : accord de confidentialité, revue de la conception et plan par étapes

Le formulaire est le moyen le plus rapide de nous joindre. Chaque demande est lue par une personne.