チップ化への道筋

GPUから、自社のASICへ。

GPUは何でも動かせますが、その汎用性の代価は、価格と電力で支払うことになります。固まった一つのワークロードを大規模に動かすなら、そのために設計したチップのほうが少ないコストで同じ仕事をこなします。当社は採算を評価し、アクセラレーターを設計します。対象はAI推論にも、そのほかの固まった計算にも及びます。

対象
GPUへの支出や電力バジェットが一つのワークロードで決まっているチーム:AI推論、あるいは大規模に繰り返されるほかの計算
ご提供いただくもの
現在GPUで動いているワークロードの実態:スループット、使っているハードウェア、そのコスト
お渡しするもの
まずフィージビリティ報告書、続いてお客様の製品向けに仕様策定、設計、テープアウトしたチップ
当社の実績
お客様向けに28 nm、16 nm、8 nm、7 nmで設計し、GDSで納品してお客様が製造した演算アクセラレーターASIC。6 nmのAIフルカスタムチップ設計

三つの判断基準

そのワークロードは専用チップに値するか。

  1. ワークロードは変わらずに残るか

    チップは計算の中身を固定します。モデル、演算子、カーネルが設計期間を超えて安定している必要があります。そうでなければ、チップの適切な部分をプログラマブルに残さなければなりません。

  2. チップはGPUにどこまで差をつけられるか

    効果は、ワークロードが使わないものを削ることから生まれます。幅を絞った演算、データに合わせたメモリ容量、計算の形に合わせたデータパス。GPUのうち使っている部分が少ないほど、効果は大きくなります。

  3. 規模で初期費用をまかなえるか

    仕事量あたりの削減額に、チップの寿命を通じて実行する仕事量を掛けた額が、設計費とマスク費用を上回る必要があります。

チップで変わること

一つのワークロードを軸に組み立てます。

  1. 数値表現

    INT8やFP8などの低精度フォーマットも含め、精度の目標に照らして数値フォーマットを選びます。

  2. メモリ

    オンチップSRAMと外部メモリは、容量だけでなく帯域幅を基準に計画します。

  3. 演算アレイ

    MACアレイ、乗算器、加算器ツリー、パイプラインレジスター。フルカスタム設計が最も効くのはここです。

  4. ソフトウェアの経路

    コンパイラーとランタイムの計画をRTLの着手前に合意し、チップが初日からお客様のワークロードを動かせるようにします。

進め方

五つのステップ。最初の一つは机上で。

  1. フィージビリティ・スタディ

    三つの判断基準を、お客様の数字で検討します。

  2. アーキテクチャと性能モデル

    チップのモデルを、お客様が実測したGPUの結果と突き合わせて確かめます。

  3. RTLとFPGA試作

    RTLを書いて検証し、製品に必要ならFPGAで確かめます。

  4. 物理設計

    スタンダードセルフローを基本に、見合う箇所にはフルカスタムブロックを。

  5. テープアウトと生産

    マスクデータ、ファウンドリへの引き渡し、その後の生産と供給。

GPUからASICへの移行についてのご質問

ASICがGPUに勝るのはどんなときですか?

安定した一つのワークロードを大量に動かすときです。モデルやアルゴリズムがまだ変わっているうちは、GPUが適した道具です。それが固まり、数量も見込めるようになれば、専用チップが同じ仕事をより少ない電力とコストでこなします。

AIだけが対象ですか?

いいえ。中身が固まっていて、処理が重く、繰り返される計算なら、同じ考え方が当てはまります。推論、映像・信号処理、検索、シミュレーションのカーネルなどです。現在いちばん多いのはAI推論です。

GPUを手放す必要はありますか?

いいえ。多くのチームは開発用と、まだ変化するワークロード用にGPUを残し、安定した大量処理の部分をチップに移します。

どのプロセスで設計していますか?

16 nm、12 nm、7 nm、6 nmのTSMC FinFETノードです。当社はTSMCの直接取引先です。

設計の所有権は誰にありますか?

設計とそのデータの所有権は、プロジェクトごとの契約で定めます。

GPUの費用が、一つのワークロードで決まっていませんか?

ワークロードの内容、規模、現在のコストをお知らせください。

  1. プロジェクトフォームに記入する
  2. 数営業日以内にメールでご返信します
  3. オンボーディング:NDA、設計レビュー、段階ごとの計画

フォームが最も早いご連絡方法です。すべてのご依頼に担当者が目を通します。