通往芯片的路径

从 GPU 到自己的 ASIC。

GPU 什么都能跑,代价是价格和功耗;当一项稳定的工作负载规模足够大时,专为它设计的芯片能用更低的成本完成同样的工作。我们评估这笔账并设计加速器,既面向 AI 推理,也面向其他已经稳定下来的计算。

适合
GPU 开支或功耗预算主要由一项工作负载决定的团队:AI 推理,或其他大规模重复的计算
您提供
这项负载目前在 GPU 上的运行情况:吞吐量、所用硬件和成本
您得到
先是一份可行性报告,然后是为您的产品定义、设计并流片的芯片
我们的记录
以设计服务方式为客户在 28 nm、16 nm、8 nm 和 7 nm 上设计过算力加速 ASIC,以 GDS 交付,由客户制造;并进行了 6 nm AI 全定制芯片设计

三个判断标准

一项负载值不值得拥有自己的芯片。

  1. 负载会保持不变吗?

    芯片把计算内容固定了下来。模型、算子或计算核必须稳定到足以覆盖设计周期,否则芯片就要在合适的地方保留可编程能力。

  2. 芯片能比 GPU 领先多少?

    收益来自去掉这项负载用不到的部分:更窄的数值格式、按数据量确定的存储器、按计算形状设计的数据通路。对 GPU 的利用越少,收益越大。

  3. 规模撑得起一次性成本吗?

    每单位工作量节省的成本,乘以芯片生命周期内的总工作量,要超过工程与掩膜的投入。

芯片改变了什么

围绕一项负载来设计。

  1. 数值格式

    按您的精度目标选择数值格式,包括 INT8、FP8 等低精度格式。

  2. 存储器

    片上 SRAM 与外部存储器按带宽规划,而不只看容量。

  3. 运算阵列

    MAC 阵列、乘法器、加法器树和流水线寄存器,正是全定制设计最能发挥作用的地方。

  4. 软件路径

    在 RTL 开始之前确定编译器与运行时方案,让芯片到手就能运行您的负载。

如何进行

五个步骤,第一步先在纸面上完成。

  1. 可行性研究

    用您的数字检验这三个标准。

  2. 架构与性能模型

    建立芯片的性能模型,并与您在 GPU 上的实测结果对照。

  3. RTL 与 FPGA 原型

    编写并验证 RTL,产品需要时先在 FPGA 上验证。

  4. 物理设计

    采用标准单元流程,回报足够的模块采用全定制。

  5. 流片与生产

    掩膜数据、向晶圆厂的交接,以及生产与供应。

关于 GPU 转 ASIC 的问题

ASIC 什么时候比 GPU 划算?

当一项稳定的工作负载以很大的规模运行时。模型或算法还在变化的阶段,GPU 是合适的工具;等它稳定下来、规模也到了,专用芯片能以更低的功耗和成本完成同样的工作。

只适用于 AI 吗?

不是。任何固定、计算量大、反复运行的计算都适用同样的道理:推理、视频与信号处理、检索、仿真计算核。AI 推理是目前最常见的情形。

必须放弃 GPU 吗?

不必。多数团队保留 GPU 用于开发和仍在变化的负载,只把已经稳定、规模大的部分转到专用芯片上。

你们在哪些工艺上设计?

我们是台积电直接客户(Direct Account),设计工作涵盖 16 nm、12 nm、7 nm、6 nm FinFET 节点。

设计归谁?

设计及其数据的归属在各项目合同中约定。

GPU 开支主要花在一项负载上?

告诉我们这项负载、它的规模,以及现在的成本。

  1. 填写项目表单
  2. 我们通常在几个工作日内通过邮件回复
  3. 启动服务:保密协议、设计审阅与分阶段计划

表单是联系我们最快的方式,每一份需求都有专人阅读。