Lộ trình đến chip

Từ GPU đến ASIC của riêng mình.

GPU chạy được mọi thứ, và cái giá của sự linh hoạt đó là giá thành và điện năng; khi một tác vụ đã ổn định chạy ở quy mô lớn, một con chip làm riêng cho tác vụ đó sẽ làm cùng việc với chi phí thấp hơn. Chúng tôi đánh giá bài toán và thiết kế bộ tăng tốc, cho suy luận AI và cho bất kỳ phép tính đã ổn định nào khác.

Dành cho
Các đội có chi phí GPU hoặc ngân sách điện năng do một tác vụ quyết định: suy luận AI, hoặc một phép tính khác lặp lại ở quy mô lớn
Khách hàng cung cấp
Tác vụ đúng như đang chạy trên GPU: thông lượng, phần cứng đang dùng và chi phí
Khách hàng nhận được
Trước hết là báo cáo khả thi, sau đó là một con chip được đặc tả, thiết kế và tape-out cho sản phẩm
Kinh nghiệm của chúng tôi
Các ASIC tăng tốc tính toán thiết kế cho khách hàng trên 28 nm, 16 nm, 8 nm và 7 nm, bàn giao dạng GDS và do khách hàng chế tạo; thiết kế chip AI full-custom 6 nm

Ba phép thử quyết định

Một tác vụ có đáng có chip riêng hay không.

  1. Tác vụ có giữ nguyên không?

    Chip cố định sẵn những phép tính của mình. Các mô hình, toán tử hay kernel phải đủ ổn định để còn dùng được sau thời gian thiết kế, nếu không thì chip phải giữ đúng những phần cần lập trình được.

  2. Chip có thể bỏ xa GPU đến đâu?

    Lợi thế đến từ việc bỏ đi những gì tác vụ không bao giờ dùng: số học hẹp hơn, bộ nhớ vừa với dữ liệu, và đường dữ liệu được định hình theo phép tính. Tác vụ dùng càng ít tính năng của GPU, mức lợi càng lớn.

  3. Quy mô có bù được chi phí một lần không?

    Khoản tiết kiệm trên mỗi đơn vị công việc, nhân với khối lượng công việc sẽ chạy trong suốt vòng đời của chip, phải lớn hơn chi phí kỹ thuật và mặt nạ.

Những gì con chip thay đổi

Xây dựng quanh một tác vụ.

  1. Biểu diễn số

    Định dạng số được chọn theo mục tiêu độ chính xác, kể cả các định dạng độ chính xác thấp như INT8 và FP8.

  2. Bộ nhớ

    SRAM trên chip và bộ nhớ ngoài được lên kế hoạch theo băng thông, không chỉ theo dung lượng.

  3. Mảng tính toán

    Mảng MAC, bộ nhân, cây cộng và thanh ghi pipeline, chính là nơi thiết kế full-custom phát huy nhiều nhất.

  4. Lộ trình phần mềm

    Kế hoạch trình biên dịch và runtime được thống nhất trước khi bắt đầu RTL, để chip chạy được tác vụ ngay từ ngày đầu tiên.

Lộ trình

Năm bước, bước đầu tiên làm trên giấy.

  1. Nghiên cứu khả thi

    Ba phép thử, trên số liệu của khách hàng.

  2. Kiến trúc và mô hình hiệu năng

    Một mô hình của chip, đối chiếu với kết quả đo trên GPU của khách hàng.

  3. RTL và mẫu thử FPGA

    Viết và kiểm chứng RTL, rồi chạy thử trên FPGA khi sản phẩm đòi hỏi.

  4. Thiết kế vật lý

    Quy trình cell chuẩn, với khối full-custom ở những chỗ đáng bỏ công.

  5. Tape-out và sản xuất

    Dữ liệu mặt nạ, bàn giao cho xưởng đúc, rồi sản xuất và cung ứng.

Câu hỏi về việc chuyển từ GPU sang ASIC

Khi nào ASIC hơn GPU?

Khi một tác vụ ổn định chạy với khối lượng lớn. Trong lúc mô hình hay thuật toán còn thay đổi, GPU là công cụ phù hợp; một khi chúng đã ổn định và có đủ khối lượng, chip chuyên dụng làm cùng việc với điện năng và chi phí thấp hơn.

Có phải chỉ dành cho AI không?

Không. Lập luận này đúng với mọi phép tính cố định, nặng và lặp lại: suy luận, xử lý video và tín hiệu, tìm kiếm, kernel mô phỏng. Suy luận AI là trường hợp phổ biến nhất hiện nay.

Có phải bỏ GPU không?

Không. Phần lớn các đội giữ GPU cho phát triển và cho những tác vụ còn thay đổi, rồi chuyển phần ổn định, khối lượng lớn sang chip.

Chipchain thiết kế trên những tiến trình nào?

Trên các nút FinFET 16 nm, 12 nm, 7 nm và 6 nm của TSMC. Chúng tôi là khách hàng trực tiếp của TSMC.

Ai sở hữu thiết kế?

Quyền sở hữu thiết kế và dữ liệu thiết kế được quy định trong hợp đồng của từng dự án.

Hóa đơn GPU do một tác vụ quyết định?

Hãy cho chúng tôi biết tác vụ, khối lượng và chi phí hiện tại.

  1. Điền biểu mẫu dự án
  2. Chúng tôi trả lời qua email trong vòng vài ngày làm việc
  3. Khởi động: NDA, rà soát thiết kế và kế hoạch theo giai đoạn

Biểu mẫu là cách nhanh nhất để liên hệ với chúng tôi. Mỗi yêu cầu đều được một nhân viên đọc.