Пути к чипу
От GPU к собственному ASIC.
GPU выполняет что угодно, и за эту универсальность вы платите ценой и энергопотреблением. Когда одна устоявшаяся задача работает в большом масштабе, чип, созданный под неё, делает ту же работу дешевле. Мы оцениваем, оправдан ли такой шаг, и проектируем ускоритель — для ИИ-инференса и для любых других устоявшихся вычислений.
- Для кого
- Команды, у которых расходы на GPU или бюджет энергопотребления определяет одна задача: ИИ-инференс или другое вычисление, повторяемое в большом масштабе
- Вы предоставляете
- Задачу в том виде, в каком она сегодня работает на GPU: её пропускную способность, используемое оборудование и стоимость
- Вы получаете
- Сначала отчёт о реализуемости, затем чип для вашего изделия — от спецификации и проектирования до тейп-аута
- Наш опыт
- ASIC-ускорители вычислений, спроектированные для заказчиков на 28, 16, 8 и 7 нм, переданные в виде GDS и изготовленные заказчиками; полностью заказное проектирование ИИ-чипа на 6 нм
Решают три критерия
Заслуживает ли задача собственного чипа.
Останется ли задача прежней?
Чип фиксирует то, что он вычисляет. Модели, операторы или ядра должны быть достаточно стабильны, чтобы пережить срок проектирования, иначе чипу придётся оставить нужные части программируемыми.
Насколько чип может обойти GPU?
Выигрыш даёт отказ от всего, чем задача не пользуется: более узкая арифметика, память по размеру данных и тракт данных, повторяющий структуру вычисления. Чем меньшую часть GPU вы используете, тем больше выигрыш.
Окупает ли масштаб разовые затраты?
Экономия на единицу работы, умноженная на объём работы за срок жизни чипа, должна превысить затраты на разработку и фотошаблоны.
Что меняет чип
Всё построено вокруг одной задачи.
Арифметика
Форматы чисел подбираются под ваши требования к точности, включая форматы пониженной точности, такие как INT8 и FP8.
Память
Встроенная SRAM и внешняя память планируются исходя из пропускной способности, а не только из объёма.
Вычислительные массивы
Массивы MAC, умножители, деревья сумматоров и конвейерные регистры — именно здесь полностью заказное проектирование даёт больше всего.
Программный стек
План компилятора и среды выполнения согласуется до начала работы над RTL, чтобы чип выполнял вашу задачу с первого дня.
Маршрут
Пять шагов, и первый — на бумаге.
Оценка реализуемости
Три критерия — на ваших цифрах.
Архитектура и модель производительности
Модель чипа, сверенная с результатами, которые вы измерили на GPU.
RTL и прототип на FPGA
RTL пишется и верифицируется, а если этого требует изделие, проверяется на FPGA.
Физическое проектирование
Маршрут на стандартных ячейках, с полностью заказными блоками там, где они окупаются.
Тейп-аут и производство
Данные для фотошаблонов, передача проекта на фабрику, затем производство и поставки.
Вопросы о переходе с GPU на ASIC
Когда ASIC выигрывает у GPU?
Когда одна стабильная задача выполняется в больших объёмах. Пока модель или алгоритм ещё меняются, правильный инструмент — GPU; когда всё устоялось и объёмы есть, специализированный чип делает ту же работу с меньшими затратами энергии и денег.
Это только для ИИ?
Нет. То же рассуждение верно для любого неизменного, ресурсоёмкого и многократно повторяемого вычисления: инференса, обработки видео и сигналов, поиска, вычислительных ядер моделирования. Сегодня чаще всего это ИИ-инференс.
Придётся ли отказаться от GPU?
Нет. Большинство команд оставляют GPU для разработки и для задач, которые ещё меняются, а на чип переносят стабильную часть с большими объёмами.
На каких техпроцессах вы проектируете?
На техпроцессах TSMC FinFET 16, 12, 7 и 6 нм. Мы прямой клиент TSMC.
Кому принадлежит проект?
Кому принадлежат проект и его данные, определяется договором по каждому проекту.
Связанные страницы
Счёт за GPU определяет одна задача?
Расскажите о задаче, её объёмах и о том, во что она обходится сегодня.
- Заполните форму проекта
- Мы ответим по электронной почте в течение нескольких рабочих дней
- Вводный этап: NDA, анализ проекта и поэтапный план
Форма — самый быстрый способ связаться с нами. Каждый запрос читает человек.