تصميم مخصص بالكامل لشرائح الذكاء الاصطناعي.

تضبط شرائح التدريب أوزان النماذج انطلاقًا من البيانات، ولذلك فأكثر ما يهم فيها الحوسبة بالفاصلة العائمة وعرض نطاق الذاكرة والوصلات بين العناقيد. أما شرائح الاستدلال فتشغّل النماذج المدرَّبة، ولذلك فأكثر ما يهم فيها التكلفة والطاقة وزمن الاستجابة لكل طلب.

شريحة استدلال LLM نوع من شرائح استدلال الذكاء الاصطناعي تولّد الرموز لنماذج Transformer. وأكثر ما يهم فيها التكلفة لكل رمز وعرض نطاق ذاكرة KV-cache.

شريحة الذكاء الاصطناعي الطرفي أو على الجهاز تشغّل النماذج داخل جهاز مثل الهاتف أو الحاسوب الشخصي أو النظارات أو الكاميرا، دون الاعتماد على السحابة. وأهم حدودها ميزانية الطاقة وعرض نطاق LPDDR وتكلفة قائمة المواد.

NPU معالج مبني للعمليات الحسابية في الشبكات العصبية، وفي صميمه مصفوفة MAC وذاكرة محلية. وقد يكون شريحة منفصلة أو كتلة داخل SoC.

تجري الحوسبة داخل مصفوفات الذاكرة أو بجانبها، فتقلل البيانات المنقولة بين الذاكرة ووحدات الحوسبة. وتأتي في صيغ رقمية وتناظرية.

أنسبها الكتل المنتظمة كثيرة التبديل، مثل مصفوفات MAC والمضاعِفات وأشجار الجمع ومسجلات خط الأنابيب. أما منطق التحكم والواجهات فيبقيان في مسار أدوات قياسي.

يمنح توصيف المكتبات الخلايا المخصصة ومكتبات الجهد المنخفض نماذج دقيقة، ويجعل الوضع والتوجيه اليدويان مصفوفة MAC أكثر انتظامًا بوصلات أقصر. ويتيحان معًا لنواة الحوسبة العمل بجهد أقل.

لدينا حساب مباشر لدى TSMC، وتشمل أعمالنا في التصميم FinFET على 16 nm و12 nm و7 nm و6 nm.