跳到正文
Semiconductor Engineering 芯片与封装· Quadric.io·· 5 小时前AI 评分33

Quadric 通用神经处理器 GPNPU:单一可编程架构运行生成式 AI

Generative AI On A General-Purpose Neural Processor (GPNPU)

AI 导读

Quadric 在 IEEE 论文中提出通用神经处理器 GPNPU,这是一种以可配置 IP 交付的单可编程处理器架构,将标量、向量与矩阵执行统一到一套 ISA 和 C++/Python 编程模型中。

正文 · AI 翻译

一种单一处理器架构,在同一套 ISA 和同一套 C++ 编程模型中统一了标量、向量和矩阵执行。

popularity

生成式 AI 工作负载以季度为周期不断演进,新型注意力变体、量化格式和路由方案的出现速度,远快于固定功能神经网络处理器芯片的重新流片周期。本文提出通用神经网络处理器(GPNPU):一种单一的可编程处理器架构,以可配置 IP 的形式交付,在同一套指令集架构(ISA)和同一套可通过标准 C++ 与 Python 访问的编程模型中统一了标量、向量和矩阵执行。

更多内容请阅读 Quadric 的 IEEE 论文 这里。

图 1:Chimera GPNPU 核心框图。单一指令流同时供给标量单元和 2D SIMD PE 阵列;右侧的 PE 内部细节展示了 32 位 ALU、可配置 MAC 组、本地寄存器堆 SRAM(LRM)以及邻居通信路径。所有片上存储(LRM 和 L2)均由软件管理。来源:Quadric

来源:Semiconductor Engineering 芯片与封装 · semiengineering.com