Andes和Meta从2019年初就RISC-V向量核心开始合作数据中心AI*(见备注)。后来Andes推出了AndesCoreTM NX27V,这标志着一个重要里程碑,作为全球首款商用RISC-V向量处理器内核,每周期可以生成多达4个512位向量(VLEN)结果。它在2019年底推出后立即吸引了全球AI加速器的SoC设计团队的关注,已经落地十多个数据中心AI项目。从那时起,RISC-V向量处理器内核已经成为ML和AI芯片供应商的首选。
为了进一步提高计算密度,AX45MPV在其前身AX45MP的双发射8级流水线、Linux支持和多核功能的基础上,继承和增强了其前身NX27V的强大向量处理单元。虽然AX45MPV本质上是一个带有数据中心级AI能力的Linux应用处理器,但它对Linux和多核的支持可以省略,以形成计算阵列中高效强大的计算处理单元(PE)。AX45MPV中的双发射能力,再加上每周期高达6个1024位向量(VLEN)的结果,可以与其前身相比提供3倍以上的性能。为了充分利用其更高的计算功率,AX45MPV提供两个1024位内存接口。新的高带宽向量本地存储器(HVM)选项提供1个或2个HVM银行端口,非常适合向量加载/存储,以及一个外部DMA引擎,可以通过基于AXI的HVM访问端口在后台移动数据块。对于需要集成协处理器控制和数据传输的计算任务,自第一个Andes向量处理器以来就提供的通用Andes流端口(ASP)是最佳解决方案。通过组合使用ASP和HVM端口,处理器可以通过例如每周期加载2个向量数据来有效地加倍其内存带宽。AX45MPV还支持最新的ACE(Andes自定义扩展TM),它方便客户创建自己的RISC-V风格向量指令。例如,ACE可以用于加速Transformer AI中的非线性数学函数,如SoftMax。
Andes技术公司总裁兼首席技术官苏志诚博士表示:“Andes自2019年以来一直在为数据中心AI客户提供RISC-V向量架构,积累了丰富的经验。AX45MPV作为第三代Andes向量处理器,配备了强大的1024位向量单元、高效的多核和Linux支持以及通用配置,特别适合大型语言模型(LLM)。随着2023年生成式AI应用的激增,我们看到AX45MPV在AI和机器学习领域超越云端发挥核心作用。”
一些来自亚洲和北美的客户已经许可了AX45MPV,更多客户正在评估它。他们的应用覆盖从云到边缘的广泛领域。不含Linux支持的AX45MPV标准产品包现已立即可用。其高级产品包将随Linux支持一起在2023年第四季度推出。
关于Andes Technology
Andes Technology成立于18年前,是RISC-V国际创始高级会员,是一家公开上市的公司(TWSE: 6533; SIN: US03420C2089; ISIN: US03420C1099),也是高性能/低功耗32/64位嵌入式处理器IP解决方案的领先供应商和推动RISC-V进入主流的动力。其V5 RISC-V CPU系列从微小的32位内核到先进的64位乱序处理器,具有DSP、FPU、向量、Linux、超标量和/或多核/多核心功能。 截至2022年底,Andes嵌入式SoC的累计出货量已超过120亿。欲了解更多信息,请访问https://www.andestech.com/。在LinkedIn、Twitter、Bilibili和YouTube上关注Andes! !
*备注: MTIA: First Generation Silicon Targeting Meta’s Recommendation Systems, ISCA ’23: Proceedings of the 50th Annual International Symposium on Computer Architecture, June 2023
联系人: Hsiao-Ling Lin
Marcom经理
Andes Technology Corp.
hllin@andestech.com
