芯原与谷歌联合推出开源Coral NPU IP

11月13日，芯原股份近日宣布与谷歌联合推出面向始终在线、超低能耗端侧大语言模型应用的Coral NPU IP。该IP基于谷歌在开放机器学习编译器方面的基础研究成果，并结合AI的安全特性进行了强化，为开发者提供统一的开源技术平台，以构建强大的边缘AI生态系统。

Coral NPU基于RISC-V开放指令集架构标准构建，引入原生张量处理能力，支持主流机器学习框架，如JAX、PyTorch和Tensor Flow Lite(TFLite)，并采用基于开放标准的工具，例如来自低级虚拟机(LLVM)项目的多级中间表示(MLIR)，作为编译器基础设施。其设计面向始终在线、超低能耗的边缘AI应用，尤其适用于可穿戴设备和泛在感知系统。 　　

Coral NPU IP已在谷歌开发者网站开源，面向全球开发者开放。芯原将提供商业化的企业级IP版本，并结合自身丰富的IP储备以及芯片设计与验证能力，为客户的相关芯片提供一站式芯片定制等服务。目前，芯原正在开发基于Coral NPU IP的验证芯片，面向AI/AR眼镜与智能家居等应用，以加速大语言模型在边缘端的部署。