核心技术

Technology
爱芯通元混合精度NPU

爱芯通元混合精度NPU

以算子为原子指令集的AI计算处理器爱芯通元NPU采用多线程异构多核设计,实现算子、网络微结构、数据流和内存访问优化,高效支持混合精度算法设计,natively支持Transformer网络结构,为大模型在边缘侧、端侧的应用提供良好的基础。

经过多代产品的量产和客户反馈,并结合行业前沿技术的发展趋势之下,爱芯通元混合精度NPU支持丰富的算子种类,支持客户使用灵活的混合计算模式,优化高效的调度机制,高效率支持包括CNN网络、Transformer网络和BEV在内的各种算法模型。爱芯通元NPU的工具链——Pulsar2功能完善、易用使用,支持主流深度学习训练框架的模型部署,支持PTQ、QAT两种不同的量化操作,内置多种量化算法,满足各种场景的量化调优功能。

普惠AI,造就美好生活