应用

技术

物联网世界 >> 物联网新闻 >> 物联网热点新闻
企业注册个人注册登录

NPU,下一个爆发的风口?

2024-07-17 09:08 视觉物联
关键词:NPU芯片

导读:伴随着人工智能技术与应用的快速发展与迭代,其对算力的要求不断提高,而作为算力核心的人工智能芯片,自然而然也受到了产业界的强烈关注。其中,作为深度学习和人工智能领域的专用芯片——NPU,正在逐渐走向“舞台中央”

  近年来,伴随着人工智能技术与应用的快速发展与迭代,其对算力的要求不断提高,而作为算力核心的人工智能芯片,自然而然也受到了产业界的强烈关注。其中,作为深度学习和人工智能领域的专用芯片——NPU,正在逐渐走向“舞台中央”。

  NPU:高效能、低功耗、稳定性

  NPU,即神经网络处理器,是一种专门设计用于加速人工智能(AI)和机器学习(ML)应用的芯片,它采用了数据驱动并行计算架构,使得NPU在处理视频、图像等多媒体数据时具有超强的性能,旨在高效、低功耗地执行机器学习尤其是深度学习任务。

  相较于传统的CPU和GPU,NPU在AI计算方面具有更高的效能和更低的功耗。NPU针对深度学习算法所需的复杂计算进行了优化,能够高效地完成深度学习、图像识别等任务,大幅提升了AI处理的性能。而且由于NPU的特定优化,使其在运行AI任务时功耗更低,延长了设备的续航时间。此外,NPU通常具有很好的容错性和可靠性,即使在高负载、复杂计算任务的情况下,也能够保持稳定的计算性能。

  一开始,NPU主要用于提升智能手机的相机功能、电池续航和安全性等。如今,随着AI技术与应用的普及,NPU已逐渐成为人工智能技术中不可或缺的组成部分之一,其优势愈发明显,并正在快速地扩展到更多应用场景中。当前,NPU被广泛应用于人脸识别、智能语音、自动驾驶、智能安防、智能家居、智慧医疗、工业质检等各种人工智能应用场景中,为各行各业带来更多的智能化解决方案。

  边缘智能,NPU或是最佳选择

  前不久,高通发布了《通过NPU和异构计算开启终端侧生成式AI》报告,其中提到:“随着生成式AI用例需求在有着多样化要求和计算需求的垂直领域不断增加,需要专为AI定制设计的全新计算架构……通过结合NPU使用合适的处理器,异构计算能够实现最佳应用性能、能效和电池续航,赋能全新增强的生成式AI体验。”

  近年来,随着物联网设备的广泛部署与大数据的爆炸式增长,对于能够即时处理和分析数据的需求愈发迫切。加上近段时间,大模型持续向边缘侧和端侧渗透,AI计算和推理工作逐步从云端转移到边缘和端侧,于是边缘计算逐渐成为了AI应用的重要场景,端、边缘市场的AI算力需求也由此逐渐爆发。

  那么,在此背景下,NPU易开发、高效能、低功耗等优势逐渐凸显出来,凭借着其在边缘设备上执行机器学习和深度学习任务的能力,能够有效地执行图像识别、语音处理等AI任务,从而在边缘设备上实现快速的智能决策和响应。

  当下,在人工智能的高速发展下,NPU作为人工智能时代的核心驱动力之一,其发展与应用正深刻改变着各行各业,其不仅赋予了终端设备更强大的智能化能力,也为千行百业的数智化升级提供了有力支持。未来,随着技术的不断进步和应用领域的持续拓展,NPU将更加智能、高效、节能,成为推动社会智能化转型的中坚力量,为经济社会发展带来更多的惊喜。

  NPU相关企业布局

  芯原股份:宣布集成了芯原神经网络处理器(NPU)IP的人工智能(AI)类芯片已在全球范围内出货超过1亿颗。

  国科微:公司通过自主研发成功推出了NPU,实现了低中高算力的全场景布局,打造全系边端AI芯片标配NPU技术,赋能多元化智能应用场景落地。

  瑞芯微:公司新推出的SoC芯片大部分搭载了自研NPU,可以在低待机功耗的同时提供优秀的边缘AI算力,满足市场对智能化、算力的需求。

  北京君正:公司的NPU技术已应用于T40、T41、A1等芯片中,且已量产销售。

  云天励飞:DeepEdge10作为首颗云天自研的SOC芯片,搭载新一代自研NPU(NNP400T)。

  智微智能公司提供AI服务器和AIBOX边缘设备,推出基于GPU、多家ASIC AI加速卡、ARM NPU的多系列产品。

  全志科技:公司深入分析AI算法的应用场景,主动积极推进NPU和DSP的AI专用算力在终端产品应用的落地。

  高通:提出通过NPU和异构计算将开启终端侧生成式AI时代。其Hexagon NPU面向低功耗、高性能的AI推理而设计,通过定制设计NPU和控制指令集架构(ISA),能够快速进行设计演进和扩展。其中,高通的Hexagon NPU在终端侧AI推理方面表现出色,其性能提升达到98%,能效提升达到40%。

  英特尔:正式发布新一代酷睿Ultra移动处理器,该处理器还集成了用于客户端的片上AI加速器“神经网络处理单元(NPU)”,AI性能高达48 TOPS,最高达上一代产品的4倍,能够相应提高生成式AI的性能。

  AMD:宣布推出Ethos-U85 NPU。作为Arm面向边缘AI的第三代NPU产品,Ethos-U85在性能方面提升了四倍;较上一代产品在能效方面拥有20%的提升,还可在常用神经网络上实现85%的利用率。

  ……