Microchip与韩国智能硬件公司IHWK合作开发模拟计算平台,加速边缘AI/ML推理

 行业动态     |      2023-10-24 13:34:22    |      admin

为了适应网络边缘人工智能(AI)计算及相关推理算法的快速发展,韩国智能硬件公司(IHWK)正在为神经技术设备和现场可编程神经形态设备开发神经形态计算平台。Microchip Technology Inc.(美国微芯科技公司)通过子公司冠捷半导体(SST)参与协助开发,为该平台SuperFlash® memBrain™神经形态存储器解决方案提供评估系统。该解决方案基于Microchip经行业验证的非易失性存储器(NVM)SuperFlash技术并加以优化,可通过模拟内存计算方法为神经网络执行矢量矩阵乘法(VMM)。

1bb48d041938ce215a4dfa5b25b9fd6.jpg

memBrain技术评估工具包旨在让IHWK展示其神经形态计算平台在边缘运行推理算法的绝对能效。最终目标是为生成式人工智能模型、自动驾驶汽车、医疗诊断、语音处理、安全/监控和商用无人机等应用创建超低功耗模拟处理单元(APU)。

由于目前用于边缘推理的神经网络模型可能需要5000万或更多突触(权重)进行处理,因此纯数字解决方案需要足够带宽来使用片外DRAM,这对神经网络计算造成了瓶颈,降低了整体计算能力。相比之下,memBrain解决方案在超低功耗亚阈值模式下将突触权重存储在片上浮动栅中,并使用相同存储单元进行计算,从而显著提高了能效和降低了系统延迟。与传统数字DSP和基于SRAM/DRAM的方法相比,该方案可将每次推理决策的功耗降低到原来的1/20到1/10,并能显著降低总体物料清单。

为了开发APU,IHWK 还与位于大田的韩国科学技术院(KAIST)合作进行设备开发,并与位于首尔的延世大学(Yonsei University)合作提供设备设计协助。最终的 APU 预计将优化推理的系统级算法,并在每瓦 20-80 TeraOPS 之间运行,实现了为电池供电设备设计的内存计算解决方案的最佳性能。

Microchip技术许可业务部门SST副总裁Mark Reiten表示:“通过使用成熟的NVM而非替代性片外内存解决方案来执行神经网络计算和存储权重,Microchip的memBrain内存计算技术有望消除在网络边缘执行人工智能处理所面临的大规模数据通信瓶颈。与韩国领先的研发公司IHWK、相关高校和早期用户开展合作,进一步证明了Microchip神经处理技术的先进性,也将推动Microchip在人工智能领域的发展。”

IHWK 分公司经理Sanghoon Yoon 表示:“韩国是人工智能半导体发展的重要热点地区。我们的非易失性存储器和新兴存储器专家已经证实,Microchip基于成熟非易失性存储器技术的memBrain产品是创建内存计算系统的最佳选择。”

将神经模型永久存储在memBrain解决方案的处理元件中,还可支持用于实时神经网络处理的即时开启功能。IHWK正寻求利用SuperFlash存储器浮动栅单元的非易失性,支持低功耗边缘计算设备使用高级ML模型,建立机器学习推理的新基准。

冠捷半导体(SST)简介

Microchip旗下的冠捷半导体(SST)是一家领先的嵌入式闪存技术供应商。 SST为消费、工业、汽车和物联网(IoT)市场开发、设计、授权和销售一系列自主研发和受专利保护的SuperFlash存储器技术解决方案。 SST成立于1989年,于1995年上市,并于2010年4月被Microchip收购。SST现在是Microchip的全资子公司,总部位于加利福尼亚州圣何塞市。欲了解更多信息,请访问SST网站www.sst.com.

Microchip Technology Inc. 简介

Microchip Technology Inc.是致力于智能、互联和安全的嵌入式控制解决方案的领先供应商。其易于使用的开发工具和丰富的产品组合让客户能够创建最佳设计,从而在降低风险的同时减少系统总成本,缩短上市时间。Microchip的解决方案为工业、汽车、消费、航天和国防、通信以及计算市场中12万5千多家客户提供服务。Microchip总部位于美国亚利桑那州Chandler市,提供出色的技术支持、可靠的产品交付和卓越的质量。详情请访问公司网站www.microchip.com。

IHWK简介

IHWK 总部位于韩国,是一家利用纳米设备和 NVM 新兴存储器技术提供 AI(人工智能)解决方案的领先供应商。


文章来源:ECCN 中电网 全球电子快讯 http://news.eccn.com/news_2023091415464544.htm