Discuz! Board

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 23|回复: 0

说一说:克服深度学习模型资源挑战,MCU的创新之路

[复制链接]

5万

主题

0

回帖

16万

积分

超级版主

Rank: 8Rank: 8

积分
166053
发表于 2024-9-2 03:49:26 | 显示全部楼层 |阅读模式

随着AI和机器学习在边缘设备中的应用增长,MCU技术正在迎来新的挑战与机遇。本地推理和TML使得低功耗设备能够速、有效地执行智能任务,提升用户体验,同时克服资源限制。本博客深入探讨了这些趋势及其对未来的影响。恰好,很多人因交流电源功率因数而带来更多的益处,使之蓬勃发展,对行业的促动也是较大的。壹芯微科技组建了优秀的生产管理团队,通过并严格执行ISO9002质量管理体系,公司从美国台湾等地引进大量先进的封装、测试全自动化设备,为壹芯微的品质奠定了坚实的基础。http://www.szyxwkj.com/article/1n5406dxyy_1.html

人工智能(AI)和机器学习(ML)它是使系统能够从数据中学习、推断和提高其性能的核心技术。这些技术一般用于大型数据中心和功能强大的GPU,但对资源有限的机器(如微处理器MCU)的需求越来越大。
这个博客中,SL产品营销高级经理G(又称“芯科技”)K先生将带你探讨MCU技术与AIML的交叉和汇聚,以及它如何影响低功耗边缘设备的发展;同时,我们将讨论在电池供电设备的MCU上运行AI的问题、创新和具体用例,并进一步介绍芯科技为边缘智能开发提供全套MCU+AIML工具解决方案。
AIML和MCU简介
人工智能创建的计算机软件可以完成类似人类的任务,如理解语言、寻找方法和做出决定。机器学习是人工智能的子集,涉及应用算法,让计算机随着时间的推移从数据中学习,变得更好。机器学习模型可以找到方法,安排目标,并从例子中预测结果。
在边缘设备上,对AI和ML起着重要的作用。
边缘AIML用例基于MCU运行,包括:
(1)关键字识别:在没有云连接的情况下识别特定的单词或句子(例如,语音命令)。
(2)传感器整合:从多个传感器数据中整合,做出比单个传感器解决方案更明智的决定。
(3)异常检测:检测EP3C16F484C7N传感器数据中的异常值或异常方法,可以说明故障、错误或威胁,用于预测性维护或质量管理。
(4)目标测试:识别和定位感兴趣的目标(例如脸部、路人、车辆),并在摄像机或其他传感器捕捉到的图像或视频中。
(5)手势识别:将人的手势(如手部动作、面部情绪、身体姿势)解释在摄像头或其他传感器捕捉的图像或视频中,以增强人机交互。
AIMCU上ML的挑战
深度学习模型,特别是深度神经络(DNN),它已经成为机器视觉、自然语言理解等复杂任务不可或缺的一部分。然而,他们的计算要求是巨大的。这种资源密集型模型对于日常设备尤其是边缘设备中低功耗MCU供电的设备来说是不现的。随着深度神经络越来越复杂,深度学习模型的复杂性不可避免地会增加,这使得它们与MCU上有限的可用计算资源不兼容。
TML是什么
TML是指在资源有限的设备中安排和改进的机器学习模型和技术。该设备在边缘运行,在那里生成数据,并在当地进行推理。TML系统一般在低功耗MCU上运行,推断节点当地收集的数据。推理是人工智能模型的关键时期,测试它在训练中所学知识的应用能力。本地推理使MCU能够直接施AI模型,并在不依赖外部服务器或云服务的情况下做出即时决策。
部分推理在AIML环境中尤为重要,原因如下:
1资源限制:许多嵌入式设备,特别是使用电池供电的机器,资源有限,如内存、处理能力和能源效率。传统的通用微处理器很难有效地执行人工智能任务,因为它们的处理能力和内存有限,能源供应有限或电影缺乏加速。当地推理允许这些资源有限的设备在不消耗太多功率的情况下施AI负载,以提高效率和性能。
2顾客体验提升:考虑一个例子-适用于人工智能电子CF。通过训练它来区分猫和其他物体,它只能为被授权的猫开门。在这里,本地推理不需要RFID颈圈等额外硬件,就可以根据保证可靠性和便利性来改善用户体验。
3效率和性能:GPU一般用于大规模的人工智能部署,因为它可以并行执行许多步骤,这对于高效的人工智能训练尤为重要。但是对于小型嵌入式应用来说,GPU的成本非常高,而且超过了功率预算。通过为AI工作负载提供良好的性能功率效率,AI改进的MCU有一个特殊的结构来现平衡。作为AIML支持的一部分,芯科技提供的新型线SC和MCU已经包含了矩阵矢量处理器。这种特殊的硬件加速器旨在增强AIML算法的运行动性或矢量。
简而言之,边缘本地推理可以现时决策,减少延迟,提高安全性,使电池供电设备具有人工智能功能,增强客户体验,使其成为当代计算系统的重要组成部分,同时满足资源限制。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|汕巨家居(浙江)有限公司

GMT+8, 2024-11-5 11:34 , Processed in 0.067399 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表