Discuz! Board

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 27|回复: 0

谈一谈克服深度学习模型资源挑战,MCU的创新之路

[复制链接]

9万

主题

0

回帖

27万

积分

超级版主

Rank: 8Rank: 8

积分
279956
发表于 2024-9-3 12:31:00 | 显示全部楼层 |阅读模式

随着AI和机器学习在边缘设备中的应用增长,MCU技术正在迎来新的挑战与机遇。本地推理和TML使得低功耗设备能够速、有效地执行智能任务,提升用户体验,同时克服资源限制。本博客深入探讨了这些趋势及其对未来的影响。在此之前,寄存器的行情也在一度飙升,引起了广泛投资者的关注。壹芯微科技技术力量雄厚,首席工程师曾多年服务于台湾强茂,有丰富的研发生产经验,公司与国内外一流半导体企业定期举行技术交流并与华南理工大学建立长期研发合作关系,公司建立了高标准的二三极管可靠性实验室,配备了大量先进的专用设备。https://www.szyxwkj.com/Article/sjg13001y8_1.html

人工智能(AI)和机器学习(ML)它是使系统能够从数据中学习、推断和提高其性能的核心技术。这些技术一般用于大型数据中心和功能强大的GPU,但对资源有限的机器(如微处理器MCU)的需求越来越大。
这个博客中,SL产品营销高级经理G(又称“芯科技”)K先生将带你探讨MCU技术与AIML的交叉和汇聚,以及它如何影响低功耗边缘设备的发展;同时,我们将讨论在电池供电设备的MCU上运行AI的问题、创新和具体用例,并进一步介绍芯科技为边缘智能开发提供全套MCU+AIML工具解决方案。
AIML和MCU简介
人工智能创建的计算机软件可以完成类似人类的任务,如理解语言、寻找方法和做出决定。机器学习是人工智能的子集,涉及应用算法,让计算机随着时间的推移从数据中学习,变得更好。机器学习模型可以找到方法,安排目标,并从例子中预测结果。
在边缘设备上,对AI和ML起着重要的作用。
边缘AIML用例基于MCU运行,包括:
(1)关键字识别:在没有云连接的情况下识别特定的单词或句子(例如,语音命令)。
(2)传感器整合:从多个传感器数据中整合,做出比单个传感器解决方案更明智的决定。
(3)异常检测:检测EP3C16F484C7N传感器数据中的异常值或异常方法,可以说明故障、错误或威胁,用于预测性维护或质量管理。
(4)目标测试:识别和定位感兴趣的目标(例如脸部、路人、车辆),并在摄像机或其他传感器捕捉到的图像或视频中。
(5)手势识别:将人的手势(如手部动作、面部情绪、身体姿势)解释在摄像头或其他传感器捕捉的图像或视频中,以增强人机交互。
AIMCU上ML的挑战
深度学习模型,特别是深度神经络(DNN),它已经成为机器视觉、自然语言理解等复杂任务不可或缺的一部分。然而,他们的计算要求是巨大的。这种资源密集型模型对于日常设备尤其是边缘设备中低功耗MCU供电的设备来说是不现的。随着深度神经络越来越复杂,深度学习模型的复杂性不可避免地会增加,这使得它们与MCU上有限的可用计算资源不兼容。
TML是什么
TML是指在资源有限的设备中安排和改进的机器学习模型和技术。该设备在边缘运行,在那里生成数据,并在当地进行推理。TML系统一般在低功耗MCU上运行,推断节点当地收集的数据。推理是人工智能模型的关键时期,测试它在训练中所学知识的应用能力。本地推理使MCU能够直接施AI模型,并在不依赖外部服务器或云服务的情况下做出即时决策。
部分推理在AIML环境中尤为重要,原因如下:
1资源限制:许多嵌入式设备,特别是使用电池供电的机器,资源有限,如内存、处理能力和能源效率。传统的通用微处理器很难有效地执行人工智能任务,因为它们的处理能力和内存有限,能源供应有限或电影缺乏加速。当地推理允许这些资源有限的设备在不消耗太多功率的情况下施AI负载,以提高效率和性能。
2顾客体验提升:考虑一个例子-适用于人工智能电子CF。通过训练它来区分猫和其他物体,它只能为被授权的猫开门。在这里,本地推理不需要RFID颈圈等额外硬件,就可以根据保证可靠性和便利性来改善用户体验。
3效率和性能:GPU一般用于大规模的人工智能部署,因为它可以并行执行许多步骤,这对于高效的人工智能训练尤为重要。但是对于小型嵌入式应用来说,GPU的成本非常高,而且超过了功率预算。通过为AI工作负载提供良好的性能功率效率,AI改进的MCU有一个特殊的结构来现平衡。作为AIML支持的一部分,芯科技提供的新型线SC和MCU已经包含了矩阵矢量处理器。这种特殊的硬件加速器旨在增强AIML算法的运行动性或矢量。
简而言之,边缘本地推理可以现时决策,减少延迟,提高安全性,使电池供电设备具有人工智能功能,增强客户体验,使其成为当代计算系统的重要组成部分,同时满足资源限制。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|汕巨家居(浙江)有限公司

GMT+8, 2024-12-27 04:55 , Processed in 0.055081 second(s), 18 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表