Products 新闻资讯

再定义边缘计算的性能

日期: 2018-06-19
浏览次数: 7

随着笔记本电脑、平板电脑和智能手机的兴起,高度分布式架构最终演变为移动计算。但随着计算需求的日益增加,系统架构师开始将计算任务转移到云计算上,这样,他们就可以利用云计算几乎无限的计算能力和存储资源,并享受其带来的高可靠性和低成本。然而,并不是所有的应用都要在云端运行。事实上,随着设计师为运行在边缘设备的应用中添加越来越高级的智能,需要边缘设备能够对不断变化的环境条件作出更快的响应。例如,当一辆自动驾驶汽车驶入智能城市时,如果遇到交通信号灯变红,它就立即与云通信,确定是否停车。它必须采取紧急行动。这就需要独立做出决策,并快速定义一类新的边缘智能设备。使用语音或面部识别等技术,这些新设备将能够根据环境的变化,定制自己的功能。并且,通过应用机器学习和人工智能技术,这些设备将能够根据不断通过边缘计算收集的数据来学习、改变其操作。


但是,使用云计算和仅将云计算用于处理和存储的智能系统截然不同。机器学习通常涉及到两种类型的计算工作负载。在训练中,系统从现有数据中习得新的能力。例如,系统通过手机和分析数千张面部图像来学习面部识别能力。因此,训练是计算密集型的,需要能够处理大量数据的硬件。另一种类型的计算工作负载,是通过识别模式和执行任务,将系统的功能应用于新数据。这使得系统能够随着时间的推移不断学习,并增长其智能。在边缘设备运行的系统不能在云端上进行推断。相反,它们需要利用机载计算资源来不断扩展其智能。


这种市场机会的范围很难说得清,但不容小觑。潜在的应用领域不仅包括可以感应到用户离开房间时自动关闭的智能电视等消费类应用;还包括针对未来智能工厂的下一代机器视觉解决方案。显然,边缘计算解决方案的最热门市场之一在汽车行业。汽车从主要的机械设备向日益电子化平台的快速发展推动了这一转变。这一过程始于娱乐系统从收音机和录音机面板迅速发展到高度复杂的信息娱乐系统。随后出现了旨在提高驾驶安全性的高级驾驶辅助系统(Advanced Driver Assistance Systems ,ADAS)。Research and Markets 的分析师就曾预测,在 2016~2021 年,ADAS 市场将以年复合增长率 10.44% 暴涨。


移动市场的最近进展加速了这一变化。智能手机为汽车带来了新功能和新应用,而移动处理器的标准化的 MIPI 接口的开发,帮助降低了将这些功能集成到汽车中的成本。如今,复杂的汽车娱乐系统不仅提供信息,还提供娱乐;而 ADAS 解决方案则带来了广泛的安全功能,包括自动制动、车道检测、盲点检测和自动平行停车等功能。


为了实现这一目标,越来越多的厂商将机器视觉系统集成到汽车中,以监控车内司机和道路状况。这些嵌入式视觉系统能够跟踪司机的头部和身体的运动情况来发现困倦或分心的迹象,同时支持自动驻车、倒车辅助、盲点检测、交通标志监控和防撞的外部摄像头数量也在不断增加。新的应用如车道偏离预警系统,将视频输入和车道检测算法相结合,以确定汽车在道路上的位置。因此,汽车制造商现在在每辆汽车上整合了许多摄像头。为了打造这些新的 ADAS 功能,设计师预计他们需要将前置摄像头用于紧急制动、车道检测、交通标志识别,而侧面和后置摄像头则用于盲点检测、停车辅助和两侧来车警告系统。


汽车制造商在构建这些系统面临的瓶颈之一是 I/O。一般而言,现在的处理器都有两个摄像头接口。然而许多 ADAS 系统需要多达 8 台摄像头才能满足图像质量要求。在理想的情况下,设计师可以使用一种解决方案,使它们能够协同处理资源,从多台摄像头中拼接多个视频流,或者在将数据传送到单个流中的应用处理器之前,在摄像头输入上执行各种图像处理功能。事实上,大多数 ADAS 解决方案的一个共同特点是具备鸟瞰功能,可以从多台摄像头收集数据,并在汽车上方 20 英尺处为司机提供实况视频。


从前,设计师曾经使用单处理器来驱动每块显示器。现在,设计师可以使用单个 FPGA 替换多个处理器,汇总来自每台摄像头的所有传入数据,将图像拼接在一起,进行预处理和后处理,并将图像发送到系统处理器,如下图所示


这些新的视觉和传感器功能为自动驾驶汽车的引入奠定了基础。例如,Cadillac 今年即将推出的 SuperCruise,就是业界首款免提驾驶应用之一。这项新技术有望通过不断地分析司机和道路的状况,使司机更加安全,精确的激光雷达数据库则提供道路的细节,先进摄像头、传感器和 GPS 实现了对动态路面情况做出实时反映。


智能工厂

在工业领域中,人工智能和边缘计算应用有望在智能工厂中发挥越来越重要的作用。自 2011 年工业 4.0 的概念首次提出,新一代的智能工厂将集成先进的机器人技术、机器学习、软件即服务和物联网,改善组织并最大限度提高生产力。


工业 1.0 标志着制造业通过水力和蒸汽机实现工厂机械化;工业 2.0 则反映了由制造商整合计算机和自动化所定义的电力驱动产品的大规模生产;即将到来的工业 4.0 则将网宇实体系统(cyber-physical systems)引入到生产中,以监控智能工厂的物理过程,并利用人工智能资源做出分散的决策。这一演变将通过引入大数据和分析、IT 和物联网的融合、机器人技术的最新进展以及数字工业链的发展推动行业的数字化转型。此外,通过彼此之间以及操作人员的交流,这些物理系统将成为 IIoT 的一部分。


工业 4.0 的智能工厂与现有工厂有何不同之处?它将为机器、设备、传感器和人员之间提供接近通用的互操作性和更高水平的通信。其次,它将高度重视信息透明度,系统通过传感器数据创建物理世界的虚拟副本,从而创建情景化信息。此外,智能工厂的决策将高度分散,使网宇实体系统尽可能自主地运行。最后,这个工厂的新发展将提供高水平的技术援助,系统将能够互助解决问题,做出决策并帮助人类完成可能非常困难或危险的任务。


不同的需求

设计师真的需要让边缘设备具备人工智能这些新功能吗?传统上,在数据中心采用深度学习技术的设计人员严重依赖高性能 GPU 来满足苛刻的计算要求。而为边缘设备带来人工智能的设计师并没有那么奢侈。他们只需计算效率高的系统,能够满足准确的目标,同时符合消费市场中通常存在的严格的功耗和碳足迹的限制即可。


无论是智能家居的安全系统,智能城市的自动照明系统,下一代骑车的自动驾驶方案,还是智能工厂的智能视觉系统,它们都需要能够实时处理高清数字视频流的高性价比计算引擎。它们还需要高容量固态存储器、智能相机或传感器,以及先进的分析算法。


通常而言,这些系统中的处理器必须执行各种任务:从图像采集和镜头校正到图像处理和分割。在一些应用中,设计师可以使用各种类型的处理器来满足上述需求:从微处理器、图形处理器(raphics Processing Units,GPU)和数字信号处理器(Digital Signal Processors,DSP),到现场可编程逻辑门阵列(Field Programmable Gate Arrays,FPGA)和专用标准处理器(Application Specific Standard Processors,ASSP)。每种处理器架构都有其独特的优缺点。在某些情况下,设计师将多种处理器类型组合到异构计算环境中。在其他情况下,他们可以将多种处理器类型集成到一个设备中。


解决方案的需求在不断增长,利用应用程序支持和制造规模,与移动处理器和 MIPI 兼容的传感器及显示器,并使用人工智能、机器学习和神经网络,使边缘设备智能化。在机器学习中,像图像识别这样的应用的神经网络需要海量数据和多种算力来开发数据结构并分配权重。因此,对于这类应用的机器学习通常出现在数据中心并不奇怪。


一旦模型训练完毕并移植到嵌入式系统中,设备就必须更快、更有效地作出决策。在大多数情况下,设计师需要一种将计算效率与低功耗、占用空间小相结合的解决方案。


业界普遍认为,机器学习需要高度专业化的硬件加速,但需求因任务而异。例如,用于训练应用程序的硬件设计师专注于使用 32 位浮点运算的高准确度计算。在网络边缘上,执行推理的设计师更愿意牺牲精度来提高处理速度或降低功耗。在某些情况下,使用定点计算的应用程序可以在消耗更少的功率的同时,为浮点应用程序提供几乎相同的推理精度。


在这种情况下,ECP5 FPGA 被用于在边缘设备上实现一个面部识别应用的卷积神经网络 (CNN) 加速器。


在某些情况下,能够支持这种设计灵活性的处理器在这些类型的应用中提供了明显的优势。例如,FPGA 结合了广泛的嵌入式 DSP 资源与高度并行的结构,在能耗、占用空间和成本方面具有竞争优势。在 Lattice Semiconductor 的 ECP5 FPGA 中的 DSP 模块可以低于使用浮点运算的 GPU 的功耗 / 频率来进行定点数学运算。


与此同时,神经网络的行业研究仍在继续。最近,Lattice Semiconductor 与一家面向嵌入式应用的高性能软核处理器开发商合作,为面部检测应用开发基于神经网络的推理解决方案。该解决方案在不到 5000 个 LUT 的 ice40 5k FPGA 上实现。使用具有定制加速器的开源 RISC-V 处理器,这个设置大大降低了功耗,同时缩短了响应时间。


结论

边缘计算对基于人工智能系统的开发人员而言,是一个巨大的挑战。随着设计师水平的提高,边缘计算需求将会增长,从而能够更快、更准确地应对不断变化的环境状况。为了满足边缘计算这一新兴需求,企业需要寻找开发人员采用各种技术。

热点新闻
点击次数: 12
8月11日,设备银行赋能高等院校科研教育技术研讨会在深圳职业技术学院隆重召开。来自北方工业大学、湖南师范大学、广东工业大学、深圳大学、湖南工业大学、深圳高训中心、湖南科技职业学院、中山火炬职业技术学院等数十家高校的专家老师们齐聚一堂,就工业互联网在高等院校教学、科研等技术应用展开交流。本次研讨会由深圳职业技术学院、湖南师范大学、深圳市矩形科技有限公司和深圳市老狗科技有限公司联合举办。在深圳职业技术...
2018 - 08 - 14
点击次数: 21
一、开门见山名词解释:设备银行:工业互联网极简开发工具,极简接入、分析、显示、控制。(设备银行 万物极简互联)数字双胞胎:通过将工业实际设备上的数据通过设备银行投影到云端,并在云端根据这台设备进行建模。这时云端的这个数字镜像与实际设备之间是完全相同的,简称为数字双胞胎。EBOX:设备银行超级网关,带一套协议适配软件,支持任意485、以太网协议设备的上云,同时可实现两种任意协议间的互相转换,同时EB...
2018 - 08 - 06
点击次数: 24
第十届深圳国际物联网博览会夏季展(IOTE)于7月31日上午在深圳会展中心隆重召开。本次博览会由中国物联网产业应用联盟主办,深圳市物联传媒有限公司、深圳市易信物联网络有限公司协办。IOTE由物联传媒集团创办于2009年6月份,今年已是第十届,是国内目前规模宏大、专业度高的物联网展之一,同时也已成为国内物联网产业发展的风向标。此次参展的企业展商以集成应用为导向,覆盖完整的产业链,包括物联网感知层(R...
2018 - 08 - 03
Copyright ©2017 - 2018 深圳市老狗科技有限公司
犀牛云提供企业云服务
关注我们
0755-8966 6680
合作交流
微信小程序
5
电话
  • 0755-8966 6680
6
二维码
回到顶部