Products 新闻资讯

实现边缘计算AI得先突破「记忆体墙」…

日期: 2018-07-17
浏览次数: 50

为快速成长的人工智能(artificial intelligence;AI)应用实现高效率的边缘计算性能,必须解决「记忆体墙」(memory wall)的瓶颈,并推动新的边缘计算架构解决方案;这是法国CEA Tech旗下技术研究机构Leti关注的边缘计算重点领域。


Leti执行长Emmanuel Sabonnadiere在Leti年度创新会议上接受《EE Times》访问时表示,业界需要一种高度整合的整体途径,将AI从软体和云端移至边缘(edge)的嵌入式晶片。


Sabonnadiere说:「边缘确实需要一些创新,採用除了CMOS以外的不同架构,从结构上整合至系统,并从云端实现自主性——例如针对自动驾驶车,您需要云端尽可能地独立作业。」


他认为恩智浦(NXP)可望成为驱动在边缘实现更多运算的一项关键指标,因而针对高通(Qualcomm)併购恩智浦一案发表评论:「你觉得高通为什么要买下恩智浦?它是为了(边缘计算)的感测,而将数位置于感测之后。」


为了解决运算架构典范,Sabonnadiere期望能在Let与史丹佛大学(Stanford University)电气工程和电脑科学系教授Subhasish Mitra带领的团队合作中取得一些突破。Mitra的研究已经进展一段时间了,专注于为庞大资料和密集互连应用探索记忆体内处理(processing-in-memory)的新架构。这项研究获得了美国国防部先进研究计划局(DARPA)、国家科学基金会(NSF)、Semiconductor Research、STARnet SONIC和史丹佛大学SystemX联盟的成员公司共同资助 -


Sabonnadiere谈到晶片验证时说:「我们深信这是解决『超越摩尔定律』(more-than-Moore)挑战的前进方向,并且已经要求Mitra教授打造这一研究展示了。」


在会议上,Mitra表示,庞大的资料超级风暴正袭卷而来,而其运算需求远超过处理能力,因此必须使用支援先进3D整合的运算奈米系统架构。


Mitra说:「资料必须经过处理才能创造决策,但目前还有太多我们无法处理的『暗黑』资料。以Facebook为例,它必须採用256个Tesla P100 GPU,才能在1小时训练好ImageNet,这在以前大约需要几天的时间。」


提高运算性能的选择


那么目前提高运算性能的选择是什么?Mitra说,其一是要有一个更好的逻辑开关——但这方面的实验展示并不多。第二种是使用设计「技巧」,例如多核心、加速器或电源管理技巧。但他也补充说,可用的技巧并不多,而且当实施这些技巧而使设计变得更複杂,甚至会使验证变得更困难。另一个挑战则是Mitra所谓的「记忆体牆」。


Mitra说:「各种类型的庞大资料应用中,一个共同点就在于记忆体牆——系统需要更有力地存取记忆体。」


Mitra说,这就是专注于记忆体的运算概念所在,也是与Leti合作的关注重点——Sabonnadiere希望将在这方面取得突破。它使用先进3D整合使得运算更接近于资料。该晶片採用碳奈米管(CNT),因为Mitra表示它们是唯一可以超越CMOS和电阻式随机存取记忆体(RRAM)的技术。


RRAM和碳奈米管彼此垂直建构,形成具有逻辑层和记忆体层交错的密集3D电脑架构。在这些分层之间插入超密走线,应该就能以这种3D架构解决通讯的瓶颈。


Mitra将这个问题比喻为从旧金山(San Francisco)到加州柏克莱(Berkeley)之间的交通挑战——由于只有三座桥梁可以穿越两个都市,因而造成了交通堵塞。然而,如果打造更多的桥梁——或者在他提出的3D架构情况下,就能够解决多奈米级交错层间过孔的瓶颈。


记忆体和软体2.0的突破


Leti首席科学家Barbara De Salvo表示,业界并未充份重视新兴记忆体技术,这些技术通常仍被视为利基技术。


De Salvo说:「在记忆体领域,业界仍持续採用传统技术。而像电阻式RAM、磁阻式RAM和相变记忆体等新兴技术仍未被充份利用。但它可望在实现新型架构方面带来巨大突破。」De Salvo并补充说,在未来几年,在软体中使用深度学习和AI也可能中在运算方面取得重大突破。


她说:「我指的是一个使用边缘计算深度学习和机器学习来开发软体的新概念。软件是一个系统中最昂贵的部份之一。通过使用边缘计算深度学习产生软体,以前需要花六个月的一些任务边缘计算只需要几天的时间。」

热点新闻
点击次数: 7
3月28日至31日,第二十届深圳国际机械制造工业展览会在深圳会展中心举办,本次展览会有1186家来自机械行业的展商参展,超过9万观众参观。老狗科技以“旧设备改造、新设备上云”为主题的展示,吸引了大批观众围观,极简工业的“极简接入、极简分析、极简应用”的理念,备受同行及设备厂商、用户的青睐。展会期间,老狗科技极简工业接受了CCTV等媒体和协会的专访。4月1日,“极简工业黄埔22期工业互联网技术培训“...
2019 - 04 - 03
点击次数: 16
全国最大规模的机械展之一深圳国际机械制造工业展览会,3月28日,即将开始!要约吗?4月1日下周一,我们将在老狗科技公司会议室举办技术培训。这不是愚人节的玩笑,我们是认真的!欢迎加入!报名扫我
2019 - 03 - 26
点击次数: 37
3月15日,广东工业互联网推动制造业高质量发展高峰论坛在广州市萝岗会议中心召开。本次高峰论坛主题“融通创新,场景落地”,旨在推动工业互联网产业生态不断完善,促进制造业高质量发展。本次会议吸引了来自工业互联网产业链上下游的行业代表参加。同时还为2019届广东省工业互联网专家委员会专家颁发聘书,深圳市老狗科技有限公司总经理郝义军入选本次专家委员会。老狗科技将继续坚持极简、创新理念,携手同行,推进广东工...
2019 - 03 - 18
Copyright ©2017 - 2018 深圳市老狗科技有限公司
犀牛云提供企业云服务
关注我们
0755-8966 6680
合作交流
微信小程序
5
电话
  • 0755-8966 6680
6
二维码
回到顶部