Products 新闻资讯

实现边缘计算AI得先突破「记忆体墙」…

日期: 2018-07-17
浏览次数: 30

为快速成长的人工智能(artificial intelligence;AI)应用实现高效率的边缘计算性能,必须解决「记忆体墙」(memory wall)的瓶颈,并推动新的边缘计算架构解决方案;这是法国CEA Tech旗下技术研究机构Leti关注的边缘计算重点领域。


Leti执行长Emmanuel Sabonnadiere在Leti年度创新会议上接受《EE Times》访问时表示,业界需要一种高度整合的整体途径,将AI从软体和云端移至边缘(edge)的嵌入式晶片。


Sabonnadiere说:「边缘确实需要一些创新,採用除了CMOS以外的不同架构,从结构上整合至系统,并从云端实现自主性——例如针对自动驾驶车,您需要云端尽可能地独立作业。」


他认为恩智浦(NXP)可望成为驱动在边缘实现更多运算的一项关键指标,因而针对高通(Qualcomm)併购恩智浦一案发表评论:「你觉得高通为什么要买下恩智浦?它是为了(边缘计算)的感测,而将数位置于感测之后。」


为了解决运算架构典范,Sabonnadiere期望能在Let与史丹佛大学(Stanford University)电气工程和电脑科学系教授Subhasish Mitra带领的团队合作中取得一些突破。Mitra的研究已经进展一段时间了,专注于为庞大资料和密集互连应用探索记忆体内处理(processing-in-memory)的新架构。这项研究获得了美国国防部先进研究计划局(DARPA)、国家科学基金会(NSF)、Semiconductor Research、STARnet SONIC和史丹佛大学SystemX联盟的成员公司共同资助 -


Sabonnadiere谈到晶片验证时说:「我们深信这是解决『超越摩尔定律』(more-than-Moore)挑战的前进方向,并且已经要求Mitra教授打造这一研究展示了。」


在会议上,Mitra表示,庞大的资料超级风暴正袭卷而来,而其运算需求远超过处理能力,因此必须使用支援先进3D整合的运算奈米系统架构。


Mitra说:「资料必须经过处理才能创造决策,但目前还有太多我们无法处理的『暗黑』资料。以Facebook为例,它必须採用256个Tesla P100 GPU,才能在1小时训练好ImageNet,这在以前大约需要几天的时间。」


提高运算性能的选择


那么目前提高运算性能的选择是什么?Mitra说,其一是要有一个更好的逻辑开关——但这方面的实验展示并不多。第二种是使用设计「技巧」,例如多核心、加速器或电源管理技巧。但他也补充说,可用的技巧并不多,而且当实施这些技巧而使设计变得更複杂,甚至会使验证变得更困难。另一个挑战则是Mitra所谓的「记忆体牆」。


Mitra说:「各种类型的庞大资料应用中,一个共同点就在于记忆体牆——系统需要更有力地存取记忆体。」


Mitra说,这就是专注于记忆体的运算概念所在,也是与Leti合作的关注重点——Sabonnadiere希望将在这方面取得突破。它使用先进3D整合使得运算更接近于资料。该晶片採用碳奈米管(CNT),因为Mitra表示它们是唯一可以超越CMOS和电阻式随机存取记忆体(RRAM)的技术。


RRAM和碳奈米管彼此垂直建构,形成具有逻辑层和记忆体层交错的密集3D电脑架构。在这些分层之间插入超密走线,应该就能以这种3D架构解决通讯的瓶颈。


Mitra将这个问题比喻为从旧金山(San Francisco)到加州柏克莱(Berkeley)之间的交通挑战——由于只有三座桥梁可以穿越两个都市,因而造成了交通堵塞。然而,如果打造更多的桥梁——或者在他提出的3D架构情况下,就能够解决多奈米级交错层间过孔的瓶颈。


记忆体和软体2.0的突破


Leti首席科学家Barbara De Salvo表示,业界并未充份重视新兴记忆体技术,这些技术通常仍被视为利基技术。


De Salvo说:「在记忆体领域,业界仍持续採用传统技术。而像电阻式RAM、磁阻式RAM和相变记忆体等新兴技术仍未被充份利用。但它可望在实现新型架构方面带来巨大突破。」De Salvo并补充说,在未来几年,在软体中使用深度学习和AI也可能中在运算方面取得重大突破。


她说:「我指的是一个使用边缘计算深度学习和机器学习来开发软体的新概念。软件是一个系统中最昂贵的部份之一。通过使用边缘计算深度学习产生软体,以前需要花六个月的一些任务边缘计算只需要几天的时间。」

热点新闻
点击次数: 2
设备银行在高校的应用,同学们玩出了新的花样!在2018年第三届广东省技工院校科技小发明小制作决赛中,深圳技师学院的同学们在指导老师的协助下,应用设备银行做出的物联网小发明获得了一等奖,同时还获得最佳人气奖!恭喜同学们夺得佳绩,设备银行将继续在前行的道路上为你们保驾护航!详情可点击网址观看视频:https://v.qq.com/x/page/q13564k4fpm.html
2019 - 01 - 08
点击次数: 10
行业背景注塑行业作为现代工业最重要的组成部分,随着劳动力成本上升、用户需求升级和新兴技术发展,如何快速响应客户多品种、小批量需求?如何解决行业工艺强依赖专业技师?如何在人力成本急剧上升的情况下,降本增效?如何保障设备可靠稳定运行,减少不必要停机时间?如何做到生产可视化、设备效率数字化?这是作为传统的注塑机械行业面临着转型升级的机遇和挑战。自动化、智能化、数字化是注塑行业提质增效转型升级的必由之路,...
2019 - 01 - 08
点击次数: 23
01大会概括11月23日,中国工业互联网大会在广州南丰朗豪酒店圆满落幕!大会由工业和信息化部、广东省人民政府指导,广东省工业和信息化厅、广东省通信管理局、中国信息通信研究院、工业互联网产业联盟主办。工业和信息化部副部长陈肇雄、副省长陈良贤等相关领导出席本次大会。以“互联融合 智造转型”为主题,旨在推动企业运用工业互联网新功能加快转型升级,促进实体经济高质量发展。大会吸引近三千人到场,空前盛况。02...
2018 - 11 - 29
Copyright ©2017 - 2018 深圳市老狗科技有限公司
犀牛云提供企业云服务
关注我们
0755-8966 6680
合作交流
微信小程序
5
电话
  • 0755-8966 6680
6
二维码
回到顶部