联想构建Edge AI边缘智能平台,开拓“边缘 智能”的新思路

2020-11-16 网络
浏览
[人工智能]联想构建Edge AI边缘智能平台,开拓“边缘 智能”的新思路

11月15日,遐想团体副总裁、遐想研究院人工智能实验室负责人范建平博士,遐想企业科技团体HPC&AI营销总经理于涛应邀出席第二届中国超等算力大会(China SC 2020),与浩瀚着名学者与产业从业者齐聚一堂,配合讨论“新基建”背景下高性能盘算行业的挑战和时机,展现智能算力的最新科技。会议期间,倍受注视的HPC TOP100榜单正式宣布,遐想以35套的效果名列榜首,个中六套位列榜单前十名,这是遐想第六次荣登中国第一。

遐想名列HPC TOP100榜

会上,范建平博士宣布主题演讲,重点展现了遐想边沿AI平台的壮大手艺才,以及在垂直行业中的运用实践。他示意,遐想依托在边沿盘算、人工智能范畴的深耕和积聚,推出了“Edge AI”边沿智能平台。该平台重要包含三部份:

第一,在云端举行模子的初始化和练习。尽人皆知,练习环节是AI算力需求最大、最集合的部份。布置于边沿和端的AI模子,为了保证优越的精度,必需经由历程深度进修算法,在AI服务器上基于大规模的练习数据举行屡次迭代练习才获得抱负的AI模子。这个环节中,AI服务器基本架构与AI 练习管理软件是保证AI练习使命稳固高效运转的症结。遐想企业科技团体现在推出了一系列AI服务器产物,如基于英伟达NVLINK手艺的SG670, 可以设置8张最高端GPU A100的HG680等产物,为人工智能的练习使命供应了坚固的算力保证。同时范建平博士提到了遐想研究院的人工智能练习平台——炼AI巨匠,这是一款运用于遐想研究院内部的、功用雄厚、壮大的AI练习东西,可以应对AI开发历程当中,多机并行、多用户、多使命、多环境等庞杂场景。

第二,在边沿侧借助于Edge AI的练习效果举行决议计划。范建平博士指出:在现实的客户运用场景中出于耽误,决议计划速率,尤其是数据平安的斟酌,愈来愈多的AI盘算会在边沿端完成,而不是把数据发送回数据中心,由数据中心完成盘算再将盘算效果返回。所以,AI的边沿盘算手艺是处理这个问题的症结。范建平博士提到遐想研究院的“遐想大脑”在边沿端的AI布置有静态和动态两种差别的体式格局,两种差别的布置体式格局离别适用于差别的客户场景——在客户练习数据与测试数据具有雷同散布时,我们运用静态布置形式;反之,则动态布置更加合理。尤其在动态布置时,我们需要在边沿侧经由历程不停的练习,升级,再练习,再升级的体式格局,使边沿端的才愈来愈凸起,愈来愈伶俐。但这一历程也是极为斲丧算力的历程,用户面临着大批的GPU盘算需求。范建平博士在这里提出遐想的处理之道——AI算法立异,重点展现了AUTOML增量进修的要领,使得在完成模子动态的同时,大幅度减少了对盘算资本的斲丧与依靠。

遐想团体副总裁、遐想研究院人工智能实验室负责人范建平博士宣布演讲

末了,范建平博士指出,遐想Edge AI平台是由“炼AI巨匠”和“遐想大脑”两个中心部份构成,与遐想企业科技团体等其他营业单位产物已高度连系,可以使云端和边沿装备的算力最大化。如设想了最适配遐想边沿装备的底层算子及其编译器,可以完成低功耗,小模子;同时,Edge AI平台具有边云多AI使命团结功课的才;另外,还支撑企业用户应用本身的个性化数据,竖立企业专属的“伶俐大脑”。