当前位置:主页 > 互联网 >

互联网

‘bob直播平台’地平线联合创始人兼副总裁黄畅:做AI计算平台的地平线要有边界感|CCF-GAIR2019

时间:2021-09-07 08:27 点击次数:
  本文摘要:的产品将来会在各个层面给我们的社会生活留下深刻印象,AI是围绕数据的计算和处理,特别是智能层面的处理。2025年,所有数据中最多25%是动态数据,其中95%以上来自IoT终端。到2025年,全球数据总量的20%与生产、安全性密切相关。 如何更好、更慢、更安全地处理这些数据是关键。今天上午的特别场所是5G和AIoT,5G技术的发生使边缘计算成为可能性和紧迫的市场需求。对于5G技术来说,必须计算MEC多接入点的边缘。

bob直播

的产品将来会在各个层面给我们的社会生活留下深刻印象,AI是围绕数据的计算和处理,特别是智能层面的处理。2025年,所有数据中最多25%是动态数据,其中95%以上来自IoT终端。到2025年,全球数据总量的20%与生产、安全性密切相关。

如何更好、更慢、更安全地处理这些数据是关键。今天上午的特别场所是5G和AIoT,5G技术的发生使边缘计算成为可能性和紧迫的市场需求。对于5G技术来说,必须计算MEC多接入点的边缘。它是基于5G的最重要的应用,缺乏这种应用,5G技术的推广和普及缺乏拉力,英特尔也说过。

边缘计算了没有密码的AI物联网的核心课题吗?每辆自动驾驶汽车每天产生600-1000TB的数据,与2015年整个互联网产生的数据相同,现在每辆自动驾驶汽车都有十几个照相机,像激光雷达一样,照相机分辨率高,清晰度高,帧率低。边缘计算的核心课题是如何提高计算的可靠性,使其在离线时能够长期运行,拒绝安全性、合规性符合隐私,任何数据都必须经过脱敏处理才能上传到云中。数据传输,无论是有线还是无线,从成本功耗和技术的架设来看,成本并不低。

5G技术密码边缘的传输,大约在几百米以内的传输,主要网络的比特率没有变化,数据网络不会大幅度招揽,5G基站附近不会产生数据的堰塞湖需要慢慢计算处理。上传其中非常有意义的部分是有效的数据压缩方式。边缘计算也具有配置灵活性、高效合作的特点,最近被称为车道合作的冷语,如果自动驾驶是根据特斯拉的路径,依赖于车本身的能力进行的话,L5级自动驾驶的必由之路也有可能,现在L4自动驾驶在现实环境中允许车辆运营的环境和地区,在所在地区配置路线的改建可以大幅度缩短自动驾驶投入规模化运营的时间,在这里也可以反映出边缘计算的终端低动态计算增加反应延迟,无疑是自动驾驶的适当条件。传统只有一个终端,一个云,所有的数据都从终端到云,5G的发展使边缘的计算成为新的变量,但边缘的计算最终会给商业模式带来转换,包括现在的职业生涯、传统的设备商,边缘的计算他们都有很大的商机让我们来看看AI普惠简化和民主化的背景。

数据计算促进了巨大的能源消耗。举个例子,2017年全国实现了数据统计资料,全国有很多中小数据中心,到处都有。例如,在我老家贵州,那边的水电、煤电非常丰富,有很多洞穴,气候炎热特别适合开设机房。

2017年中小数据中心耗电量比三峡大坝的发电量多,等量的碳排放量比民航中心的碳排放量多一倍,比民航的碳排放量多一倍,是可怕的数据。在定程度上是中国,全国各地也大规模建设数据中心,Facebook在海底建设数据中心,仅次于的数据中心位于北极圈,功率达到1000兆瓦。实现AI的企业,无论是算法、应用程序还是芯片,都必须分担社会责任。

未来没有大的AI计算市场需求。举个例子,在谷歌这期间,他们训练了非常牛的模型,进一步使用NANS自动检索的技术,调用了成千上万的GPU跑了两个月,找到了好的结构,翻译了机器的模型,看到了动态翻译的模型。但是为了训练这个模型,你知道要消耗多少电力吗?替换成碳排放量相当于五辆轿车一年的排放量,意味着训练一个模型训练一次。

bob直播平台

配置模型展开推理小说,随着时间的快速增长,能源消耗量是百倍、千倍的快速增长。我们不能忽视享受GPU集体训练、推理小说背后的巨大能源消耗。

最近,人类社会近年来不可避免的是二氧化碳的碳排放量急剧减少,从几十年的范围来看,据说是挖墓,这是我们的社会责任。地平线应该做什么?我们想定义现实的AI芯片性能,这与功耗、成本有关。

传统的芯片性能告诉我们,PPA、PowerPerformanceaera,比如一秒钟执行多少指令?现在主流的是AI芯片每瓦计算多少。(此外)TOPS/$。近10%是我们自己测量的,经常被DDR比特率Block寄居。

获得TOPS/$的利用率,约为50%或80%。TOPS在多大程度上改变了AI的性能,典型的是算法处理速度和精度,或者在单位时间内以低精度处理多少数据?只有把这些东西放在一起,才能得到确实的AI性能,TOPS产生了多少AIPerformance,算法大幅度发展,数据大幅度减少,能够计算出这么多压力,能够处理多少数据?你能提高性能吗?设备的利用率是框架和编译器的要求、框架和算法,将算法转化为框架的质量、序列和持续执行模式,Performance是地平线关注的核心,我们的核心是算法的进化、框架的同行。以下是算法算法进化的时间轴,时间大幅度前进,轻量化算法超过更好的精度,完全相同的计算量提高了精度和处理的速度,不可避免地将算法应用于传统的计算结构,传统的计算结构没有充分考虑计算的变化、算法在变化中计算的模式,计算结构没有考虑好,算法给计算结构带来的变化不会明显上升。

地平线需要更好的预测、实现、自由选择未来确实是最重要的AI算法趋势,废弃算法、发展趋势,带入结构,预先将未来变成主流的可能性,最有效的算法最早考虑计算结构是最重要的。前两年,大量的人工智能处理器专注于优化3×3卷积,并以看起来非常幸福的方式实现。

结果是算法的发展趋势没有实现。3×3的密集卷积被抛弃,未来的发展方式不会政治宣传过去拟合的发展模式。对于当前主流算法设计的计算结构,在当前算法发展缓慢的时代,当你确实拿出来的时候,一年两年后容易出局是因为低利用率。

传统的GPU通过比较传统的方法实现,他找到新的算法部署后也无法提高精度。我们特别强调算法和芯片的优化,考虑到灵活性和通用性,最重要的是执着于能源效率和性价比。有很多事情要做,一定程度上是算法和结构,编译器和外延也很多。例如,框架设计必须考虑未来最重要的场景中的重要算法。

我们必须去实验、探索、识别,还包括与行业普遍的交流,共同定义未来最重要的场景是什么,未来最重要的算法是什么。产品驱动的想法展开了灵活的结构传递,结构本身是设计,可以像软件一样展开缓慢的传递。计算结构的构建技术与更多软件有关,现在流行的HLS技术现在已经被用作慢慢回来的结构,甚至芯片的模型,我们的第一个效率考虑到灵活性,结构、算法和连接他们的编译器,如精致的芯片上存储器、计算子弹性张量核、模型结构的优化、编程流程处理结构、计算子芯片的领导优化、简化指令集设计,我实现了算法名门,我和结构师有很好的辩论,我反感的表达意见是软件能做到的这是一个明确的例子,左边的图是一定程度上的两个芯片处理大图小模型,如果我们不进行专业的优化,就像GPU的流程处理一样,找到其帧率在200兆以上,DDR的比特率得到保证,只有34%。通过大量的合并、多层的融合,通过各种强大的机制,各种内部结构的设计特征留下编译器的巨大空间进行优化,可以将其利用率提高到84%,帧率提高3倍,比特率提高了数量水平。

我们的芯片面积小,芯片的存储和很多AI芯片的存储不是特别大,而是有点小。基于非常软件的推进、驱动的设计,留下了软件、编译器的巨大空间,使我们的硬件效率非常低。

bob直播平台

另一个明确的例子是,我们用芯片在CityScapes实现2048×1024、19种,像素水平的语义分割,200瓦以上的GPU可以制作74.8%的精度,速度为8毫秒,单芯片的功耗为100瓦,芯片面积为400平方米以上这不会产生什么后果?图中展示的同时,检查重点,分割,而且芯片反对四路,这是我们的标准360度视觉感觉方案,12个照相机,4个鱼眼,8个长时间,获得非常丰富的视觉和感觉,这已经是标准套件,是我们的Matrix自动驾驶计算平台,获得了很多奖项,包括CES等很多机构的奖项GPU跑完这个,GPU一般做不到。我们可以用三个芯片,比GPU低一个数级芯片,低一个数级成本解决问题。这是另一个case,技术可以用作三维建模,大部分视觉建模,可以用非常低的功耗进行动态高速的三维建模。

第一次看图的时候,不觉得是用激光扫描的图,前面的照相机看前面的画面,就像驾驶记录器一样,可以对三维场景展开高精度的图,这个技术也和海外的制造商合作,已经进入了规模应用的阶段。前面说了很多算法和芯片的变化,意味着有这些是创造性的,必须更加方便地利用。软件开发是质量的变化,1.0时代我们通过人们解读规则,把简单的问题废除成很多子规则,用差异化的模型叙述,废除解决问题比较好。软件开发的时代已经成为数据驱动,只能对问题收集数据展开标记,只剩下的事情,无论怎样废弃,建模都可以转移到机器学习,特别是深度神经网络的模型、方法。

这不会给软件开发带来巨大的变化。这是Reference,访问主流框架,对我们的芯片进行分析、高效的训练,测试、分析最后配置在我们的芯片上,这是对外开放的平台,也反对开放的方向。数据、AI模型和设备构成闭环,该闭环融合在高速循环、缓慢前进的AI技术发展和商业落地。

我们经常认识,什么是认识?芯片多年来认识也很少。如果我们组成工具链,开发人员的数量可以大幅度降低,开发人员的时间大幅度扩大。右边是传统的工具链,只有专业的专家才能应用,但是充分的灵活性,充分的基础,可以解决问题的各种问题,由于开发者的人群有限,资源瓶颈不足,有充分水平的AI开发技术人员,左边是堵塞的SQL,不能开高频的专业场景,其应用于场景非常熟悉,因此我们寻找高门槛,但面积充分赋予一切能力使每个人的生活更加安全、更加幸福是地平线的愿景,也是我们创办这家公司的想法。

这张图从上到下可以看到碎片化的场景,智能城市、智能商业、自动驾驶、服务机器人、大脑模块,中间有多种AI计算技术。从人的智能顺序可以分为感官、建模、预测、决策、理解,以下是标准化的AI计算平台,包括硬件、芯片、软件、工具链和标准算法。地平线定位技术的能力,不接触数据,不适用。

我们获得了性价比高的芯片,具有充分的功耗和效率,对外开放的工具链和算法模型的例子,在关注自动驾驶和AIoT的同时,也加入了生态开源社区,加快了AI的能力。这是我们新明确提出的口号,AITHORIZON,我们希望建立面向整个行业的标准化AI应用于平台,使我们的客户能够更快地普惠AI技术,教育大家的生活,JourneyTogether是我们肃穆的承诺相关文章:《车载智能计算基础平台参考结构1.0》宣布,地平线牵手主机厂推进自动驾驶落地牵手理想,地平线如何为理想的ONE制作正确的全车语音交流采访地平线牵手创始人&副社长黄畅:AI界面芯片开发周期可以落地原创文章,禁止发表。下一篇文章发表了注意事项。


本文关键词:‘,bob,直播,平台,’,地平线,联合,bob直播,创始人,兼

本文来源:bob直播-www.l33tapp.com

Copyright © 2005-2021 www.l33tapp.com. bob直播平台科技 版权所有 备案号:ICP备51962031号-2

在线客服 联系方式 二维码

服务热线

079-67648621

扫一扫,关注我们