当前位置:首页 >> 中药方剂 >> 详解AILHC(一):2012年的AlexNet到底做对了什么?

详解AILHC(一):2012年的AlexNet到底做对了什么?

发布时间:2024-11-06

算法之外的重大突破很重要,但常用专供的 GPU 嵌入式使我们需要在必要的短时间内努力学习格外多样的关系(网络格外深、格外大 = 用于预测的变量格外多),从而提高了整个网络的抽样。如果并未能在必要的短时间框架内管控所有数据资料的推算意志力,我们就不亦会就让到深努力学习应用的相当多采行。

如果我是一名 AI 大众传媒,我需要关心管控器吗?

作为一名 AI 大众传媒,你决心专注于探索一新模型和意念,而不决心过多忧虑外表不相关的解决办法,如嵌入式的运行方式。因此,虽然理就让的解答是「不,你不需要了解到管控器」,但实际的解答是「不太可能还是要了解到一下」。如果你十分感有兴趣中层嵌入式以及如何试验性可靠性,那么你的侦探和操练短时间就亦会再次发生变化,你亦会对此感到惊讶。

各种并行化电子技术对于矩阵自然数的加速特性。

如果讲嵌入式,你所牵牛的短时间不太可能亦会多 2-3 倍,有时甚至多一个数量级。简单地扭转做到矩阵自然数的方式不太可能就让尽办法你收获巨大的可靠性进一步提高(或伤亡)。可靠性不济不太可能亦会阻碍你的生产力以及你可以管控的数据资料量,并事与愿违扼杀你的 AI 短时间尺度。对于的公司大规模开展人工智慧其业务的企业来说,这相当于伤亡了数百万美元。

那么,为什么不能尽不太可能受益最佳可靠性呢?因为我们还并未短时间内降到必要的「user-to-hardware expressiveness」。我们有一些有效利用嵌入式的用例,但还没泛化到「完整版即用」的程度。这里的「完整版即用」指的是在你写出一个全一新 AI 模型以后,你无需手动调整API或软件堆栈就能得益于你的嵌入式。

AI User-to-Hardware Expressiveness。

上图说明了「user-to-hardware expressiveness」的主要挑战。我们需要准确地描述软件需要,并将其去除成嵌入式层(管控器、GPU、文件系统、网络等)需要了解的句法。这里的主要解决办法是,虽然左左下角(programming frameworks)主要是面向软件的,但将编程代码去除为机器码的右左下角却不是。因此,我们需要依靠智能的API、坎和脚本句法来无缝地将你的高级别代码去除为机器表示。

这种语句鸿沟难以弥合的或许有两个:

1)嵌入式中所有丰富的方法来表达多样的推算。你需要告诉他比如说的管控元素的数量(如 GPU 管控核心)、你的程序需要的文件系统数量、你的程序所展示的文件系统采访方式也和数据资料重用并不一定,以及推算图中所各有不同部份之间的关系。以上任何一种都不太可能以意就让不到的方式对种系统的各有不同部份造成压力。为了克服这个解决办法,我们需要了解到嵌入式 / 软件堆栈的所有各有不同层是如何交互的。虽然你可以在许多常见的片中中所获得良好的可靠性,但现实中所还有无尽的长尾片中,你的模型在这些片中中所不太可能展示出要好。

2)虽然在推算21世纪中所,软件是很慢的,嵌入式是快的,但部署21世纪却在以忽略的方式运行:深努力学习应用领域准备迅速变化;每天都有一新意念和软件格外换公布,但紧密结合、外观设计和试生产(流片)高素质管控器需要一年多的短时间。在此期间,目的软件不太可能并未再次发生了显著的变化,所以我们不太可能亦会发现管控器总工程师一年前的新意念和外观设计假设并未过时。

因此,你(软件)仍然需要探索正确的方法来辨认推算用时瓶颈。为此,你需要了解到管控器,特别是当前的 AI CERN,以及它们如何与你的 AI 程序交互。

原意客户端:@adi.fu7/ai-accelerators-part-i-intro-822c2cdb4ca4

女性长期便秘是什么原因
健康警示
小孩没有食欲怎么办
眼睛干涩用什么眼药水
月经不调的表现症状
视疲劳的治疗方法
阿莫西林颗粒治儿童扁桃体炎好吗
怎样治疗颈椎病最好
先声必奇蒙脱石散
肠胃炎吃什么药好使
标签:
友情链接: