建筑自由创新是RISC-V CCF-GAIR 2020的主要优势。
2020年8月7日,全球人工智能和机器人峰会(CCF-GAIR 2020)正式开幕。CCF-GAIR2020峰会由中国计算机学会主办,由香港中文大学(深圳)和雷锋网络共同主办,由彭城实验室和深圳人工智能与机器人研究所共同主办。从2016年学习与工业的结合,2017年的工业登陆,2018年的垂直细分,再到2019年人工智能成立40周年,峰会一直致力于建设中国人工智能和机器人领域最大、最高、最跨境的学术、工业和投资平台。
2020年8月8日上午,学术界、工业界和投资界的政要聚集一堂,讨论在新的基础设施浪潮下开发人工智能芯片的巨大机遇。
瑞思新科副总裁王炜在"促进人工智能发展的领域体系结构"的讲话中指出,在人工智能时代,计算能力遇到了巨大的挑战,随着进程进步速度的下降,传统的性能改进方法逐渐下降,需要在芯片结构和计算体系结构上有所创新。RISC V的发明者DavidPatterson认为,新的指令集RISC-V将促进芯片体系结构的发展,提高未来的计算能力。
王炜从人工智能芯片的发展、人工智能计算能力在促进RISC-V教学集中的体现、RISC-V的特点和发展等方面阐述了RISC-V在人工智能发展中的作用。
公司是一家专业生产RISC-V开源指令集芯片的公司。我们还通过观察整个芯片的发展历史,了解AI芯片的研究和开发方向,以及整个行业芯片架构的发展方向,展望未来。今天,我主要谈谈对未来AI芯片的发展方向和趋势的一些想法。
探索提高计算能力的新途径
—
如今,拟议中的人工智能主要针对神经网络的具体算法。在基本原理和算法方面,大约30年前就有了一个基本框架。但为什么直到最近几年,很可能从2012年起,人工智能才真正得到了一个爆炸性的应用,并在实践中得到了反映,主要是因为计算能力的提高。
许多权威的业界专家正在讨论计算能力、算法和数据这三个方面中哪个方面更重要,事实上,这三个方面都很重要。从历史发展的角度看,如果算法没有足够的计算支持,就无法在实践中得到真正的应用。有了算法和计算能力,我们必须有大量的数据才能得到我们想要的结果,所以三者之间的关系应该是不可或缺的,但这三个方面的发展程度是一个接一个的,在不同的阶段有不同的发展方向,一个方面可以走得更快,但很快也会带动其他几个方面的共同发展。
有了算法,只有跟上计算能力,我们才能真正发挥作用,对整个社会都有现实意义。目前,在算法改进的道路上存在着很大的挑战。在芯片性能的发展中,摩尔定律预测整个行业将以一定的速度稳步发展。但同时,为了保持摩尔定律的发展速度,除了技术进步外,还包括建筑等方面的进步。例如,为了保持计算能力的增长速度,从最早的单核一代多核并行运算到串行并行协同运算,计算能力不断增长。然而,近年来,现有的思想和方法几乎不能提高计算能力,需要新的思想来取代它们,即芯片结构和计算体系结构的创新。
谷歌TPU的启示
—
例如,谷歌在硬件和软件方面都有着强大的基础。最初制作芯片可能不太好,但后来它一直在挑战算法,以实现计算能力的大幅增长。如果设计出芯片,它的体系结构和算法将从一开始就有效地结合起来,最终的芯片肯定会有更好的性能。
他说:"谷歌的TPU是人工智能史上最具里程碑意义的芯片,亦是业界首个公开及公众关注的人工智能芯片。到目前为止,许多人工智能芯片的基本结构都是在此基础上发展起来的,具有代表性的意义。实际上,这反映了特定领域体系结构(特定领域的体系结构)的强大力量,因为它是一种专门为神经网络算法设计加速的芯片硬件结构。通过优化这一具体目标的机制,性能好、计算能力强、功耗和能耗比好的芯片在当时也达到了很好的目标。当然,也有许多初创企业或成熟公司,其产品、技术的快速发展,更多、更强、更好、芯片的出现。
Google TPU已经达到了第三代,比第一代有了很大的进步。TPU 3采用水冷技术降低能耗。为什么要使用水冷却技术?由于空气散热能力有限,仅靠风机散热能力不够,必须采用水冷方式来保证芯片的正常运行。然而,该芯片主要用于数据中心,需要很好的环境和较高的成本,以保证能耗的有效降低。当应用于终端或边缘端时,这些条件不太可能提供保证,因此,在设计终端芯片和边缘芯片时,思维方式会有所不同。
建筑自由创新是RISC-V的关键优势
—
在具体的实现中,RISC-V的发明者DavidPatterson认为,RISC-V指令组装促进了未来芯片体系结构的发展,真正释放了芯片设计的巨大潜力,使更多的人能够在专用领域实现软硬件的结合,并设计合适的体系结构。
作为一种计算机体系结构,RISC-V是最近一个非常热门的话题。RISC-V的特点是什么?开源,免费,低成本,是RISC-V的绝对优势。从芯片的体系结构来看,它最大的优势是像乐高积木这样的模块化结构。RISC-V将指令集的不同功能子集划分成非常详细的功能子集,不同的模块可以在不同的模块间自由排列和组合,在整个指令集中保留了大量的自动指令集,使用户能够在芯片级结合子集的算法和应用需求,定制最有用和最优的指令。这也是领域具体架构的典型体现。
因此,RISC-V的关键技术优势在于它可以在体系结构上自由创新。在RISC-V指令集中,AI算术能力的改进反映在其矢量扩展指令集中,该指令集指定了与CPU本身高度耦合的扩展指令集。通过对矢量扩展指令集的操作,可以从硬件上加速各种矩阵乘法的运算。目前,所有深入学习、最高计算能力要求都是各种矩阵操作,可以在RISC-V指令集中实现。
此外,由于RISC-V是开源的,它将吸引更多的人加入该体系结构、进行研发、竞争、带来更多的创新,并促进一种可由自身控制的新的基础设施。
对于RISC-V,我们更重视它在终端或边缘的应用。事实上,RISC-V本身没有适合终端或云的属性,RISC-V也可以在云中发挥优势,在高性能、大规模计算方面。然而,作为指令集,应用越复杂,对整个生态的依赖程度就越高,包括编译器、工具链和具体的架构设计。与云相比,边缘端对生态的依赖程度较低,因此RISC-V在云中的应用将晚于边缘应用。