5年后AI所需算力超100万倍,十二家机构联合发表88页长文:「智能计算
AI模型所需的计算能力每100天就会翻倍,远远超过摩尔定律的18—24个月智能计算能打破这种计算困境吗
人工智能是一个拼财力的行业没有高性能计算设备,别说开发基础模型,连微调模型都做不到
但如果仅仅依靠硬件和目前计算性能的发展速度,迟早无法满足日益增长的需求,因此需要配套的软件来协调整体的计算能力这时候就需要用到智能计算技术了
最近几天,之江实验室,中国工程院,国防科技大学,浙江大学等多达十二家国内外研究机构联合发表论文,首次对智能计算领域进行了全面考察,内容涵盖理论基础,智能与计算的技术融合,重要应用,面临的挑战和未来展望。
这也是第一篇正式提出智能计算定义及其统一理论框架的综述文章全文结构如下
AI开启大规模计算能力时代
人类社会正在从信息社会走向智能社会,计算已经成为规范和推动社会发展的关键因素在万物互联的数字文明新时代,传统的数据计算已经远远不能满足人类日益增长的对更高层次智能的需求
人们对智能计算日益增长的兴趣,加上计算科学的发展,对物理世界的智能感知和对人类意识认知机制的理解,共同提高了计算的智能水平,加速了知识的发现和创造。
最近几年来,计算和信息技术发展迅速。由于深度学习的空前普及和成功,人工智能被确立为人类探索机器智能的前沿领域,并在此基础上取得了一系列突破性的研究成果,包括:
Yann LeCun提出的卷积神经网络,Yoshua Bengio在深度学习因果推理领域的贡献,人工智能的先驱之一杰弗里·辛顿在2006年提出了深度简约网络模型和反向传播优化算法。
jurgen·施密德胡伯提出了广泛应用的递归神经网络和长时短时记忆,并成功应用于处理序列数据,如语音,视频和时间序列数据
2016年3月,由DeepMind推出的人工智能围棋程序AlphaGo与世界顶级人类围棋大师李世石对弈,引起了全世界前所未有的关注这场划时代的人机大战以人工智能的压倒性胜利而告终,成为将人工智能浪潮推向新高度的催化剂
人工智能的另一个重要推动者是大规模预训练模型的出现,这些模型已经广泛应用于自然语言和图像处理,借助迁移学习来处理各种应用。
例如,GPT—3已经证明,具有高结构复杂性和大量参数的大规模模型可以提高深度学习的性能受GPT—3的启发,出现了大量的大规模深度学习模型
智能和计算
计算能力是支撑智能计算的重要因素之一。
鉴于信息社会天文数据源,异构硬件配置和不断变化的计算需求,智能计算主要通过纵向和横向架构满足智能任务的计算能力需求。
垂直架构的特点是同构计算基础设施,主要通过应用智能方法提高资源利用效率来提升计算能力。
相比之下,水平架构协调和安排异构和广域计算资源,以最大限度地提高协作计算的效率。
例如,2020年4月,为了满足全球新冠肺炎研究的计算需求,Foldinghome与40万名计算志愿者合作,在三周内实现了2.5Exaflops,比世界上任何一台超级计算机都要好。
尽管在智能和计算方面取得了巨大的成功,但这两个领域仍然面临一些困难。
智力的挑战
目前使用深度学习的人工智能在可解释性,普适性,进化性,自主性等方面还没有得到解决。
目前大部分人工智能技术与人类智能相比只能发挥微弱的作用,只在特定的领域或任务中发挥作用实现强大而通用的人工智能还有很长的路要走
最后,从基于数据的智能到更多样化形式的智能,包括感知智能,认知智能,自主智能和人机融合智能,也存在重大的理论和技术挑战。
计算的挑战
数字化浪潮带来了应用,连接,终端和用户的空前增长,以及产生的数据量,这些都需要巨大的计算能力。
例如,人工智能所需的计算能力每100天翻一番,这意味着未来5年有望增长100万倍以上。
伴随着摩尔定律逐渐失效,跟上如此快速增长的计算能力需求变得非常具有挑战性。
摩尔定律:集成电路中可以容纳的晶体管数量每两年就会翻一番。
智能社会大规模任务的处理依赖于各种特定计算资源的有效组合,传统的硬件模型不能很好地适应智能算法,极大地限制了软件的发展。
什么是智能计算。
到目前为止,智能计算仍然没有一个被广泛接受的定义。
一些研究人员将智能计算视为人工智能和计算技术的结合,但这种观点将智能计算的定义局限于人工智能领域,而忽略了人工智能的固有局限性以及人,机器和事物三元交互的重要作用。
另一派将智能计算视为计算智能,模仿人类或生物的智能来达到解决特定问题的最优算法,将智能计算视为一种算法创新。
在这篇论文中,研究人员从解决复杂的科学和社会问题的角度出发,考虑到人类社会空间,物理空间和信息空间这三个世界基本空间日益紧密的融合,提出了智能计算的新定义。
智能计算的定义
智能计算是指在支持世界互联的数字文明时代,包含新的计算理论,方法,架构体系和技术能力的领域智能计算可以根据具体的实际需求,以最小的成本完成计算任务,匹配足够的计算能力,调用最佳的算法,得到最佳的结果
智能计算的新定义是为了满足人类社会,物理世界和信息空间融合中快速增长的计算需求而提出的智能计算以人为本,追求高计算能力,高能效,高智能,高安全性
其目标是提供通用,高效,安全,自主,可靠和透明的计算服务,以支持大规模和复杂的计算任务图1展示了智能计算的整体理论框架,体现了支持人,物理,信息一体化的各种计算范式
首先,智能计算既不是对现有计算机,云计算,边缘计算等计算技术的替代,也不是简单的整合相反,它是一种计算形式,根据任务需求,系统,全面地优化现有计算方法和资源,解决实际问题
相比之下,现有的几大计算学科,如超级计算,云计算,边缘计算,分属不同的领域:超级计算以实现高计算能力为目标,云计算强调跨平台/设备的便利性,边缘计算追求服务质量和传输效率。
智能计算动态协调边缘计算,云计算和超级计算之间的数据存储,通信和计算,构建各种跨学科的智能计算系统,支持端到端的云协作,云间协作和超级计算互联。
智能计算要充分利用现有的计算技术,更重要的是推动新的智能计算理论,架构,算法和系统的形成。
其次,提出智能计算的概念,解决人—物—信息空间一体化未来发展中的问题。
伴随着大数据时代信息技术应用的发展,物理空间,数字空间和人类社会的界限变得越来越模糊。
人类世界进化成了一个新的空间,这个空间的特征是人,机器和事物的紧密结合社会系统,信息系统和物理环境构成了一个大的动态耦合系统在这个系统中,人,机器和事物以高度复杂的方式融合和交互,推动了未来新计算技术和应用场景的发展和创新
参考资料:
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。