深度理解人工智能,它将如何改变我们人类

2020.07.16
人类智能就是我们大家都具有的这样一个智能。人类智能是从哪里来的?首先是从我们生活和社会实践当中来,其次是我们通过语言、文字、印刷传承下来的智能。所以不要忘了,语言、文字和印刷在人类智能的发展脉络当中是非常关键的一个技术。根据现在考古的发现,我们人类智能进化到今天,经历了大约三百万年,而人工智能其实它发展的历史并不长,只发展了63年。现在一讲人工智能,有的人喜欢得不得了,有的人害怕得不得了,为什么会这样呢?是因为大家使用的关于人工智能的概念不尽相同。
那么首先到底什么人工智能?


高开低走、起起落落,人工智能曲折的前半生

人工智能也可以叫人造智能,是由人制造出来,当然,它是模仿人的一个智能。它肯定要通过一个载体表现出来,这个载体可以是机器人,也可以是一台计算机。人工智能有两个很重要的概念,大家不能混淆。一个概念叫做通用人工智能,或叫强人工智能,就是人工智能的系统,如果它的功能、能力和人是一样的,甚至超过人了,那就叫强人工智能系统。第二个概念叫专用人工智能,或叫弱人工智能,如果这个智能系统只能干一件事,尽管可能比人厉害,没关系,那它也是弱人工智能。比如说我们现在去乘高铁,以前还要检票,现在身份证往那儿一放,刷个脸你就进去了,这就是一个刷脸人工智能系统。语音识别也是同样的道理,不管它做得有多好,比别人强多少,如果它只是这一项功能的话,这就是一个弱人工智能系统。


1

出身“名门”

1956年被称作人工智能元年,我们说那是它出生之年。因为在1956年,有十位年轻的学者在美国的达特茅斯市搞了一个暑期研究所。在那个研究所经过两个月的讨论,就人工智能应该干什么、怎么干,进行了一番讨论,最后写了一个报告,大家公认是对人工智能比较完整的一个描述。

这十个人中当时七个坐在草坪上照了张相,最前面这五个人是非常厉害的“大牛”。左边的四个都是图灵奖的得主,大家知道图灵奖是计算机界的诺贝尔奖;第四位是诺贝尔奖获得者,所以第四位是比较厉害的,他一个人既得了图灵奖、又得了诺贝尔奖;第五位他不用得任何奖,他叫山农,有的翻译成香农,他是信息论的创始人,是我们整个信息领域的一个鼻祖。这十个年轻人在两个月期间讨论了七个问题,包括自动计算机、编程语言、神经网络、计算规模理论,也就是说,做人工智能系统什么样的计算机能做,然后是自我改进,这就是今天所说的机器学习。然后还有抽象,我们现在所有的大数据,你把数据直接喂进去,它是不能处理的,你要把这个数据提炼出来,这就是抽象。然后是随机性和创造性,创造性的思维其实现在的机器还是做不了。他们当时就把人工智能领域需要研究的问题列了一下,所以这一年被称为是人工智能的元年。

从1956年到1976年这二十年,人工智能发展的第一个阶段,主要工作是在模拟大脑是怎么工作的它这个模拟不是说信号级的模拟,而是在更高层面的、在逻辑推理这个层面上去模拟大脑。那么用什么办法来模拟呢?用逻辑推理的手段来模拟。现在回过头来看,在人工智能的第一阶段,留下来比较珍贵的一个成果,就是数学定理证明也就是说,用计算机自动进行数学定理的证明,一个是代数定理证明,一个是几何定理证明,都是由两位华人完成的。一位华人叫王浩,他实际上是和杨振宁先生同时代的人,他主要做的是代数的机器定理证明;还有一位非常有名的学者叫做吴文俊,他的几何定理证明是世界上做得最好的。但是后来发现,仅仅通过模拟人的大脑来实现人工智能这条路太难走,除了机器定理证明做得还不错以外,当时第一阶段设定的其它一些目标都没有完成,比方说希望能够战胜国际象棋的国际冠军、机器能够谱曲等等。实际上只有数学定理证明的这件事完成了,其它都没有完成。后来整个人工智能从高潮跌到低谷以后,学者们就在反思,是不是人工智能走歪路了?技术方法虽然没问题,但是不是要做点实事儿?


2

初露锋芒

学者们反思完了以后,他们就说大概需要做一点对社会有影响力的系统出来,这样大家就会开始认可人工智能了。那什么系统行呢?比如说我们能不能做一些医疗诊断专家系统,可以代替医生诊断疾病。有了这样一些方向以后,根据刚才的逻辑推理,用这种方法去做专家系统。比如说心理咨询专家系统,一个人有了抑郁症或者处于抑郁症前期,他有心理负担的时候,并不愿意去找医生或者朋友说,但如果是计算机,他就可以说了,所以用计算机做一个这样的系统进行心理咨询,可能会有用。

又比如说像故障诊断,最好把那些有限的专家的知识,把它抽取出来做成一个系统,然后放到计算机里。这个计算机可以到现场,直接代替专家去做一些故障诊断,这是一条技术路线;另外一条技术路线,就是模拟神经系统来做专家系统。第二条技术路线在哪些领域是比较有效呢?比如说字符识别、文字识别。以前寄一张明信片,寄一封信,前面都要写邮政编码,那个邮政编码最开始是用人去分拣的,需要耗费很多人力。后来就想能不能用机器自动识别、自动分拣,后来发现用神经网络做这个效果不错,包括今天我们的语音识别,这些东西基本上都是走神经网络这条技术路线的。所以这两条技术路线就导致在第二次人工智能发展专家系统的这三十年,其实真是百花齐放。


但是到了2006年,人工智能又在慢慢跌落,因为当时专家系统虽然做了很多,好用的却不太多,大部分都是演示还不错,真的上线去用的时候效果不那么好。因为很多基于逻辑推理的专家系统,实际上还是把人的知识做成规则放进计算机,因为是通过一问一答的方式把东西提炼出来,但可能会忘一些东西。实际上,它会遇到这个情况,人刚好把这个东西忘了,我们把它叫作“挂一漏万”,这个系统就有点问题了,就是我们经常说的“不堪大用”。专家系统又开始热度降低,一直到2006年发生了一件大事。
那一年一下爆出了至少三篇重量级的文章,一下子轰动了做人工智能的这个圈子。


3

突飞猛进

这三篇重量级的文章是谁写的呢?就是图上这三个人。第一个人叫辛顿,多伦多大学的教授,最能坐冷板凳的,研究神经元网络研究了一辈子,从最开始到成名就做这一件事;第二个人叫杨立昆,他不是中国人,他是美国人,是纽约大学的教授;第三位叫本杰奥,他是蒙特利尔大学的教授。这三个人在2006年几乎同时发了三篇重量级的文章,从不同的角度阐述了深度神经网络是可以起大作用的,是可以进行大规模学习训练的,只要输入的数据好,它就可以解决问题。换句话来说,我们今天人工智能的原型系统,很多人说就是神经系统。


那什么是神经系统?有一些我们叫做神经元,就是图片中那个红的、最中间那个核叫神经元。那边上绿的连进去的那些呢,我们把很多这种输入叫突触。然后它也有输出,那么我们现在要做的就是输入、输出和中间这个神经元,是不是有办法用数学把它模拟出来,或者说用数学把它描述出来,这个数学模型是有办法构建的。有了这个数学模型,这是一个神经元,神经元可以是一层的,也可以是N层的。所以有了数学模型以后,你就可以构造出这样的一个系统来,这样一个网络来。有了这个网络,你就可以通过演算,模拟仿真这样一个系统了。所以实际上,现在我们所说的这个深度神经网络,或者今天的人工智能系统,它的原型就是这个原型。


刚才我说的2006年那三位很有名的人发表了论文以后,大家先是高兴了一下,但是后面怎么样,那要看这个东西能解决什么问题,摸索了几年小有收获,但是并没有说,哇!这东西这么厉害。一直到2010年以后这件事才发生,和两个中国人有关系。一位是斯坦福大学的华裔女教授,叫李飞飞,另外一位是普林斯顿大学的华人教授,叫李凯。他们两个在2009年就是想弄一个规模特别大的图像数据库,而且标注出来,然后就拿这个数据库比赛。当时很多大学、公司都派代表队去比赛,那时候比赛比谁做的系统错误率比较低。2010年的时候,成绩最好的队是28%的错误率,下一年是26%的错误率。2012年的时候有了一个突破,错误率从26%一下子降到16%,性能一下子就提高了十个百分点。所有的人都很吃惊,说你到底用了什么招,你怎么能进展得这么快。这个参赛的领队是一个学生,说我也没用什么特殊的招,我就用了我老师给我的那个东西做了个网,然后就用这个网来参加比赛,没有什么,那东西我老师都发表过。那么他老师是谁呀?就是刚才说的那个辛顿,辛顿的学生拿着辛顿的这个东西来参加比赛,2012年第一次就打败了所有的对手,这是一个很了不得的大进展。


到了2013年的时候,就是深度网络一统天下的时候了,全是这个技术,没有别的,剩下就是使用多深的网,有多少个节点,参数怎么设定,这就变成了一些技巧性的东西,而不是方法上的革命了。所以这就是为什么说神经元网络突然一夜一统天下,开的都是神经元网络的花了。

到2015年有一个革命性的突破,它的错误率变成了3.6%,3.6%是什么概念?人的平均错误率是5%,这个系统的错误率3.6%,超过人了。在图像分类这件事上,神经元网络已经超过了人,那这事是谁做的呢?是一位中国人做的。我们中国有一位学者叫做孙剑,孙剑他当时带了一个团队,提出了一个网络,叫做残差网络。他拿这个残差网络去比赛,一举拿了个第一名。而且这个残差网络,不仅是在图像分类比赛里面拿了第一名,围棋比赛里面它仍然是最厉害的。大家都知道AlphaGo,它和李世石下的那五盘棋,它输了一盘,回去以后课题组就推演一下,复了一下盘,想弄清楚输的原因,结果发现是李世石走了一步棋谱上没有的棋。也就是说,每次AlphaGo和人下棋,如果人每次都走棋谱上没有的棋,那人就有很大的胜算。


那到底有多少棋是当时棋谱上没有的呢?后来他们一算,当时训练AlphaGo这个机器的棋谱占所有可能棋谱的20%。也就是说,当时的AlphaGo如果和人下棋,如果这个棋手他脑子真的够用,能记住哪步棋是棋谱里没有的话,那么他就有80%的概率获胜,这是很大的一个概率。


所以回去以后他们就说这不行,这个太容易被人击破了,怎么办呢?他们要重新设计AlphaGo的网络,然后他们就把原来的网络重新设计、提升,就是使用孙剑他们提出的残差网络。AlphaGo经过重新设计,从AlphaGo变成了Alphazero以后,那一个系统和人类棋手下棋就从来没输过,因为它把所有的棋谱上没有的棋全都生成出来,然后用一个完整的数据训练了系统。


在下围棋这件事上,应该说深度网络已经把这个问题解决掉了。基于这样的一个情况,我们对人工智能的判断,基本上可以这样讲,在深度网络适合的那一些弱人工智能领域,人工智能可以广泛进行应用、研究,做产品、做产业化。


促进与约束,人工智能如何继续健康成长?

1

从感知到认知,智能更上一层楼

人工智能在智能水平上,它的感知智能日益成熟。我们可以把智能分成感知智能、认知智能和决策智能,所谓的感知智能就是和我们感官直接相连的这些智能,比如说眼睛看的、耳朵听的、手摸的等等,这些方面其实弱人工智都可以做得非常好。现在不管你是刷脸,还是语音识别,甚至机器翻译,识别一个病例,识别一个产品有没有残次等等,这些方面都发展得非常好,人工智能正在慢慢地从一般的感知智能向认知智能进行升级。


2

类脑计算和量子计算,两条突破之路

如果做更大规模的或者和认知有关的人工智能产品,或者我们想做强人工智能,靠现有的计算机是做不到的,那怎么办呢?就要寻找出路,可能的出路有两个:在技术路线上面,一个出路叫做类脑智能人其实还是很厉害的,我们一天消耗的能量,相当于一个20瓦灯泡的能量,但是我们要干的事,可是比一个巨型计算机还要厉害。人对信息处理的能效比非常之高,但现在的计算机不行,能效比太低了。我们就希望能找一个能效比更高一点的机器来做这件事,类脑计算能效比可能较高一些。另一个可能的技术途径就是量子计算量子计算的能效比也极高,所以把量子计算做成比较稳定的一个系统也是有可能的。当然不管是类脑计算还是量子计算,现在还有很大的不确定性,到底什么时候能够做出来,像今天的计算机这么稳定、可靠、低价,这个还是需要去做很多研究的积累。


3

人与机器,混合智能具备独特优势

在智能形态方面,越来越多的是人和计算机混合在一起的,我们叫人机混合智能。比如说,你想做一个纯粹把人100%甩在环外的无人驾驶系统,其实是非常难的,但如果人介入一下,很多问题解决起来就简单很多了。机器能做的事交给机器去做,如果机器做得不那么好的事,人就可以介入一下。这样的人机混合智能,可能是现阶段发展人工智能一个比较重要的技术途径。


4

应用先行,有助于技术发展

以前做研究,大部分是先把技术都做好,然后去转化技术,去做应用,而现在是靠应用去拉动技术发展,这条路也是人工智能非常重要的一个发展形态。深度神经网络出来的时候,在哪儿好用,不知道,最后幸亏辛顿的学生拿这个东西去参加图像网络的比赛。如果不是参加那个比赛,可能这个深度神经网络的热潮,说不定还会再拖一些年才到来,所以说,就是你要找一个很好的应用场景把它用起来。


5

未雨绸缪,防止技术失控

人工智能它不像别的技术,它有社会属性,这也是为什么前一段时间有很多争论说,我们以后会不会被机器、人工智能奴役、摆布?我们会不会这样?这个社会属性,恰恰是我们做人工智能的时候要非常认真对待的一个问题,如果你不认真对待,可能就会吃大苦头。现在其实已经有几个例子:波音737 MAX 8,波音公司对人工智能怎么用或者对无人驾驶怎么用,就太大意。那两架掉下来的飞机,驾驶员拼命和飞机搏斗,要往上拉,就是拉不起来,结果飞机就一头儿栽下来了。这里头它错在哪儿?人机混合系统,人是最关键的,所以在这个环节里面,你不能让机器跑到人前面去了,这就犯错了。所以我们说,在人工智能的社会属性这方面,一定要摆正人和智能系统它们之间的关系。其实对将来人工智能到底能干什么,不能干什么,我们现在可能就要不停地去做这种研究、立法,从法律上面就给它约束好。所有的技术都是这样,一定有它的好的一面和坏的一面,要防止坏的一面发生,要通过法律、道德规范等手段去约束它。



从2013年起,世界各国政府纷纷调研人工智能对社会、经济可能带来的颠覆性影响,相继发布符合自身国情的人工智能战略。2016年,美国连续发布《国家人工智能研究与发展战略计划》等三份重要报告;2017年3月份,日本发布《人工智能技术战略》报告,阐述了日本人工智能产业化发展路线图;10月份,英国政府发布了《在英国发展人工智能》报告,旨在推动英国成为全球人工智能领导者;2018年4月,欧盟委员会也发布政策文件《欧盟人工智能》,提出将采取三管齐下的方式推动欧洲人工智能的发展。如今,全球人工智能正处于加速发展阶段,世界主要国家都对人工智能进行系统性布局,目标直指第四次工业革命的全球竞争,在这场事关未来的技术革命中,我们的机会在哪里?优势和短板分别是什么?



中国人工智能的发展的优势与差距


人工智能总体上来说,在我们国家是非常受重视,从三个方面来看看中国在人工智能发展的一些大的情况。


1

我国已经成为人工智能领域的超级大国之一

第一个方面,我们整体来说,这些年中国人工智能到底是怎么样的一个状况?改革开放以后,我们国家在基础研究方面的投入巨大,人工智能的发展有了非常好的沉淀。

第二个方面,一些核心关键技术,中国应该说已经走在了世界的前列。比如说人脸识别技术、语音识别技术,这两项技术全世界都公认中国是做得最好的。

第三个方面,中国人工智能,它的发展和各行各业的结合越来越紧密,从互联网往各行各业都在开始推广和渗透。对于中国来讲,人工智能的应用,比世界任何一个国家都做得更好。

第四个方面,人工智能发展的创新生态环境已经初步形成。比如说科技部已经布局了五个开放平台,包括百度的无人驾驶、阿里的城市大脑、腾讯的智能医疗、科大迅飞的语音识别、商汤的图像与视频处理。

第五个方面,我们国家在全球人工智能整个这个领域,占有的位势非常重要。基本上美国和中国,在人工智能领域就是两个超级大国。美国可能在基础研究方面强一些,中国可能在应用方面强一些。全世界在2017年对人工智能企业的投入,中国一家占了48%,那么美国只有百分之三十几。2017年、 2018年中国人工智能的专利总数都超过美国和日本。


2

四大优势护航中国人工智能发展

中国发展人工智能有四个优势:
第一个优势是政策优势。人工智能现在已经被列为整个中国优先发展的领域,所以我们有非常好的政策优势。

第二个优势是海量数据资源的优势。我们国家人口是美国的四倍多;手机群体全球最大,用手机做支付也是全球最大;在医院里面看病、在旅游、在物流方面,所有这些数据都是全世界规模最大的。这就是在应用方面,任何一个国家都和中国没法比的一个主要原因。

第三个优势是应用场景的优势。因为我们是发展中国家,从农业社会到工业社会,现代社会发展的时间非常短。所以很多东西,基础设施都没有到位,但是恰恰给人工智能的应用提供了一些深的场景。比如说我们城市化,原来就是一个乡镇,突然就变成城市了。那里很多基础设施都不行,要改造成一个完全城市的基础设施架构的话,那你得花时间,拿钱来吧。但是很多东西,其实如果人工智能介入进去,它的服务一下就上来了,多快好省。现在老龄化非常严重,社会服务哪里来?就要靠人工智能系统来做,比如说医疗、教育。所以像这样一些民生的问题,有人工智能进来以后,都可以快速得到解决。

第四个优势是青年人才优势。我们的大学毛入学率现在已经接近40%了,而且中国有一个特点,学理工科的比例很高。不像西方发达国家,它们国家毛入学率高了以后,很多学生学的是法律,学的是文科,学工科的比例很低。那这些学生将来都可以成为我们做人工智能的系统工程师,这个是一个非常大的储备库。而且这个储备库不是光讲一讲,因为这些年包括国家自然科学基金委员会,专门给人工智能设立了一个一级学科代码,专门有一类,很多年轻人都可以申请到人工智能的项目,所以高校里面的年轻老师拿项目没那么困难。现在你要看大的国际会议或者是最顶级的人工智能的国际杂志,基本上有一半的投稿人和参会者是中国的年轻人。


3

四个薄弱环节急需加强

我们也有一些短板,我们还有四个薄弱环节:第一个薄弱环节,我们在基础理论和原创算法这方面,我们得老老实实承认,还是有差距的一个原因本身我们起步就晚,是后来者,好多的积累还是不够;另外加上这些年我们发展的速度比较快,萝卜快了不洗泥。对到底谁做得好、谁做得不好,有一些非常简单粗暴的人才评估体系,比如说就数你发了多少论文,拿了多少科研项目,对于那些长期做基础研究、肯坐冷板凳的人,客观上是不鼓励的。现在这个情况正在改观,一个是国家在加大投入,大学里面给年轻人的待遇越来越好;另外我们很多有实力的企业自己成立了研究院,在里面养了一批很强的年轻人,这些人工资给得很高。所以我相信再过五到十年,中国在人工智能方面的基础理论和算法一点都不会弱。


第二个短板是在高端器件方面,比如说利用GPU(图形处理器)做深度神经网络训练的这个芯片GPU(图形处理器)芯片,目前英伟达(NVIDIA)一家公司就占了70%的市场份额。中国真正自己的GPU(图形处理器)的生产厂商占的份额,还是比较低的。


第三个短板就是我们缺乏有影响的人工智能的开源开放平台人工智能这几年能够发展这么快,和开源开放关系很密切。现在最好的算法有很多都开放了,源程序都在网络上,你从网上下载下来以后,根据你自己的应用稍微修改一下,马上你就可以做一个。现在我们经常讲笑话说,高中生可以和教授做同样水平的工作。但是最有影响的前五个平台,都是美国的企业,包括谷歌、亚马逊、微软、国际商业机器公司、脸书,这是五个人工智能开源开放做得最好的平台。


第四个短板是高端人才我们比较少所以有统计说,中国最顶级的做人工智能的高端人才数量只相当于美国的20%,什么时候我们的高端人才数量和他们差不多了,我们的人工智能发展就基本上到位了。


第四次工业革命,我们该如何布局未来?

未来已来,到底是哪一个未来到来了?我们来简单地预测一下。

先看过去三十年,这是一个变化非常大、非常快的三十年。第一个是计算机的算力,就是我们说的CPU,手机里核心处理器或者电脑里核心处理器,芯片的算力增强了一百万倍;第二个是存储,三十年前的台式机和今天的台式机里面的存储器相差了差不多一百万倍;第三个就是通信的速度增加了一百万倍,这个我们得益于光纤通信,得益于无线通信的发展。这三个一百万倍,使得过去的三十年我们周围的整个生活、社会、学习都发生了天翻地覆的变化。所以说下一次的工业革命将会在我们这些人的眼皮底下发生,那么大概是什么时间呢?在2030年到2040年之间会发生下一次工业革命。当然正确的时间和定义,那时候说不出来,可能要等到2050年、2060年,才能回过头说,那个时间点应该是第四次工业革命的起点。那么题目是什么?我个人的猜测,下一次工业革命的题目就是人工智能。人工智能将是未来一个世纪的核心技术,要想把人工智能发展好,我们就需要在很多事上进行一些好一点的布局。


1

国家战略、人才高地、基础建设、立法保障,一个都不能少

第一个是人工智能要作为一个全局的发展战略来布局,不管是国家、地方、企业,都应该把人工智能放在最重要的一个战略位置上。


第二个是怎么样健全人工智能的国家研发体系,这是今后人工智能发展很重要的一个布局。


第三个就是人才培养,必须要形成一些人工智能的人才高地。美国在人工智能发展的初期,其实它是有几个高地的,比如说斯坦福大学是一个高地,卡耐基梅隆大学是一个高地,MIT(麻省理工学院)和贝尔实验室那一带也是一个高地,这几个高地的形成,最后带动整个美国的人工智能理论和算法的发展。中国也应该形成几个人工智能人才高地,这样才有利于人工智能的发展。


第四个就是要加强智能化基础设施的建设,推动公开数据的开放、共享,这个也非常关键。这一轮的人工智能,主要是弱人工智能,如果你没有非常好的数据,你就谈不上人工智能,数据才是最核心的。但是为什么和政府相关的人工智能却起不来呢?因为它那个数据要么不放出来,要么它只放出来非常窄的数据。怎么样能让做人工智能应用的企业和团队,既能用到这些数据,同时这些数据又不失去它的隐私权、安全性等等,这就要平衡好这些东西。所以说,数据的开放共享,要制定出相应的一些法律法规,要有一些办法、工具可以操作。在这个前提下,一定要把数据尽快放出来,让相关企业用这些数据去做应用。


第五个就是人工智能法律伦理问题的研究应该要加强,要引导人工智能安全可控发展。另外一个,就是要深化国际开放合作,要主动参与全球的人工智能的治理。


2

数据处理、开源平台、应用场景,三个抓手要记牢

怎么样才能够真正地把人工智能的这些应用向各行各业赋能?抓手是什么?我觉得人工智能的抓手无非是三个方面:


一个是数据。没有数据,现在的弱人工智能都没法做。你要怎么样去把数据组织起来、清洗出来,另外再加上一些安全保护等等,所以数据是一个非常关键的抓手,我认为是排在第一位的。


第二位就是开源平台。作为一个人工智能大国,你应该要做出自己的贡献,所以基本上也会有一些有影响的平台出来,那样才能与你这个人工智能大国的身份相称,就是开源平台需要发展起来。


第三个就是应用场景。现在绝大多数都是投资驱动的应用场景,这个不够,政府必须要把优先发展的领域想清楚,通过市场经济就能做起来的事,那就交给市场去做;需要政府的手介入、干预才能做好的事,政府就要果断地开始去培育、去干预,而且要有手段。比如说网上有太多开源平台,到底哪个好用,针对哪个应用最合适,其实你让企业自己去做决定,他是不知道的。所以最好要有一些有经验的人,带着问题、技术和他们去进行对话,一直给它扶上马、送一程,然后这个应用就算成了。所以必须要抓应用场景,抓这种赋能,这是非常关键的一个步骤。我们需要做的就是要发挥各方的主观能动性,我们齐心协力把现在中国人工智能发展的短板补上,这个就是我们最需要采取的一个行动。在这个基础上,我们和全世界的人工智能同步推进,去迎接第四次工业革命、智能时代的工业革命曙光的到来。

0.214569s