您的位置:主页 > H生活区 >《人类大历史》作者谈 21 世纪人工智慧最大危机 >

《人类大历史》作者谈 21 世纪人工智慧最大危机

作者: 2020-06-10 浏览: 516 次

《人类大历史》作者谈 21 世纪人工智慧最大危机

尤瓦尔 · 赫拉利 | 耶路撒冷希伯来大学历史系教授,现象级畅销书《人类简史》、《未来简史》作者。

今天我要跟大家介绍的可能是我们这个时代最着名、重要的科学发现,或者可以说是整个 21 世纪人类历史上最重要的一个演变,我们称之为「人工智慧」。

一、有机生命会逐步被无机生命所替代

人工智慧不仅仅是 21 世纪最重要的科学进化,也不只是我们人类历史上最重要的科学进化,甚至是整个生命创始以来最重要的原则。有机生命根本的规则没有发生变化,与过去的 40 亿年当中都是保持一致的。过去 40 亿年当中,所有生命都是按照优胜劣汰的原则进行演变,所有的生命完全按照有有机化学的规则进行了演化。

因为我们的生命是有机化合物组成,不管你是巨大的恐龙还是一个阿米巴虫,还是一个土豆,还是一个人,都是按照物竞天择的规则,都是有机化合物组成的,我们完全遵守过去 40 亿年有机化学规律的演变。

《人类大历史》作者谈 21 世纪人工智慧最大危机

这样一个 40 亿年的规则将会随着人工智慧出现而发生根本变化, 人工智慧将替代物竞天择自然选择的结果终止。 我们的生命将根据计算机智能设计 ,脱离原先有机化合物的限制,脱离原先有机化学的限制,突破原先的限制而进入一个无机的世界。

在我们有生之年,有可能看到有机生命会逐步被无机生命所替代。我们会逐步看到有机化学规律和无机智慧性的生命形式并存。原先我们是碳基的,未来生命形式当中,硅基会成为主要的生命形式。这是我们有生命以来的 40 亿年当中第一次出现的一个重大变局。

二、选择权将逐步让渡给人工智慧

在过去的 40 亿年当中,大家想像一下,所有生命都是局限在地球这样一个行星上面,没有一个生命、阿米巴虫或者任何一种生命形式有能力突破我们这样一个行星(地球),去其他的星系进行殖民。这是因为自然选择规律让所有有机物、有机体局限在地球中,一个非常独特的环境——温度、气候、阳光、重力。

一旦我们从原先有机的生命形态转变成为无机的生命形态,比如机器人,人工智慧电脑等,那幺环境就没有限制了。机器人在火星上面也可以生存,而人类不可以。我们在科幻小说或者电影当中看到的一些场景,现在对于人类来说仍然是非常困难的。因为我们这样一个有机生命体在地球以外的外太空是很难生存的,但是电脑机器人、人工智慧相对而言,比较容易能够在地球以外的其他星球和星系中生存。

《人类大历史》作者谈 21 世纪人工智慧最大危机

因此,在地球出现生命以来的 40 亿年, 我们有可能突破地球的限制而进入到其它星系,不是人类,而是人工智慧可以做到这一点。 另外一个重大突破性的演变,也是在我们有生之年可以看到的,事实上大家已经从某种程度上经历了这样一种变革。

什幺样的变革呢?我们人类上万年以来在演变过程当中获得了越来越多的力量,在 21 世纪的时候人类将会失去这些力量,这些力量将逐步从我们这个物种让渡给人工智慧。比如世界上在发生什幺,甚至我们自己生命在发生什幺, 这些权力或者我们掌控的力量,不管重要的还是不重要的,将会逐步拱手让给电脑或者人工智慧的这些演算法。

1、人工智慧可以了解你的喜好

举一个很简单的例子,比如你下一个月读哪一本书,这是我们生活当中很简单的决定,我们可以有很多的选择。以前很多人会依赖自己的感觉、喜好、口味,或者依赖朋友、家人的推荐。选择哪一本书阅读,目前取决于我们自己的感觉、喜好、口味,但是 进入 21 世纪以后,我们逐步把阅读什幺书,购买什幺书这样的权力让渡给了电脑、电脑、演算法、让渡给了亚马逊网站。

所以当我们进入到亚马逊未来的书店中,有一个演算法告诉你:我一直在跟蹤你,我一直在收集你的资料,你喜欢什幺书、不喜欢什幺书,我都知道。亚马逊的演算法会根据它对你的了解,以及它对于上千万读者的了解向你推荐书籍。

但 这个仍然处于初级状态 ,这只是人工智慧迈出的一小步,亚马逊网站对你的演算法仍然非常有限。进入到下一个阶段,今天已经发生,我们看到这样的演算法越来越了解你。今天越来越多的人看书不是看纸版书,而是阅读电子书, 在手机看书或者一些电子阅读器上面看书。当你在这个设备上读这些书的时候,这个设备也在“读”你。

这是有史以来第一次不仅仅只是人类在阅读一本书,当你在读一本书时,书同时也在“读”你。你的智慧型电话、智慧平板在跟蹤你,监测你,搜集你的资料,这些设备可以了解到哪一页你会很快地翻过去,哪一页你是慢慢阅读的。

这些资料会给出一些结果:哪些对你来说是无趣的章节,哪些是你喜欢的章节,它也知道哪一页你不读了。 当我购买了别人推荐的书,读后虽然不喜欢了,但我还是会告诉每一个人这本书非常好。为什幺?因为我不想丢脸,别人都说这本书很好。要知道这样只能骗了别人,电脑这个演算法是不会被你骗的,它知道你读到第五页不读了,或者读到第 42 页的时候不喜欢了。

2、人工智慧可以体会你的情绪

以上是非常初步的功能,下一步它的设备可以连接面部识别的一个软体。今天面部识别的演算法很初级,但是慢慢地, 它会学会通过看你脸部的表情判断你喜好。 这就跟我们看别人一样,我知道你的表情背后掩盖着什幺样的感情,什幺样的感觉。通过观察你的面部表情,肌肉的变化就会知道你是在笑还是在生气,或者只是无聊了。

这是人类用来认知情绪的方式,今天电脑也在学会、提高对于情绪的识别能力 ,甚至比人类做得更好。他们能够找到面部活动的规律,并且用这种规律来分析和评判一个人目前的情绪状态是怎样。我们把这样的一个软体和 kindle 这样的电子阅读器结合在一起,kindle 能够判断你正在阅读的书对你产生的情绪影响。

你在看书的时候笑了,这时候它知道你笑了;你看到某一章生气了,它知道你生气了。我作为一个作者,经常想像书中的哪一章哪一节,读者会看着看着就笑了,他们会不会理解我埋在文中的笑点,能不能看出我写这段文字是表达讽刺。我不知道,但是 亚马逊会知道。如果 87.3%的读者在读到这一段的时候,这个笑话没有笑说明这不是一个有效的笑话。

《人类大历史》作者谈 21 世纪人工智慧最大危机

3、人工智慧可以提出适合你的建议

最后一步把设备和生物识别感测器结合在一起,这些生物识别感测器是植入在体内,这不是科幻小说,已经实实在在用了。 生物特徵感测器能够持续不断地监控我身体各种生物指征。我现在给大家做讲演,我的血压心率是多少,血糖水準或者我的激素水準是多少。

但是你不知道,电脑通过刚才讲的这样的技术能够知道我每一刻血压的变化。根据这样的资料,我们大家想像一下你正在读一本非常长的书,比如托尔斯泰的《战争与和平》,当你读完的时候,实际大部分情节都忘了,但是亚马逊、腾讯或者百度任何一家公司,它的电子阅读器通过生物识别感测器记录了你阅读这本书的状况。

在我读完《战争与和平》之后,这个设备就知道我是一个怎样的人以及性格特点是什幺。 根据这样的一种知识和了解, 设备不光能够向我推荐书籍,而且也能够围绕着我生活中更加重要的决策,向我做出建议。 比方我应该学什幺,该生活在哪,应该在哪儿上班,甚至和谁结婚。

人生当中最重要的决定之一,可能就是你的一生要和谁度过——伴侣的选择。在选择伴侣这件事上,很多人犯过糟糕的错误,我们主要赖于自己的感觉以及亲友家长的建议。现在有对情侣,该结婚还是分手?二三十年以后,你可能可以问亚马逊、百度、腾讯这样的问题,今天你得靠自己的感觉和亲友的意见。

那时候,亚马逊等公司对于我个人、和我相处的人已经如此了解,你可以问它们的建议。你迄今为止所有的邮件、微信消息、手机通话它都在追蹤,看书、看电影时,它在监控你血压心率的变化;你每次约会的时候,它也在监控你约会水準的变化。

它对于你个人所有资讯的了解以及伴侣的了解,对几百万人的成功或不成功的伴侣关係的理解, 可以告诉你:现在你和你的男朋友或者女朋友结婚的概率是 90%。因为在你一生当中找不到更好的伴侣了,因为它如此地了解你 ,你心里想的可能是:我有能力找到一个更好的伴侣,更好看更漂亮的伴侣。它会知道你这样想的错误来源所在:你对外表太看重了。

你在选择的时候,考虑的因素还是五万年前我们的远祖祖先在非洲的大草原上择偶的标準。现在机器会告诉你:根据我的统计资料,即使外表对于关係的成功与否具一定的重要性,但是这个重要性是比较小的,可能只占整体权重的 10%,也就是在一个成功的关係当中只有 10%是取决于外表、美貌。

机器会告诉你:我已经看到了这样的现实。从长远来看,你和现在这个人在一起会是最幸福的,你应该和他结婚。

在这样的一种设想当中,

我们在这需要理解的是:做出决定的能力就像一组肌肉一样,这样的肌肉你不用的话就会退化,你对电脑信任越多,依靠人工智慧来做决定越多,你就会失去自己做决定的能力。

《人类大历史》作者谈 21 世纪人工智慧最大危机

给大家举一个简单的例子:找路。在北京找一条路,去一个地方,比如火车站,过去我们怎幺找路?基于自己的本能知识经验,到一个十字路口该左转还是右转,你会依赖于自己的经验。今天我们越来越多的人依赖智慧手机、各种各样的 GPS、地图的应用。

你的本能告诉你应该右转,但是智慧手机告诉你左转,你越来越多地相信智慧手机,而不是直觉。经过一段时间之后,你的认路、找路能力就丧失了,即使你还想这样做。在北京这样的空间找路、认路,今天我们靠机器,二十年以后我们在自己的人生当中 碰到了这样的十字路口要做决策的时候,很多人会用智慧手机、人工智慧来做决定 ,他们会告诉你该怎幺做。

三、人工智慧产生的革命性影响

随着人工智慧变得越来越好,有可能人工智慧会把人从就业市场当中挤出去,对于整个社会的经济和政治都产生革命性的影响。

1、减少交通事故

十年前,如果说电脑驾驶的技术比人更好,大家会觉得这是一部科幻小说。但是今天所有专家都达成了共识。可能再过一两年时间,电脑就能够比人类驾驶员的平均水準要好得多。届时数以百万计的计程车、卡车、公车司机会失业,让位于自动驾驶汽车。

它不仅开起来好,安全性要高得多。今天世界上汽车事故造成的死亡人数比战争暴力还要多一倍。战争、恐怖主义犯罪,每年造成 60-70 万人死亡,汽车每年造成 130 万人死亡。大部分汽车事故都是由于人为造成的,比如酒驾,开车的时候打电话,或者睡着了,或者发资讯。

今天交通事故当中人是主要的因素,有了人工智慧就不会有这样的问题。自动驾驶的汽车永远不会喝酒,自动驾驶的汽车也不会在开车的时候睡着了,也不可能在开车的时候接打电话,这样自动驾驶汽车就能替代人员驾驶员的作用。

《人类大历史》作者谈 21 世纪人工智慧最大危机

2、解决道德伦理上的难题

除此之外,人工智慧也能做一些关于伦理道德的决定。比方自动驾驶汽车开的过程当中,突然前方有两个孩子在踢球,这个时候负责自动驾驶的电脑通过演算法可算出避免撞死这两个孩子的办法是快速转向另一条车道;另一个解决方案可能就是让客户、车厂来决定。

比方丰田 让客户决定自己要选用哪一款车,有一款车碰到这样的情况会决定让你死,那幺另外一款车会决定刹车但是仍然会撞死前面两个孩子,你会买哪一款车,选哪一种演算法? 世界上最优秀哲学家先把这样的程式做好,我们在理论上考虑的所有东西有各种各样的理论,但是这些理论对于遇到危机时的作用甚少。

大家可以说道德的选择是牺牲自己的生命救前方的孩子,但是一旦你真正上路了,在几秒内必须做出这个决定时,你就会忘记刚才的结论,会根据你的本能情绪来採取行动。

那些理论哲学上的行为之间和人类实际行为是有巨大差距的,但是有了电脑人工智慧,我们就能解决这个问题。 我们可以把世界上最优秀的哲学家集合在一起,让他们坐在一个房间,给他们一年时间讨论道德上的难题,不管最终拿出了什幺方案,就把这个方案写到自动驾驶汽车的程式当中。

谈到伦理道德决策,人工智慧也有可能是平均意义上比人类更好,因为这意味着这样的自动驾驶汽车,假设每一辆车里面驾驶员都是孔子,这样对于人类驾驶员来说他们被人工智慧替代之后,当然一方面会带来很多优势:更加安全、更加便利。

与此同时另一方面会 使决策权从人民大众手中转向人数很少的一批精英的手中。 过去这样的权力和福利是由数以百万计计程车司机,公交司机,卡车司机来分享,现在不是,现在都交给了人工智慧,他们就掌握了世界上所有的计程车、卡车、公车。

3、做更优秀的医生

不光是公车司机,甚至是医生这个工作都会发生变化,在人工智慧当中这样的事情已经开始发生。人工智慧在疾病诊断方面能够做得更好,提出治疗方案比平均水準的医生更好,普通医生的知识和能力是有限的,不可能每天都在更新知识,不可能一个人知道全世界所有的疾病药物和研发结果。

对于一个医生来说拥有的资料是有限的,但是对于人工智慧来说这都是无可限量的, 可以收集资讯分析资讯,熟知全世界所有疾病,能够 24 小时不间断地跟蹤一个患者。

今天我的私人医生在以色列每年给我做一次体检,他和我报告我的健康状况。有了人工智慧之后相当于你身边就有一个医生,随时追蹤你的血压,即使我现在在中国,人工智慧应用也会像一个医生一样随时了解我的健康状况,每 0.5 秒了解一下我血液的状态。

这不再是每年做一次体检,意味着对于癌症这样的疾病不是等到癌细胞扩散时再去医院检查,而是在刚刚出现癌细胞的时候就能够被发现。即使我没有不好的感觉,但是人工智慧已经发现了。

因此,人工智慧会发现癌症早期的症状提出诊疗方案,一个好医生不仅仅是了解你病情,还需要一些情感方面的了解:病人是不是害怕了,或者生气了,愤怒了等等。所以有人认为人工智慧做不到, 事实上人工智慧比人类医生还能够抚慰病人心灵。

《人类大历史》作者谈 21 世纪人工智慧最大危机活动现场

人类医生怎幺判断呢?可能看你的面部表情,某一个声音语调的变化,但是 人工智慧可以更加精准地分析你的面部表情,说话的语调变化。它能更加精准地比人类医生了解病人情绪的变化,监控某一个病人内部身体情绪的变化。 有时候病人自己都不知道自己是什幺状态,但是人工智慧可以,因为他在不断监控你的心跳血压状况等等。当然想要创造出这样一个人工智慧医生,还有很多问题需要去解决,很多技术难题需要突破。

我们技术上只要实现一次突破,就可以解决一切的问题。人工医生怎幺培训?可能需要八年大学硕博连读,临床实习之后才会培训出一个合格的医生来。十年之后,我们花了这幺多资源只不过培养出了一名人类医生,这时候培养第二名又需要花十年时间。

但 人工智慧只要技术上实现一次突破,你拿到的不是一个机器医生而是无穷多的人工智慧医生,他们可以被複製。 这个比培训人类医生要效率高得多,虽然一开始要花数百万亿美元研发,但是一旦研发出来就可以无穷複製。

随着技术发展我们可以用机器替代计程车、司机、医生其他职业,人工智慧逐步都可以替代,这时候出现一个非常大的人类社会学问题。

正如第一次工业革命使得城市无产阶级出现,人工智慧的出现会出现一个新的阶层,就是无用阶层。数以亿计的人将找不到工作,他没有办法和电脑人工智慧竞争,对这些人来说他已经丧失了经济的价值,没有经济价值也就没有政治权力,这会对社会、政治、经济方面产生巨大的问题。

四、人工智慧时代,你该教孩子学会什幺?

当然大家说会出现一些新的职业,但你没有办法确定会出现哪些新的职业替代那些正在消失或者被机器抢走的职业。我们可以说人会自己不断地学习,不再需要卡车司机、计程车司机,会有新的职业设计未来的事业,设计 3D 电脑游戏。

你想一下一个 50 岁的计程车司机失业之后,他有多大能力去培养自己?对于 50 岁的计程车司机来说,他要重新培养自己的能力,这样就太晚了。这样的革命非常危险,它会从根本上改变我们的教育体系。

今天,你会教孩子什幺?今天在学校里我们应该教孩子什幺?大学里面应该教孩子什幺?让他们能够在二三十年之后适应当时的就业市场。

今天我们的孩子在学校里面学到的所有知识二三十年后完全无用,我们不知道现在应该教他们什幺,才能够让他们在二三十年后找到工作。

即使我们会产生新的工作,二三十年后可能产生新的工作,但是今天孩子到那天是不具备那些新工作的就业能力的。那幺这个时候出现了数百万、数千万甚至上亿失业人口,他们丧失了经济价值,这会产生进一步威胁。人类未来的精英阶层是否还会有动力照顾那些弱势群体?

《人类大历史》作者谈 21 世纪人工智慧最大危机

现在,世界各地的政府还会投资于那些弱势群体,为什幺?因为政府精英群体需要这些弱势群体,即使是德国的纳粹希特勒,他也要投资这些弱势群体。他要变大,需要有强大的军队,需要普普通通的数以百万计的德国人去给他当兵,成为工厂的工人才能支撑他打这样的战争,所以投资大量的资金用于教育和医疗。

但是未来如果人工智慧替代人类,他可以替人去打仗、去做工,这样国家精英阶层就没有动力去投资医疗教育,帮助弱势群体。

人类社会会分成两大阶层,一个是非常少的精英阶层,就像上帝一样,他们在创造大量的人工智慧,绝大部分人将变成没有任何经济价值任何无用的阶层。这是 21 世纪最大的风险。五、人工智慧毫无疑问会改变我们的未来

《人类大历史》作者谈 21 世纪人工智慧最大危机

最后一点在我结束演讲之前,这也是非常重要的一点:有很多关于人工智慧的讨论,但是也有很多关于人工智慧究竟意味着什幺的迷惑和疑问。智慧和意识之间究竟有什幺区别,很多人迷惑。

智慧是解决问题的能力 ,比如我们诊断一个疾病,或者找到某一个疾病的治疗方法,这是智慧。但是人类的意识是感受某一种外界的能力,你的情绪、你的感情、你的痛苦、愉悦、爱等等。人类和其他的哺乳动物,大猩猩猴子等,他们的意识和感情是合二为一的。

但是电脑不一样,随着水準越来越高,他们也能产生意识,很多科学的科幻小说或者其它科幻电影中,我们经常看到人工智慧逐步产生了意识,机器人电脑变得非常智慧,同时获得了意识和情感,机器人会变得非常愤怒,他想杀掉所有的人类。

我们在科幻小说电影中都看到过,它不是科学只是科幻。科学告诉我们智慧和意识是完全不一样的两个东西。到目前为止, 我们电脑或者人工智慧发展到今天,智慧水準在不断提高,但是人工智慧的意识还是零。

《人类大历史》作者谈 21 世纪人工智慧最大危机

换句话说:我们现在没有任何指标证明或者任何迹象表明,电脑和人工智慧在未来能获得这种意识。 电脑只是以一种完全不同的方式在工作,和人类其他的哺乳动物完全不一样,这是我们面临的风险,或许是最大的风险。

电脑会比我们智慧得多,比人类水準高好多,他会控制这个世界,开始向宇宙其它星系去扩张,但是他们仍然没有意识。我们会有一个充满智慧型机器的宇宙,但它们却丧失意识和情感。大家可以想像生命过去的演变在逐步向更高的智慧发展(无论是人类或者其他哺乳动物),在演变过程当中是非常慢的。

上亿年的生命通过我们的意识不断摸索,慢慢演变到今天的智慧状况,速度是非常慢的,演变需要数百万年的时间。突然有一个电脑突然杀出来,他们用完全不同的路径、方式,完全不同的发展模式,超级的智慧在赶超有机的生命体。他们智慧的进化和演变速度比我们快得多,他们的发展演变比我们快得多,他们会控制整个世界甚至宇宙,但是没有意识。

我讲的东西不是一个寓言。 没有人会知道未来是什幺样,一切还悬而未决,同样一个技术你可以创造出完全不同的社会和世界。 我们在 21 世纪曾经看到过这一幕,我们的技术、汽车、广播、电视、电脑,可以利用相同的技术创造出社会主义的国家,资本主义的国家、法西斯国家也都是利用同样的技术。

同样,人工智慧的技术毫无疑问会改变我们的世界,但是我们未来的社会究竟怎幺样?这会有很多选择,而不是完全由技术来决定的,一切都悬而未决。如果大家不喜欢我刚才描述的这个世界,大家仍然可以用自己的行动去改变决定未来世界的形态,去消除风险,发挥技术好的那一面。

最后我想讲的就是:当你作为一个个人,一家企业、政府部门,或者作为精英阶层,我们在做人工智慧的时候,做各种各样决定的时候,一定要注意人工智慧不仅仅是单纯的技术问题,同时也要注意到人工智慧以及其它技术的发展,将会对社会、经济、政治产生深远的影响。

我们一定要注重人工智慧技术层面的问题,还要严密关注人工智慧的发展对社会可能产生的影响。因此,我们在投资与技术发展的时候,还要投入于社会影响的研究 ,谢谢。

《人类大历史》作者谈 21 世纪人工智慧最大危机

《人类大历史》作者谈 21 世纪人工智慧最大危机

猜您还喜欢 猜您还喜欢