IT商业科技网

马斯克又错了,人工智能并不比朝鲜核武更危险

来源:财富中文网    时间:2017-08-20 22:49:44    财富中文网

马斯克

本文作者Michael L. Littman是美国布朗大学的计算机科学教授,也是布朗大学以人为本机器人项目(Humanity Centered Robotics Initiative)主任。

伊隆·马斯克最近在推特上声称,人工智能要比朝鲜核导威胁还要危险。他之所以做出这一推论,是因为他坚信思想的力量。然而他的这一理论其实是经不起推敲的。

如果你坚信理念可以改变世界,如果你认为电脑终有一天会进化出自主思想,那么你可能会认为,电脑有朝一日统治世界的“赛博朋克”式的噩梦并非是没有可能的。这个逻辑在马斯克的脑中是根深蒂固的,作为一个热衷于将理念变成行动并以此为生的人,他当然希望你们也相信这个理念。然而他的论断是错误的,你不应该相信这个末日预言。

马斯克的逻辑光靠一条推文是总结不完的——归功于创新理念以及科学家们的不懈努力,加上海量的投资,近些年,电脑的运行速度已经变得越来越快,功能也越来越强大。最近几年,计算机领域的一些重大难题已经相继被攻克,比如计算机已经具备了识别物体、图像和语音的能力,甚至在围棋等项目上完胜人类的世界冠军。如果机器学习研究人员编制的程序已经能够取代字幕组、打字员和围棋运动员这些工种,那么或许过不了多久,机器就将能够自己给自己编程。一旦计算机程序进行自设计阶段,他们就会迅速进化,更且将越来越擅于自我完善和优化。

由此带来的“人工智能爆炸”将使计算机拥有无与伦比的能力,届时统治世界的必将是它们而非人类。到时这些计算机会产生什么主观意识和目的呢?哪怕它们的主观目的是善意的,也必将对人类的存续产生重大威胁。这也是为什么马斯克认为人工智能的问题要比朝鲜问题重大多了。就算有几个美国城市被朝鲜核导弹轰平了,对人类的危害也不是永久的,而人类被不断自我完善的计算机系统性地灭绝,人类的知识最终融为其强大计算能力的一部分,这才是人类永恒的噩梦。

不过马斯克的推论毕竟高估了“人工智能爆炸”的可能性。我们不能仅仅因为机器学习领域最近取得的几个成功,就断言人工智能终将封神。而且机器学习技术也并不像它乍看起来那样危险。

举个例子,你可能看到过计算机以超人的能力处理某项任务,结果也令人非常惊叹。人类的语言和博弈能力是建立在综合的人生经验基础上的,因此当你看到机器能回答问题,或是在围棋比赛中将你杀得一败涂地时,你很可能自然而然地认为,计算机也同样具备其他的人类技能。然而计算机系统并非是那样工作的。

简单地说,近年来取得成功的机器学习系统,都采用了以下构建方法:首先,人们要决定他们想解决什么问题,然后以一系列代码的形式表现出来,这些代码被称为“目标函数”,系统可以针对目标函数进行打分。然而后他们会收集数以百万计的案例,来“训练”系统学会他们希望其展示的行为。然后他们会设计自己的人工智能架构,并对其进行优化,通过人类见解和强大的优化算法使目标函数最大化。

通过这种方法得到的计算机系统,往往可以展现出超人的性能。然而这种超人的性能仅仅限于系统最初赋予的单一任务。如果你希望这个系统能完成其他任务,那么你可能要按照这种方法重头设计另一个系统。不过更重要的是,和围棋游戏不同,人生的游戏是没有一个清晰的目标函数的——现有的算法也不适合建立一个大而全的人工智能机器。

或许有一天,我们身边的世界将到处都是人工智能机器。但是我们必将能与机器一起进化,而且我们还有无数个决策要做。世界将如何演化,也将取决于我们的这些决策。我们不应该让恐惧阻止我们在技术上继续前进。

【责任编辑:张斌】

声明:来源非IT商业科技网的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

频道精选
ARMGPU漏洞暴露安卓升级困局,谷歌Project Zero团队谴责厂商偷懒行

ARMGPU漏洞暴露安卓升级困局,谷歌Project Zero团队谴责厂商偷懒行

谷歌的ProjectZero团队的终极目标是消除世界上所有的零日漏洞,而鉴于近期爆发的ARMGPU漏洞
ARM 手机 GPU 漏洞 谷歌
决战辅助驾驶下半场 极狐、长城、小鹏等车企角逐城市NOA

决战辅助驾驶下半场 极狐、长城、小鹏等车企角逐城市NOA

今年下半年以来,小鹏、极狐、吉利、长城等车企纷纷推出搭载城市 NOA功能产品。
极狐 长城 小鹏 汽车
三星Galaxy S23 Ultra或搭载超声波指纹解锁:识别精度更高更安全

三星Galaxy S23 Ultra或搭载超声波指纹解锁:识别精度更高更安全

随着第二代骁龙8旗舰芯片的正式亮相,一大波搭载该芯片的顶级旗舰很快就将迎来第一波大混战
三星 通信 超声波
分手在即 网易给玩家发问卷调查:你还会玩暴雪游戏吗?

分手在即 网易给玩家发问卷调查:你还会玩暴雪游戏吗?

据官方介绍,2023年1月24日0时起,正式停止暴雪游戏产品的运营,关闭战网登录以及所有游戏服务器,同时关闭客户端下载。
网易 游戏 暴雪游戏
软银研发出以无人机探测灾害被埋者手机信号的技术

软银研发出以无人机探测灾害被埋者手机信号的技术

日本软银现公布了一项新技术,可通过小型无人机探测灾害中被沙土瓦砾掩埋者的智能手机信号并锁定位置。
软银 互联网 手机信号
马斯克:若推特被谷歌苹果下架 将生产属于自己的智能手机

马斯克:若推特被谷歌苹果下架 将生产属于自己的智能手机

据国外媒体报道,马斯克在推特回复网友称,如果谷歌和苹果将推特从应用商店中移除,他将生产一款自己的智能手机作为替代品。
马斯克 手机 谷歌 智能手机
消息称美国FTC可能提起诉讼,阻止微软以690亿美元收购动视暴雪

消息称美国FTC可能提起诉讼,阻止微软以690亿美元收购动视暴雪

据Politico周三援引三位知情人士的话报道,美国联邦贸易委员会(FTC)可能会提起反垄断诉讼,以阻止微软公司对视频游戏发行商动视暴雪公司以690亿美元进行收购。
微软 互联网 动视暴雪
挖台积电墙角 三星3nm喜迎4大客户:百度也有参与

挖台积电墙角 三星3nm喜迎4大客户:百度也有参与

三星也在想办法提升良率,不过更关键的还是如何拉到大客户,韩国媒体表示三星在这方面也不是没有进展,除了三星自己的芯片部门,还锁定了四大客户。
台积电 通信 百度 三星
两大服饰“抄袭惯犯”对簿公堂:江南布衣诉森马开庭,同病相

两大服饰“抄袭惯犯”对簿公堂:江南布衣诉森马开庭,同病相

昨日,江南布衣服饰与浙江森马服饰的案件开庭了。双方就著作权权属、侵权及不正当竞争纠纷,对簿公堂。
江南布衣 互联网 森马
氢燃料电池汽车在韩国已注册2.7万辆 在新能源汽车中占近2%

氢燃料电池汽车在韩国已注册2.7万辆 在新能源汽车中占近2%

据国外媒体报道,在发展新能源汽车的浪潮中,除了混合动力汽车和纯电动汽车,通过氢与氧的化学反应而产生电能进而驱动车辆的氢燃料电池汽车。
氢燃料 汽车 新能源汽车

2017-2019 Copyright © IT商业科技网 备案许可证号豫ICP备18040629号 豫公网安备110102003388号

技术支持:沿亮云科技