人工智能会危及人类吗 目前无机器通过图灵测试

近日,英国理论物理学家霍金语出惊人,预言人工智能科技如果不加控制地发展,将超越人类智能,并控制或灭绝人类。无独有偶,牛津大学哲学教授、人类未来研究所创建者博斯特罗姆近日也指出,超级人工智能是人类未来最大的存在风险,其风险性高于自然灾害、环境恶化、流行疾病。

两位英国学者的观点是否合理?人工智能会不会发展到人类无法驾驭的超级智能阶段?记者采访了研究人工智能哲学的复旦大学哲学学院教授徐英瑾。

徐英瑾介绍,人工智能学科缘起于一篇经典论文和一次重要会议。

人工智能会危及人类吗 目前无机器通过图灵测试

1950年,英国数学家、逻辑学家、计算机科学理论奠基人图灵在《心智》杂志发表论文《计算机器和智能》,提出了著名的“图灵测试”——如果一台机器能够与人展开对话(通过电传设备),并且会被人误以为它也是人,那么这台机器就具有智能。

显然,这是一个带有行为主义色彩的“人工智能”定义,因为该定义没有从机器内部机制着手,而是通过其外在行为来判断它是否具有智能。其好处是,绕开了“智能的本质”这个众说纷纭的问题,给人工智能发展设定了一个目标:开发出能通过图灵测试的机器。

1956年,一群学者在美国达特茅斯学院参加会议,探讨如何利用问世不久的计算机实现人类智能。会议筹备期间,后来获得计算机科学最高奖——图灵奖的麦卡锡提议用“Artificial Intelligence”(人工智能)一词来称呼这门新兴学科,得到了与会者认同。在这次会议上,学者们讨论了如何在人类智能水平上实现机器智能,而不是用特定算法解决一些具体问题。举个例子,IBM公司研制的“深蓝”计算机能够在与国际象棋世界冠军卡斯帕罗夫的对弈中胜出,但并不能由此认为“深蓝”拥有了超级人工智能。这是因为,它只是在某个方面的能力上超过人类,而且无法通过图灵测试。

如果霍金担心的超级计算机有朝一日问世,那它必定在综合思维能力上超出人类,这样才可能拥有“僭越”的想法,以及控制或消灭人类的能力。

霍金警示的风险理论上存在

值得“庆幸”的是,目前,人工智能的全球领先水平与超级人工智能相去甚远。学术界普遍认为,世界上还没有机器能通过图灵测试。

对于这一现状,有三种回应观点——

第一种观点是:图灵、司马贺等人工智能学科元老提出的全面模拟人类智能的想法,太好高骛远。这种玄想或许在未来会成真,但目前为实现这个想法做研究,纯属浪费精力。业界目前应做一些踏实的人工智能研究,满足于制造解决特殊问题的求解器。徐英瑾发现,许多人工智能业内人士持这一观点。由此可见,霍金的警告有点杞人忧天的味道。

第二种观点是:全面实现人类智能的机器是不可能造出来的,就像造不出永动机一样。学者们提出过多种论证,试图从哲学、逻辑层面论证这种不可能性,其中非常著名的有美国哲学家塞尔提出的“汉字屋论证”(也称“中文房间思想实验”)以及英国理论物理学家、数学家彭罗斯提出的“从哥德尔不完备性定理出发的论证”,但这些论证都遭到了学术界反驳。徐英瑾认为,“汉字屋论证”和彭罗斯的论证都是站不住脚的,超级人工智能并没有在理论上“被判出局”。

第三种观点与第一种有相近之处,认为全面实现人类智能的机器是能够造出来的,但难度很大。如果当下的人工智能研究路子不改变,那么点滴成果的积累也未必能质变为全面突破。“我持这种观点。”徐英瑾说,“所以我认为霍金、博斯特罗姆警示的风险从理论上来说是存在的,但在未来相当长时间内不会成为现实。”

大数据技术有先天缺陷

在这位复旦学者看来,如今十分热门的大数据技术,一旦过度应用于人工智能领域,就是一条错误的路子。

大数据技术催生了数据科学。与传统的科学研究范式不同,数据科学不再追求因果关系,而是按照“样本=总体”的思路对海量数据进行深入挖掘和统计分析,寻求各个事物间的相关性。很多时候,大数据统计出的是“2+2=3.9”这类近似结果,精确度上的略微损失,换来了对事物间相关关系的准确预测。

徐英瑾认为,大数据分析是西方经验论哲学在当代的一种表现形式。近代西方哲学分为两大流派:经验论和唯理论。经验论认为,人的感性经验是一切知识和观念的唯一来源;唯理论与之针锋相对,认为具有普遍必然性的知识并非来自经验,而是来自人与生俱来的理性。大数据研究范式推崇海量数据的采集,那些用于数据采集的摄像头、传感器等设备好比人类感官的延伸;还推崇大样本的统计学分析,用它取代因果分析。这种看重经验采集、贬低理性推理的模式背后,正是经验论哲学观。

就像经验论有其局限性一样,大数据分析也有局限。以基于大数据技术的“谷歌翻译”为例,这种人工智能系统的研发团队没有通过编程定义语法规则,因为完善的语法编程目前还无法实现。他们采用的主要技术方案,是利用大数据统计不断调整翻译结果的相关性,优化翻译结果。这样做的好处是,翻译系统会随着数据的积累而不断改善。但目前,使用“谷歌翻译”的结果只能帮助人们大致理解陌生语言,有时候得到的翻译结果很不通顺。“大数据翻译系统缺少深层语法结构,这种结构好比唯理论看重的先天理性,缺少了它,人工智能系统就无法译出完善的自然语言。”徐英瑾说。

而让机器“说”出人们在日常生活中说的自然语言,正是图灵测试所要求的。在人工智能领域,“自然语言处理”占有重要地位,已发展成一个相对独立的研究领域。苹果手机的Siri、上海企业开发的小i机器人,都是应用自然语言处理技术的人工智能产品。有兴趣的读者可以对Siri和小i机器人进行图灵测试,看看它们的回答是否像人。

让机器人服从“绝对命令”

在好莱坞电影《梯阵阴谋》中,美国国安局设置的超级计算机Echelon(梯阵),能通过调取、分析每个公民的各类信息,进行行为监控,还可以向人们的手机发送短信,达到不可告人的目的。

这种超级人工智能如果在未来成为现实,人类社会将毫无隐私可言。影片结尾,找到Echelon的男主角向它提问:你的宗旨是什么?Echelon的回答是“保护美国公民的自由权益”。经过一番人机对话,这台计算机“幡然悔悟”,将自身的监视程序删除了。

博斯特罗姆认为,科幻电影和小说中常见的自毁程序桥段,并不是解除超级人工智能威胁的最佳方案。他指出,“我们并不是要永远抑制超级智能,或不开发行动自由的超级智能。”计算机程序的“动机选择问题”必须得到解决。一种解决方案是将机器的目标模糊化。例如,如果想要它帮助医生治疗某种疾病,可以将目标设为“做有利于人类健康的事”。另一种解决方案是使人工智能更人性化,为其编入同情和利他主义程序。

这两种方案,都与科幻小说家阿西莫夫提出的“机器人三定律”相通。三条定律分别是:第一法则:机器人不得伤害人类,或坐视人类受到伤害;第二法则:除非违背第一法则,机器人必须服从人类的命令;第三法则:在不违背第一和第二法则的情况下,机器人必须保护自己。“这堪称机器人版的‘绝对命令’学说。哲学家康德提出的‘绝对命令’要求,人应该在任何情况下把自己和他人当作目的,而非手段。”徐英瑾评论道,“未来出现超级人工智能后,应将这种机器人伦理以立法形式确立下来,防止疯狂的科学家开发出旨在控制甚至毁灭人类的机器。”记者 俞陶然

相关链接

汉字屋论证

一个母语是英语、对汉语一窍不通的人,呆在一间只有一个开口的封闭房间里。屋内有一本用英文写的说明汉语语法和汉字组合规则的手册,以及一大堆汉字符号。屋外的人不断向屋内递进用汉字写成的问题。屋子里的人便按照手册上的说明,将汉字符号组合成对问题的解答,并将答案递出房间。

在这个思想实验中,屋内人相当于计算机,手册相当于计算机程序。塞尔想以此证明,正如屋内人不可能通过手册理解汉语一样,计算机不可能通过程序获得理解力,即冯·诺依曼型计算机不可能具备强人工智能。

(0)
上一篇 2015 年 1 月 12 日 上午 8:39
下一篇 2015 年 1 月 12 日 上午 9:56

Warning: Undefined array key "related_news" in C:\wwwroot\shibo\wp-content\themes\justnews_6.11.3\single.php on line 169

相关文章

  • 小时候零花钱少是怎么样的体验?

    作者:牛继业 我们农村不是少,是根本没有。 放学没事直奔垃圾堆,捡各种废铜烂铁,打吊针用过的塑料管子,编钥匙链编小鱼什么的; 所有玩具都得自制,好不容易弄了一块木头,为了自制陀螺,差点被锯子锯断手指; 用木头刻了一个小人,因为太恐怖吓哭了弟弟; 一直特别想要一个小铜马,自己收集了好多破铜,钥匙孔线圈等等,想自己铸一个,现在那堆废铜还在老家罐子里扔着; 用自行…

    2015 年 1 月 4 日
  • 唐山32万辆机动车下月将强制报废

    5月1日《机动车强制报废标准规定》将开始运行,届时连续3个周期未取得检验合格标志的车辆将一律强制报废。记者从市公安交警支队车辆管理所获悉,目前,我市连续3个周期未取得检验合格标志的车辆达322520辆,其中大型车18063辆,小型车28359辆,摩托车276098辆。 据介绍,我市公安交管部门将严格执行临近报废期车辆登记管理规定,临近强制报废年限1年以内的机…

    2013 年 4 月 18 日
  • 保时捷赔本卖、汉兰达被“嫌弃” 二手车市场的“冬天”有些冷

    虽已是初冬时节,但午后煦阳下的暖意让守候在北京旧机动车交易市场入口处的工作人员变得慵懒起来,只是偶尔有车辆进入时才又打起精神。 这一幕与多年前门口车水马龙的“胜景”形成了鲜明对比,也成为当前全国二手车市场的缩影。 “今年的二手车市场,从2月份春节后开始出现‘价格崩盘’并持续至今,这直接导致今年出现历史最大幅度的交易量下降和成交均价下降。” 王萌是行业知名二手…

    2022 年 11 月 16 日
  • 特斯拉Model Y被曝疑集体通病!车主:冬天跑不了直线

    近段时间,随着国内大部分地区陆续降温,越来越多的特斯拉Model Y车主,集体投诉或者曝光,方向盘抖动和卡顿迟滞的问题。 目前,在车质网投诉平台上,有多位车主投诉2022款特斯拉Model Y方向盘在低温状态下转向卡顿、车辆跑偏的问题。 据投诉车主介绍,“打方向时有齿轮感,卡滞,一格一格的,影响方向精度,严重影响行驶安全。而在车主致电特斯拉售后服务中心时得到…

    2022 年 12 月 9 日
  • 豪华品牌卖电车 先把自己打骨折

    2018年,当第一批中国造车新势力的PPT还只是幻灯片时,有一种格局在大气层的声音,成为了很大一部分人的共识: 德系豪华一发力,瞬间干翻新势力。 五年过去了,当这些造车新势力把PPT做得更精美的同时,还顺手让年交付量突破十万台后,格局依然在大气层的声音也见风使舵成了新共识: 新势力一发力,传统车企就被干骨折。 传统汽车公司在智能电动车时代的骨折,是从老牌豪华…

    2022 年 12 月 11 日
  • 选吧:微信还是淘宝?

    一夜之间,阿里系和腾讯系的部分app不能再互相分享了,也许在不久的未来,选淘宝还是选微信,对于商家们来说都成了一个问题。 阿里和腾讯针锋相对,目的是为了竞争和抢用户,但双方大佬们一次次的互掐,都让用户们很囧很受伤。 腾讯和阿里从去年开始就在移动互联网业务“跑马圈地”:腾讯有自己的地图业务,阿里巴巴就全资收购高德地图;腾讯的微信如日中天,阿里巴巴就大手笔推“来…

    2015 年 2 月 6 日