回首页

《北京晚报》五色土副刊“身边的科学”专栏(25)-2009-9-3-第43版

  (提要)真正的问题或许是:当我们使机器具有更多的智能时,并不知道哪里是危险的边缘。
  
  

智能机器:好梦还是噩梦?

尹传红

 

  社会面临的问题越来越复杂,机器越来越智能化,人类对机器的依赖性越来越强……会不会有那么一天,机器或机器人将具备自主意识和自我设计的能力,进而群体反叛人类,甚至把人类置于其有效控制之下,最终成为掌控地球的新势力?在本栏上篇文章提到的BTV《非常故事汇》节目录制现场,放过科幻电影《机械公敌》那惊心动魄的片断之后,主持人英达把问题抛给了王渝生和我两个嘉宾。
  王老先生的观点是:人无远虑,必有近忧。科技的应用有正面作用,也有负面效应。有些坏的可能性,与其信其无,不如信其有。这样才能防患于未然。
  我的看法仍然倾向于保守:机器人终归只是机器,工具而已,给它植入确保行为无害的运行规则或“套”上安全装置不就安然无恙了吗?我不相信没有生命的自主意识。
  然而,那些常被视作“杞人之忧”的幻想,距离我们的现实生活竟也是如此之近!就在我们录制完那台节目3天之后,《纽约时报》登出一篇题为《科学家担心机器会比人聪明》的报道,提到:由于人工智能方面令人吃惊的进展,一些计算机科学家正在争论是否应该对某些研究设限,以防这些研究可能导致人类失去对计算机体系的控制,而这些系统承担着越来越多的从发动战争到同顾客电话聊天的社会工作。有人甚至认为,可以自动杀人的机器或者已经产生,或者很快将会出现。
  这篇报道的观点,跟两年前在美国旧金山召开的“奇点峰会——人工智能(AI)和人类未来”所传出的信息如出一辙。在当年的那个峰会上,有AI研究人员提醒说,现在是制订道德指导原则以保证这些进步会帮助人类而不是危害人类的时候了。最让人最担心的情况是,一个才华横溢的发明者创造出一个对人类怀有敌意、可以自我编程但却没有道德观念的智能机器。
  而在目前的人工智能领域,则有这样一种理念:当人工智能机器达到一定的智能水平(即在某天突然达到一种称作“奇点”的状态)之后,它们将会“失去控制”,以我们无法想象的速度自行进化,以至于远远地并且非常迅速地把我们抛在后面。就此有一声刺耳的警告称:如果你认为这种神一样无所不能的人工智能机器不可能被很快制造出来的话,那么不妨回想一下,利奥·西拉德在20世纪30年代预测一颗炸弹(原子弹)可以摧毁一座城市,当时的人们却把他看作疯子的情形。
  真正的问题或许反映在这样一种忧虑中:当我们使机器具有更多的智能时,并不知道哪里是危险的边缘,因为对于智能的衡量并不明确,更何况智能所要包括的领域是如此之广。这情形“很像是闭着眼睛在悬崖上行走,每向前迈一步之前,你说:‘我刚才走的一步没出问题,因此我就再迈一步吧。’在没有到达悬崖边缘之前你还不会出事,但等到了的时候就太晚了”。到那时候,人类是圆了一个好梦还是迎来了一个噩梦呢?
  不过,也有不少人对此持乐观态度,认为各种各样的智力至少有可能建立一种共生关系。机器人或计算机不会取代我们的地位,而会作为我们的朋友和同盟者,跟我们一道走向光辉灿烂的未来——只要我们在此之前不要自我毁灭。更有人工智能专家大胆设想:智能机器人实际上是人类演化的后代,它们从我们人类中成长,学习我们的技能,与我们拥有共同的价值标准,可以看成是我们人类思维的后代。
  很有可能,未来的人们将能够把他们的思想加载到高级计算机中,由此转化形式,使得自己可以永远生存下去。而在此之前的一幅图景则是:学会使用计算机与机器人,已成为未来人类接受文明的重要条件,就像过去人们要立足于社会,就必须学会读书、写字一样。



题外话

因报纸对专栏文章篇幅有限制,且在下笔头功夫尚不到家,故诌成的文字总有词不达意、言犹未尽之憾。由是,于见报之余再唠叨些许成文背景,或延伸扯几句,曰“题外话”。
欢迎各位朋友批评指正或提供专栏文章题材线索,我的联系方式是:asimov@126.com
此文在我的博客(华声在线精英博客)中配有相关图片(感谢马晓霖前总裁的关照和支持):http://blog.voc.com.cn/yinchuanhong/
感谢上海交通大学科学史系江晓原先生与吴慧女士的关照和支持:http://www.shc2000.com/
感谢好友北风吹的博客:http://blog.sina.com.cn/beifengjingchui以及千龙网-千龙教育专给我设了“传红科普”栏目:http://edu.qianlong.com/。

  又要向诸位道歉了:上周“预报”的关于本篇文章的相关电视节目,由于电视台方面的编排调整(照顾国庆相关节目),再次延期播出。依照最新一期《北京广播电视报》第34版和32版对北京电视台-3(科教频道)的预告,9月12日(周六)20:00将播出“八点非常故事汇特别节目——家有机器人”;9月13日(周日)13:10同一频道重播。后边附现场照片两张。
  这两天事太多,又要出差,不展开说了。
   09-9-3
 

 

北京电视台演播现场全景-09-7-22

感谢嘉宾

 

 

 

                                  20091001加入