创造出超越人类智能的人工智能会发生什么?丨专访斯图尔特·罗素

2021-01-20 01:19:18

采写 | 何安安
如果我们创造出了达到或者超过人类智能水平的人工智能(AI),会发生什么?人类会成为自己发明的受害者吗?在不远抑或是遥远的未来,人类与机器人可以和平共处吗?人类有一天,会向机器人乞讨吗?在2017年,《纽约客》杂志的一幅封面画引发了一场有关于人类与机器人的大讨论。而今,由人工智能引发的争论正在变得比当时更多也更加激烈,这其中既有技术的纷争,也充斥着伦理和法律的博弈。
《纽约客》杂志封面画(2017年10月)。基库·约翰逊(R. Kikuo Johnson)绘。插图对应的封面文章名为《黑暗工厂》(Dark Factory),描述了密歇根州大急流城Steelcase金属厂中一些被称作“人肉机器人”的工人的故事,在这家公司,越来越多原本由人类从事的工作都被机器人取代。在这幅由基库·约翰逊(R. Kikuo Johnson)绘制的封面画中,年轻的人类乞丐坐在未来的曼哈顿街头乞讨,路上穿过的形形色色的机器人“上班族”和“行人”则向他手中的杯子里投掷着螺丝和垫片,他身旁的小狗也“目瞪口呆”地注视着面前通过的机器狗。
不可否认的是,人工智能正在成为日常生活的一部分——虽然它在即将过去的2020年并未取得重大突破,但显然,它已经切实改变了每一个人的生活。对于熟悉科幻小说、影视作品的人们来说,其中虚构的未来,可能正是我们所身处的现在。人工智能生态系统、无人驾驶汽车、智能个人助理、家用机器人……蓬勃发展的人工智能通过智能手机、家电、汽车等终端深入家庭、企业和各种公共设施,它是当下的普遍现象,更是未来的主导技术。 在人类尚未进入技术时代开始,有关机器人的想象就大量存在于文学和戏剧、影视作品之中。起初,人们担心人工智能会背叛人类——机器会因为更加聪明(智能)而反抗人类,甚至消灭人类。 比如在根据科幻大师阿西莫夫短篇小说改编的电影《我,机器人》中所探讨的正是人与机器之间的关系。影片中,机器人具备了自我进化的能力,它们随时会转化成整个人类的“机械公敌”。而“终结者”系列,探讨的同样是机器人毁灭人类。为人工智能赋予人类的感情,衍生的又是一个全新的故事。史蒂文·斯皮尔伯格导演的《人工智能》中,机器人小孩大卫试图寻找自己的生存价值:渴望变成真正的小孩。 这些故事塑造了我们对人工智能的认知,阿西莫夫创作的“机器人三大定律”也因为这些作品的一再表述而成为我们看待机器人的“标准”信条。但在斯图尔特·罗素(Stuart Russell)看来,这或许反而成为了人类的某种误区,比如让人工智能“服从人类”显然就是个坏主意。
斯图尔特·罗素(Stuart Russell)(版权:Peg Skorpinski),加州大学伯克利分校计算机科学家,人类兼容人工智能中心(CHAI)主任,人工智能研究实验室指导委员会(BAIR)成员。世界经济论坛人工智能和机器人委员会副主席,美国科学促进会(AAAS)会士,美国人工智能协会(AAAI)会士。罗素获得过多项科学荣誉,包括美国国家科学基金会总统青年研究员奖、国际人工智能联合会议(IJCAI)计算机与思想奖、国际计算机学会(ACM)卡尔斯特朗杰出教育家奖等,并受邀在TED、世界经济论坛演讲。
一个极端的案例是,如果人类赋予机器人一个错误的或者存在漏洞的目标,这可能是致命的。假如我们希望通过人工智能系统控制气候变化,并为其设定将大气中的二氧化碳水平恢复到工业革命前水平的命令,这一系统很可能会得出消灭人类的结论——因为人类活动是产生二氧化碳最主要的来源。即便人类为此附加条件不能消灭人类,人工智能系统也可以会以说服的方式让人类少生孩子,直到人类自然灭绝。 身为美国加州大学伯克利分校计算机科学家的斯图尔特·罗素,是当今世界上人工智能领域的权威专家,他曾与谷歌研究总监彼得·诺维格合著出版了人工智能领域里的“标准教科书”《人工智能》,该书被128个国家的1400多所大学使用。就在今年二月,他已经完成了该书的第四版。 今年十月,斯图尔特·罗素的著作《AI新生:破解人机共存密码——人类最后一个大问题》引进出版,在这本书中,罗素提出了一个问题:如何破解人机共存的密码,使得人类可以掌握比我们自身强大得多的智能?在过去相当长的一段时间里,人类之所以能控制地球,是因为人类的大脑比其他动物的大脑要复杂得多。而这正是因为“智能”,是一种权利。因此,罗素更为关注的,是对于这些比我们更强大的机器,如何保持绝对的控制权?在著,张羿译,中信出版社2020年10月版。
超级人工智能的成功可能意味着人类的毁灭电影《人工智能》剧照。故事发生于21世纪中期,由于温室效应,南北极冰川融化,地球上很多城市被淹没,人工智能机器人就是人类发明出来用以应对恶劣自然环境的科技手段之一。在影片的设定中,机器人制造技术已经高度发达,先进的机器人不但拥有可以乱真的人类外表,还能感知自身的存在。 所想象的那样:充满着孤独、贫穷、肮脏、野蛮和短暂。
电影《2001太空漫游》(1968)剧照。故事设定开始于2001年,为了寻找黑石的根源,人类开展一项木星登陆计划。飞船上有冬眠的三名宇航员,大卫船长、富兰克飞行员,还有一部叫“HAL9000”(赫尔)的高智能电脑。 具体来说,这样的人工智能系统,可以让我们把地球上每一个人的生活水平都提升到一个像样且体面的程度;每一个人都可以获得一位私人导师来指导他们的成长;每一个在目前看来昂贵、困难、进展缓慢甚至(在世界某些地区)无法得以实施的社区项目都会变得可行。电影《机械姬》(2014)剧照。影片中,天才一般的纳森研制了具有独立思考能力的智能机器人伊娃,为了确认她是否具有独立思考的能力,他希望加利能为伊娃进行著名的“图灵测试”。似乎从第一眼开始,加利便为这台有着宛如人类般姣好容颜的机器人所吸引。 ——机器的唯一目标是最大限度地实现人类的偏好;2、谦逊原则(humility)——机器最初并不确定人类的偏好是什么,这是创建有益机器的关键;3、学习预测人类偏好,人类偏好的最终信息来源是人类行为。 阿西莫夫(Asimov)设计他的三定律(不伤害人类、服从人类、保护自我)是为了创造有趣的情节,而不是为了保护人类免受机器人的伤害。“不伤害人类”的原则与我的第一条原则相似,只是阿西莫夫认为“伤害”有一个固定的定义——而这正是我试图避免的。 出于同样的原因,“服从人类”也是个坏主意,尤其是当这个人类是一个脾气暴躁的两岁儿童时。他的机器人“保护自我”原则是完全没有必要的,因为如果机器人的继续存在对人类有帮助的话,它会自动做到这一点。而且,正如它应该做的那样,《星际穿越》中的TARS机器人也应该为了拯救人类而快乐地自杀。
电影《星际穿越》(2014)剧照。右侧方形物体为TARS机器人。
有几种情况可能会误解这些原则。最为常见的是人们认为我是在建议把一套人类的价值观插入机器,例如基督教价值观或儒家价值观。没有这回事。机器应该为每个活着的人设置一个单独的偏好模型,这个模型是基于人类的偏好(其中大部分是机器并不知道的)。同样重要的是,要明白机器不会把这些偏好当成自己的,它只是在学习人类想要什么。它也学不会像人类一样行事,就像犯罪学家不会学着像罪犯一样行事。这台机器完全是利他主义的,没有自己的偏好。 最为困难的问题来自于专业的哲学家,他们已经为此思考了几千年。有些人会问:人类的偏好是不稳定的,是可以被操纵的,我同意这是上述三个原则的一个问题。其他人则问,偏好——我们希望未来如何——是否真的可以作为在道德上站得住的决定的基础,以及我们是否也需要考虑权利。令人担忧的是,许多人的偏好可能会侵犯个人的权利。关于这一主题的书籍已经有成千上万了,因此我不会在这里提出自己的意见,只想说我相信对立的观点实际上也是可以调和的。
电影《黑客帝国》(1999)剧照。片中,网络黑客尼奥对这个看似正常的现实世界产生了怀疑。他结识了黑客崔妮蒂,并见到了黑客组织的首领墨菲斯。墨菲斯告诉他,现实世界其实是由一个名叫“母体”的计算机人工智能系统控制,人们就像他们饲养的动物,没有自由和思想,而尼奥就是能够拯救人类的救世主。 今年春天,我和两位哲学家,一位经济学家一起上了一堂课,研究了一些难题,即机器做出的决策对人类有益到底意味着什么,尤其是当我们考虑到有许多人有着不同的偏好时。这些问题在道德哲学和政治理论中已经提出了很长时间,但我们需要尽快回答它们!否则我们的人工智能系统就会遵循非常错误的理论。我觉得这很有趣,我很确定我们能取得一些进展。 的“文明”系列,在他的构想中,未来的人工智能系统比人类的能力要强大得多,但它们(以某种方式)被设计成几乎完全有利于人类。他无法回答的一个明显问题是,当机器完美地运行一切时,人类能在生活中找到什么目的。他们有大量的闲暇时间和无限的物质资源,但缺乏明确的目的,人们拼命地竞争极少数可以提供真正挑战的职位。
电影《星际迷航》(2009)剧照。 像大多数人工智能研究人员一样,我相当有信心我们将实现达到人类水平的人工智能,尽管这可能不会像许多人认为的那样快。我们仍然需要克服一些巨大的概念性挑战,很难说这需要花费多长时间。
机器必然会后退一步,为人类留下可成长的空间 撰写的《人造的你》(Artificial You)一书对这个问题进行了广泛的讨论。
《人造的你》(Artificial You),苏珊·施耐德(Susan Schneider著,普林斯顿大学出版社(Princeton University Press)2019年9月版。《超级智能》(Superintelligence),尼克·博斯特罗姆(Nick Bostrom)著,Oxford University Press2014年9月版。
我们应该从哪里找到目标,无论是个人的还是集体的?也许人工智能会来拯救我们,因为目标和挑战是人类生活的重要组成部分,它们的消失显然不是我们希望看到的未来。因此,可以说,机器必然会后退一步,为人类留下可成长的空间。
采写 | 何安安


标签: