奇点 奇点

链接全球创新医疗

一月的第一个周末,很多人工智能领域的顶尖研究人员来到波多黎各参加一个不同寻常的私人会议。这个会议之所以不同寻常,一定程度上是因为它的主题:智能机器的崛起对人类而言是福是祸。公众一直在不断探讨这个问题,然而科学家们自己却很少这样做。会议由一个名为未来生活研究所(Future of Life Institute)的新兴智库组织,其负责人是麻省理工学院(MIT)宇宙学家马克思·泰格马克(Max Tegmark)。泰格马克曾经出版过一本书,假设宇宙可能仅仅是数学结构的结合。

 

参会的研究人员拿到了两个命题。第一个命题是,我们是异常突破性进展的管理者。MIT的经济学家埃里克·布伦乔尔森(Erik Brynjolfsson)称:“我们生活在一次最伟大的历史事件之中。”参会人员被要求预测机器在什么时候可以在所有人类工作领域战胜我们,他们的预测结果平均值是2050年。第二个命题比较复杂,因为它要求研究人员考虑人工智能的突破性进展也许是一件坏事这个问题。众多著名的技术人员早就警告过我们人工智能可能带来的威胁,其中就包括史蒂夫·沃兹尼亚克(Steve Wozniak)、比尔·盖茨(Bill Gates)和斯蒂芬·霍金(Stephen Hawking)。霍金最近表示:“完全人工智能的发展可能毁灭人类。”而埃隆·马斯克(Elon Musk)也说:“发展人工智能技术,实际上是在召唤魔鬼。”

 

泰格马克组织私人会议的目的是描绘这个“魔鬼”的样子,以便研究人员能够像科幻领域那样严肃地认识到人工智能给人们带来的担忧。布伦乔尔森和其他经济学家称,随着机器逐步适应各个领域的工作,很多工作岗位会被渐渐淘汰,而设计和投资机器的人则会发家致富。这样一来,我们面临的经济失调风险也逐步提升。学界和业界的研究人员详细地说明了机器的大脑究竟是如何渐渐聪明起来的。现在,人工智能已经可以理解和形成类似于“信念”这样概念的东西。法学界则表示,给负责识别轰炸目标或者提供导航路线的电脑设定法律责任是一件困难的事情。

 

在1月4日晚上名为“人工智能大爆炸”的会议上,研究人员探讨了机器可能迅速地远远超过人类能力的可能性。这个假设由牛津大学哲学家尼克·博斯特伦(Nick Bostrom)提出。人工智能公司DeepMind研发了一个算法,从而使得电脑可以玩经典的打砖块游戏。这个游戏要求参与者用小球击打砖块并尽可能获得多的得分。最初,人工智能程序并不了解球或者球拍的概念,也不知道如何才能获得得分。两个小时之内,它就能灵活的掌握游戏。而四个小时内,程序就弄清楚了如何才能获胜(让小球通过通道穿越砖块,这样就可以在相对封闭区域里击打更多砖块)。这让我们看到了一点未来的样子,既令人着迷又令人恐惧。对于那些担心人工智能的人而言,机器每变聪明一次,他们就会提出一次如何控制机器的问题。

 

资本领域有这样一个好的经验法则:如果亿万富翁开始发出警告,表示你现在从事的事情存在伦理内涵隐患,那么这证明你手头的工作是意义重大的。马斯克很快会未来生活研究所投资1000万美元,从而资助人工智能的研究和超过1000名顶尖人工智能实践人员的工作。参加这次会议的研究人员将签署一份由泰格马克起草的宣言,保证自己会确保智能机器对社会有益。当被问及为何人工智能的安全性突然成为一个急迫的问题时,泰格马克说:“人工智能发展很快,即将走出实验室进入社会了。”机器早就能很好地了解周围的世界并完成各类工作:无人驾驶汽车已经成为现实,全自动厨房(机器可以自己摆盘)也将于2017年问世。在帮助机器增加社会属性这个领域,我们取得了不小的进步。现在机器已经达到了“接近人类”的水平, 而我们也可以教育机器理解人类面部表情之后隐藏的情感从而将我们的经历模型化。

 

参会的研究人员中有一些是人工智能领域的实践创业者,他们每天都在处理解决机器的缺点。在他们看来,人工智能的发展是一个机会而不是一个威胁。因此,他们觉得有些人的“警告”有点“夸张”了。俄勒冈州立大学教授、人工智能进步协会主席汤姆·迪克里奇(Tom Dietterich)表示:“算法并不是像博斯特伦假设的那样工作的。人们总是询问机器和人类之间的关系。在我看来答案很明显:机器是我们的奴隶。”不过迪克里奇还是签署了泰格马克的宣言。几周之内他组织召开了人工智能进步协会年会,花了很长时间重点讨论机器人伦理学问题。

 

其实,所有的担忧都可以被归结成一个问题——机器已经完全社会化了。人们之所以对这个问题关注度提升,原因是IBM公司研发总部的一个小团队历经数十年努力终于开发出了一台名为Watson的智能机器。

 

IBM工程师最初着手打造人工智能的目的是为了让机器参加智力游戏节目 《Jeopardy!》,战胜所有人类选手。为此人工智能必须对语言精通,包括微妙的韵律变化、引喻和双关。Watson在2011年的胜利是人机对抗比赛的里程碑,但自那以后它就在不断进化。Watson的想法越来越富有创造力,设计更加贴切,因此它可以更好地满足人们的需求。

 

目前工程师在训练Watson关于分子生物学和财务金融领域的知识,还教它写食谱。另外,Watson还参与了石油勘探方面的工作实践,并能帮助我们解决犯罪问题。Wired网站预测,Watson将很快成为世界上最完美的医学诊断专家。IBM介绍称,Watson可以与我们的世界无缝衔接,已经在17个国家的75个产业中发挥了作用。目前,成千上万的人正在自己的工作中使用与Watson有关的应用程序。这样一来,Watson就成了我们探索人类与智能机器关系的早期试验品。在与它的工作过程里,我们要解决这样的问题:我们需要智能机器为我们做什么?它们能填补什么空白?它们又会带来什么恐惧?

 

偶然的灵光一闪才是解决哲学问题最诚实可靠的途径。Watson的创造者中有很多人从这个项目启动之初就加入了进来,他们对这台人工智能机器的看法与泰格马克截然不同。他们看到了Watson的成长历程,看到了它一点点学会新的技能,在失败中得到经验教训。有些人甚至认为与Watson的工作经历给他们带来了私人感情,好像自己是父母而这台机器是自己的孩子一般。去年十月,IBM将这个项目迁移到了一个环境更好的新办公区,这让Watson经历了与人类差不多的发展历程:在郊外度过了具有家庭氛围的早期研发阶段,接着接受各种教育以便自己能够适应更为复杂的外界世界,最后为了赚钱而搬进曼哈顿东村的办公室并努力寻找工作。

 

18-watson-2.nocrop.w529.h444

 

IBM在全球有大约40万名雇员,但是其总部和研发中心却远离硅谷。Watson项目就诞生于IBM研发中心,而最初给出这个想法的人是一名叫做费鲁奇(Ferrucci)的53岁工程师。费鲁奇是一个健谈、可爱且热情的人。研究生时,他就研发了一个叫做Brutus的程序:用户给该程序一个主题,它就能完成一份原创小说。在研发Watson时,研究人员试图让它学会语言。要想做到这一点,程序员需要用数学的办法描述所有的概念。这在当时听起来有点像童话故事,甚至是一个不可能完成的任务。2007年,当费鲁奇的团队开始工作时,他们利用了大数据技术的高效和机器学习领域的算法。他们为Watson系统上传了大量的数据库文本资料(百科全书、网页和参考文本),并且打造了很多程序。这些程序可以详细检查不同领域的提示线索并生成候选答案。接着,Watson系统会权衡不同答案的可能性并对其进行排序。

 

Watson的确具备人工智能的特征——它可以从经验中学习。每一次他根据《Jeopardy!》游戏档案给出了正确答案后,它就会记住哪些程序在这类问题上表现出色。工程师教它识别节目制作者使用的语言技巧,而Watson学会了如何更好地分析不同的提示和线索。日积月累,Watson的的回答速度越来越快,正确答题率也越来越高。到了2010年,它的正答率已经和《Jeopardy!》游戏超级冠军的水平相当了。最开始的时候,程序员习惯于先给Watson提示再启动程序,这使得机器的应答速度十分缓慢。最终IBM工程师优化了流程,让Watson的响应时间降到了3秒钟之内。

 

引导机器学习语言是一个陌生领域。可是一旦Watson掌握了语言之后,它就能精读人类全部的文化资料库——人类为了向他人解释这个世界而写下的一切文字。Watson会平等的分析解读人类的文化资料库,不存在任何歧视和偏好。慢慢的,它熟练地掌握了信息挖掘工作,了解了那些人类曾经热衷却最终抛于脑后的信息。当然机器也会犯错,就像牙牙学语的孩子一样。它也会读错新的单词,分不清现实与神话之间区别,还会曲解成年人清晰表达所传递的意思。

 

Watson第一次参加《Jeopardy!》游戏就要面对肯·詹宁斯(Ken Jennings)和布拉德·鲁特(Brad Rutter)的挑战。詹宁斯是该节目纪录保持者,曾经连续答对74道题。而鲁特则是战胜了詹宁斯的男人。据IBM计算,Watson有70%的机会获胜。虽然过程小有波折,但是最后机器还是狂胜人类:Watson总计获得超过7.7万美元的奖金,是詹宁斯和鲁特任何一个人奖金数量的三倍以上。

 

随后,人们发现Watson具有探索能力:它能寻找不同信息之间的联系,然后将它们结合起来给出答案。IBM的夏季实习生编写了一份程序,Watson从此学会了搜索互联网来扩展知识的能力。据说从那天开始,Watson学会了骂人。

 

随着时间发展,Watson的能力越来越强大。IBM收购了一家澳大利亚公司,以便教会Watson情绪智商。一位计算机视觉专家则表示,他的工作是教会Watson如何看东西。后来,这台人工智能机器不仅仅能给出问题的答案,更可以生成假设和新的想法。从这个角度来看,Watson掌握了一种更高水平的人类思维活动——创造力。

 

为统计模型寻找结局并将其与人类经验相匹配,这正是计算机可以做的事情。而经历了《Jeopardy!》游戏的大胜之后,费鲁奇开始向全世界展示Watson。虽然全球各种活动让费鲁奇疲惫不堪,但是Watson终于成为了“公众人物”。

 

18-watson-3.nocrop.w529.h491

 

其实,人们从Watson项目诞生之初就对其存在一个基本疑问:Watson系统到底是什么?随着它越来越出名,人们的疑惑也越来越大。Watson确实具有人类属性:它能自己学习知识,还可以产生新的想法。有人问费鲁奇的副手艾瑞克·布朗( Eric Brown)Watson是否能够通过图灵测试(机器能否让人类相信自己是人类),他认为在特定高度局限环境中Watson可以做到。但从一般角度而言,Watson还差得远。相比Watson,其他机器在理解人类表达和探索现实世界方面表现的要先进得多。如果Watson不能代表人工智能的前沿科技,那么它就依然只是一个可以与人类交互的罕见多用途智能机器罢了。可是,人们总是喜欢给机器赋予人格。

 

Watson以机器人的面貌登上了电视节目,但它有名字这件事还是让人觉得它好像是个人一般。上个月,IBM公司CEO吉尼·罗曼提(Ginni Rometty)在演讲中称Watson为“它”。可是没过多久,她又在演讲中改口称之为“他”。她说:“Watson可以浏览你的全部医疗记录。他的老师是全世界最好的医生。”Watson项目采用的是分割化模式,不同领域的专家负责教它自己领域的术语和专业知识,然后评估它是否能够正确回答相关问题。现在Watson已经掌握了足够多的知识,他准备好从事专业的工作了。

 

任何一个行业的专家都有自己独到的成功之路,他们穷尽一生在专业领域内寻找捷径,培养自己判断事物时需要的直觉。智能机器和工程师对这种直觉非常好奇,他们想要整合所有的信息,通过测试将知识转化成机器可以理解的数学公式和代码。人们在现实工作中遇到困难时会用直觉和经验处理问题,可这种直觉无法被写成代码输入机器。

 

有的时候,Watson很想了解与自己一起工作的同事。IBM的工程师与一家石油勘探公司合作为Watson设计了一系列问题。通过询问每个地质学家这些问题,Watson能够了解这些科学家的风险偏好。然后系统会判断出不同科学家的潜在偏见,进而更好地评估他的推荐。一家名为Elemental Path的公司利用Watson的这种技术打造了一款可以提问并回答的儿童恐龙玩具,这个玩具能够了解儿童的兴趣和理解力,根据不同情况给出合适的答案。

 

迈克·巴博拉克(Mike Barborak)是Watson团队的一名年轻工程师,他和同事为Watson编写了一条最简短的程序规则:万物皆相联系。此后他给Watson提供了一个医学案例供它分析。这个案例并不长,只是用几句话描述了一个患有肿瘤的老太太前去医生办公室问诊的情况。Watson对案例中提供的线索做了大量分析搜索工作,这个规模是人类永远无法企及的。虽然机器并不太理解老太太遭受到的病痛,但它像医生一样发现了临床报告之间的联系并做出了正确的诊断。

 

如果利用这样强大的技术为人类服务,我们能实现什么样的壮举?贝勒大学的癌症生物学家劳伦斯·唐豪尔(Lawrence Donehower)毕生都在研究一种叫做p53的癌症基因。人类已经对这种基因研究多年,也取得了很多成果。劳伦斯估计,全世界所有肿瘤研究人员每年可能发现一个新的潜在标靶药物。Watson在短时间内“阅读”了全部7万份相关资料,然后发现了8个新的标靶药物。科学家此前也认为Watson发现的这些标靶很重要,但因为工作量太大因此最终放弃了对其深入研究。劳伦斯称Watson的发现非常令人兴奋。

 

从Watson研发人员的角度看,这个智能系统已经成熟到可以独立运作了。他们感觉Watson这个“孩子”已经长大,可以离开家独自出去闯荡世界。人们一直担心人工智能太强大,可以实现自主运作。不过泰格马克并不是太担心,他认为人类给予智能系统最基础的“礼物”是专业知识。而专业知识越丰富,文明程度也就越高。

 

从机器的角度来看,人类急需帮助。在机器眼中,我们的想法狭隘且不完整,需要依赖经验作出判断而且缺乏足够的信息和远见。费鲁奇表示人们对人工智能存在认知偏差,他希望人工智能的崛起能让人类警醒,认识到自己的确需要帮助。

 

机器越精密,人类就越容易意识到自己的缺点和不足。电力部门在风暴来临时要重新分配资源,但他们采取的方式却非常不科学。人类个体总是存在局限性,而精通合作Watson虽然不是超人这样的神话,但却能有组织有条理的完成分析和判断。

 

IBM销售Watson的方式主要有两种:以商业服务模式销售给大型公司;以技术专利许可模式允许创业企业使用Watson的技术。同时,他们还邀请潜在客户来参观这台机器。

 

Watson像学习其他技能一样学会了烹饪。它“阅读了”所有Bon Appétit出版的菜谱,并从中理解了很多关于烹饪的知识。比如,Watson知道了墨西哥厨师为什么要将生鲜食材卷进鱼的肚子里,也知道了法国厨师在处理同样问题时与墨西哥厨师手法的差异。此后在程序员和詹姆斯·布里斯安(James Briscione)厨师的引导下,它开始创造新的菜谱。Watson很擅长兼取百家之长,它总是能将不同菜系的食材和烹饪方法结合起来创造出新的美食。

 

但是并不是所有人都认同Watson对于美食的理解。阿里·泰莫(Ari Taymor)是洛杉矶一家富有创造性餐馆的年轻主厨,在他眼里Watson编写菜谱的确是一个认知行为。可是无论这个举动的本质是什么,Watson创造出来的菜肴都很差劲。泰莫认为Watson错误的理解了食物,他说:“食物代表了特定的场所和特定的经历!”其实他眼中的食物能给人家的感觉,是一种家园意识的体现。然而机器永远无法复制和理解这种东西。

 

现代人对人工智能充满了恐惧。我们主要是担心人工智能会利用人类的弱点和无能,在我们没有意识到之前就将我们禁锢和奴役。在无人驾驶汽车横冲直撞之前我们意识不到它的危险,在军用无人机突然进化出自己的思想前我们也意识不到它的威胁。牛津大学的哲学教授博斯特伦在《超级智能》一书中举了一个荒谬的例子:人类发明了一个在工厂管理生产的人工智能系统,并给该系统设定了终极目标:最大化曲别针的生产。于是人工智能系统首先把地球变成了一个大的曲别针,然后将宇宙中其他星球慢慢也变成了曲别针。

 

不过仔细想想,人们对人工智能的恐惧虽然与日剧增,但这实际上与人们自身对技术的了解关系不大。即便是世界上最出色的技术人员,他们也和普通人一样害怕人工智能。在我看来,人类对人工智能的恐惧程度主要取决于我们如何看待人类自己:知识分子论战与人类局限和非理想的界线是什么?你是否认同费鲁奇提出的人类需要智能机器的帮助这一观点?

 

费鲁奇在讲述人工智能发展未来时举了柴可夫斯基《第六交响曲》的例子。柴可夫斯基在圣彼得堡的第一夜遇到了轰炸,因此他彻夜未眠,对乐曲进行了小幅度修改。第二夜他突然灵感爆发,大规模修改了乐曲。费鲁奇说机器永远无法做到完全模拟人类的行为,它们无法理解人类对于一个事情会做出什么反应或者不作出什么反应。电脑永远不可能对作品做出柴可夫斯基那样规模的修改,除非它们能够在超越统计学水平的层面上模仿这个世界。在费鲁奇看来,那才是真正的人工智能。

 

费鲁奇说:“相比于经济问题和社会改变,有一个深刻的哲学问题对我们困扰更深刻。当机器比人类更擅长解决既定任务时,人类的自我感知会发生什么变化?人类一直是世界的主人,是最强大的种族,因为我们可以伤害任何生物。如果有一天你更愿意让机器代替人类去工作,你将如何评价自己的价值?”

 

虽然泰格马克担心人工智能的崛起带来灾难,但是费鲁奇却不这么认为。因此,他也没有签署泰格马克的宣言。在他看来,人工智能的进步意味着一些工作岗位将会消失,而决策制定者也要考虑更好的机器带来的社会后果。他说:“我认为人工智能的未来是美好而强大的。那时人们可以去做自己真正喜欢的事情——探索思维,探索思考过程,构建世界的概念模型等。机器会在这些过程里成为我们的助手,帮助我们思考问题。”

 

不同的阶层对于人工智能的反应各有差异。亿万富翁担心人工智能篡权夺位,抢走了自己的控制力。中产阶级工程师希望人工智能发展以解放自己,从而获得更多闲暇时间。费鲁奇设想的未来很美好,但是他设想的隐藏含义是指人类并不适应从事复杂的认知工作。从某些基础生物学角度来看,我们生来就不是干这个的料。不过,也许我们更适合从事其他更好的工作也说不定。

 

本文首发于奇点,转载请注明来源:奇点网www.geekheal.com

奇点分享微信

推荐阅读

发送