【刷爆新知】20171101 解读:《玻璃笼子》

96
鞍山孙勐
2017.10.31 11:20* 字数 26951

作者介绍

尼古拉斯•卡尔(Nicholas Karl)《玻璃笼子:自动化时代和我们的未来》作者,美国知名作家兼思想家,技术、创新和战略研究专家,毕业于哈佛大学,曾担任《哈佛商业评论》执行主编。尼古拉斯•卡尔堪称互联网、新科技时代最清醒的思想家,他的每一篇文章、每一本书几乎都会引起广泛关注。轰动互联网、信息和科技界的三篇文章:《IT不再重要》(《哈佛商业评论》,2003年第5期),《Google让我们变愚蠢?》(《大西洋月刊》,2008年7/8月),《自动化让我们变笨拙》(《华尔街日报》,2014年11月21日)。尼古拉斯•卡尔撰写的三本书摘取了科技思想界的“王冠”:《大转换:重连世界,从爱迪生到Google》(系统阐述云计算的首本书),《浅薄:你是互联网的奴隶还是主宰者》(《纽约时报》畅销书,获普利策奖最终提名),本书《玻璃笼子:自动化时代和我们的未来》(亚马逊网站畅销书,《纽约时报》《华尔街日报》盛赞)。卡尔现与妻子居住在美国科罗拉多州。

作品简介

尼古拉斯卡尔在《玻璃笼子》中指出,自动化在分担我们工作的同时,也弱化了我们的才能,偷走了我们的生活,限制了我们的视野,它甚至将我们暴露于监控之下,操控我们。当计算机和一切智能设备变成我们生活中的伴侣时,应更加留心它如何改变了我们的行为和身份。卡尔的作品无疑给我们这个时代注入了一剂清醒药。他独特的思考问题角度,犀利甚至略为偏激的观点再加上丰富的最前沿的科技案例会让人读起来畅快淋漓、有醍醐灌顶之感。我们每天都在使用智能设备,经常为一个又一个技术的进步而欢呼,读完本书,我们的看法将被彻底颠覆。

作品序言

致驾驶员的警告

2013年1月4日,新年的第一个星期五,新闻界风平浪静的一天。当天,美国联邦航空管理局(FAA)发布了一则仅有一页纸的通告。该通告没有标题,只是被归为“致驾驶员的安全警告”(SAFO),发布在美国联邦航空管理局网站上,并被发送给美国所有航空公司以及其他商用航空公司。通告简明扼要但隐意深远,指出“此安全警告鼓励驾驶员在适当的时候多采用手控飞行操作”。美国联邦航空管理局从失事飞机事故调查、意外事故报告及驾驶舱研究中搜集了一些证据,表明驾驶员曾经过度依赖自动飞行系统以及其他计算机系统。美国联邦航空管理局警告称,过度使用自动化飞行会“削弱飞行员快速处理飞机不良飞行状态的能力”。简言之,过度依赖自动化飞行会将飞机及机上乘客置于危险之中。最后,这份安全警告建议航空公司制定操作政策,要求飞行员减少自动化飞行的时间,更多地采用手控飞行。

本书是一本关于自动化的书,所谓自动化即借助计算机和软件完成过去需要人工手动完成的事情。我们不探讨自动化的技术问题或经济问题,也不讨论机器人、半机械人和机械部件的未来,虽然书中对这些都有提及。本书讲述的是 自动化给人类带来的影响。在自动化正逐渐吞没我们的浪潮中,飞行 员身先士卒。我们希望无论是在工作中还是在生活中,计算机都能替 我们分担更多的事务,指引我们度过每一天。现在,我们若要完成某 件事情,多半是坐在显示屏前,或打开笔记本电脑,或拿出智能手 机,或在前额或手腕上戴上联网设备。我们运行应用程序,向屏幕索 取答案,通过数字模拟声音获取建议,听从算法的智慧。

计算机自动化让生活更便捷,让我们少了些琐事的困扰。我们经 常能事半功倍,或是做些以前做不到的事。但除此之外,自动化还给 我们带来了许多更深层次的、更隐秘的影响。正如飞行员认识到的, 并不是所有的自动化都是有益的。自动化能分担我们的工作,也能弱 化我们的才能,偷走我们的生活。它会限制我们的视野,缩小我们的 选择范围,将我们暴露于监控之下,操控我们。当计算机成为我们的 日常伴侣,成为我们熟悉的、尽责的帮手时,我们还要留心它们在如何改变我们的行为和身份。

权威评论

在各大企业拼尽全力进行数字化转型、迈向更加智能的自动化生活的时候,卡尔却保持着清醒的思考。他是互联网浪潮中的逆行者,在书中,他对智能设备风靡的自动化时代提出了“挑衅”,这提醒着我们所有的人,包括企业、政府停下来思考和反思。

——周鸿祎 奇虎360董事长

《玻璃笼子》一书对自动化的反思发人深省,自动化程度继续提高的结果到底是人类在驾驭机器,还是机器主导甚至误导人?在工业4.0大潮兴起之时,更全面地考虑自动化带来的诸多影响,从而进行战略性的设计,是经济学和人类学都需要关注的重大问题。本书的观点是我们不可或缺的基石之一。

——何志毅 新华都商学院理事长、北京大学教授、《北大商业评论》执行主编

在这个互联网时代,卡尔屡次提出与众不同的观点。这本书的一个核心观点就是:自动化和智能化代替人脑的部分功能,是否会危害人类?卡尔提出的问题很有价值。人脑和机器智能的恰当分工在哪里?也许我们可以从这本书里找到答案。

——吕本富 中国科学院大学管理学院教授、博士生导师

在我们这个软件吞噬一切的世界里,尼古拉斯·卡尔希望唤起对软件主导人类工作和休闲可能带来的隐性代价的认识。工业机器人、无人驾驶车、可穿戴设备和数字医疗等尽管在当下顶着无尽的光环,但驱动它们的程序却正在剥夺人之所以为人的一些基本特质。麦克卢汉有句名言:“我们塑造工具,然后,工具塑造我们。”是重新思考我们每日使用的工具的时候了。

——胡泳 北京大学新闻学与传播学院教授,《北大商业评论》副主编

尽管和延伸人肢体的农业、工业革命相比,我们认为电脑、互联网、自动化的发展极大延伸了人的思维,但尼古拉斯·卡尔揭示了问题更加深刻的另一面——我们应更加重视深层次

思考,毕竟,最有价值的创意和创新永远来自我们的大脑深处,而不是搜索引擎。

——易宝支付联合创始人余晨

自动化、智能化曾经是人类不懈努力追求的目标,由于大数据的崛起,这个时代正在向人类逼近。但我们突然发现,它不如想象中的美好,甚至有很多问题。这本书带领我们系统地梳

理了这些问题,富有洞见。

——著名信息管理专家、阿里巴巴副总裁 涂子沛

核心内容

《玻璃笼子》这本书的副标题是:自动化时代和我们的未来。《玻璃笼子:自动化时代和我们的未来》这本书的中文版总共262页大约17万字左右。小编会用大约10000字转述书中精髓,再用2000字解读总结给各位亲!下面小编将为亲转述这本《玻璃笼子:自动化时代和我们的未来》。我们因智能化技术的快捷高效而痴迷沉醉的时候,当我们自认为会因自动化技术的发展而无所不能的时候,作为互联网浪潮的“逆行者”,美国思想家尼古拉斯·卡尔却保持着清醒的思考。在他看来,各种各样的智能设备和计算机包围着我们,使我们仿佛生活在被束缚的“玻璃笼子”里。我们因此会“退化”掉很多人类本身的能力,变得愚笨茫然却浑然不觉;我们的职业分工与内容会因此改变许多,且得失未定;我们丧失了很多单纯的快乐,劳动的、分享的、探索的、感知的快乐,我们舍近求远、缘木求鱼......更重要的是,当“机器人”背后的代码隐藏得越来越深,当整个世界都在机器操纵之下的时候;当我们将毫无道德感的“机器人”推上决策地位的时候,我们面临的失控的危险非常值得警醒。那么,在大局时代,人类该如何与机器相处?下一站商业机会在哪里?我们如何能在机器的帮助下,生活、工作得更好?

作为“这个时代最清醒的思考者之一”,尼古拉斯·卡尔在《玻璃笼子》里给出了答案。因此,对于政府决策者、企业家、设计师、技术专家以及所有想生活得更好的人来说,这本书都值得一读。如今,当我们要做某件事时,多半是掏出智能手机或坐在电脑前通过点击来完成,内置的软件应用可以帮我们处理N种事务,甚至作出决策。这令我们的双手及大脑得到解放。表面上看,我们可以越来越随心所欲地倚仗“机器人”来轻松地生活与工作,我们在科技进步的快行道上风驰电掣,无所不能。但其深层次的潜在影响却远未被人重视——我们的大脑正在经历着变化,也就是说,自动化在分担我们工作的同时,弱化了我们的本能,偷走了我们的生活,限制了我们的视野,甚至于将我们暴露在监控之下,操控我们。因此,我们必须警惕与小心,在我们塑造机器的时候,机器“怪物”也在重塑我们。这一切是怎么发生的?我们的内在“代码”经历着怎样的改变?机器与人类在共同参与一件事的时候,人脑与机器智能在行动与思考的边界在哪里?未来又将怎样?

一、自动化这头“怪物”

近百年来,几乎没有哪个词像“自动化”那样,令人喜忧参半。一方面,我们兴奋与狂热地沉醉于自动化带来的快捷与方便,只需一个按钮或轻点鼠标,我们就可以得到想要的感受与结果。另一方面,我们原本的工作被机器抢去,工作内容、收入和社会地位也因“机器怪物”的入侵而不再光彩照人,甚至,我们在失业和即将失业的惶恐中挣扎不安。

1.机器革命

秋日的黄昏,狂风暴雨,一名工人一只手抓着一个小工具,另一只手攥成了拳头,他神情焦虑地站在工厂大门里,目光越过泥泞的厂房,落在一个拥有宽肩膀的巨大的机器人身上,机器人胸前印着几个字:自动化。而它旁边,则立着“招工”的牌子。这是一幅颇具代表性的漫画,刊登于1956年出版的《自动化:朋友还是敌人》(Automation: Friend or Foe?)一书的卷首。此时,“自动化”一词已经影响了整个世界十年时间。1946年,早已因机械化而闻名的福特工厂实现了一项重大突破——工人们不再需要在机器间手动运送元件和配件,而是通过安装的新设备,由机器接管传送和处理原料的任务,整个装配均由机器来完成。于是,福特汽车的工程师希望创造一个新的术语用来描述这个新机器,当福特公司副总裁在一次会议上说“给我多一点那个自动的业务”“更多点自动化”的时候,这个影响深远的词汇就此问世。事实上,谈到自动化对人类社会的影响,还要从它的前身——机械化说起。

自1776年出版的《国富论》起,有关机器能否使我们变得更好的讨论便从未停止。作者亚当·斯密对制造商正在安装的机器表示赞叹,认为其会“推动生产并降低劳动强度”。在当时,经济学家、资本家及改革者都认为,机械化开启了一个良性循环,加速社会经济增长、扩大并散播财富,给人们带来便捷与享受。但伴随着机械化进程的提速,大量工人失业,以及不得不放弃原来熟练的工种转而从事单调的简单劳作,还是令很多人无法忍受生活的改变。一些极端的例子是,在18世纪及19世纪初的英国大部分地区,甚至出现了熟练工人通过毁坏机器来表示愤怒的事件。尽管如此,任何对机器的对抗均显徒劳,机械化的大潮早已势不可挡。不过,每一次的经济大萧条,都会使沉寂许久的“机器怪物”论浮现出来,机械化似乎成为失业率高的罪魁祸首。英国经济学家约翰·梅纳德·凯恩斯于1930年写下了这样的文字:“我们正在被一种新型的社会疾病折磨,未来几年,这种疾病被提及的次数会越来越多,它就是‘技术性失业’。”也就是说,机器接管了人们的工作,虽然社会经济也在创造有价值的新工作,但其远远比不上机器抢走工作的速度。这并非无稽之谈。可以用资本主义基本原理结合科学技术发展的历史来解释“为什么生产最终不再需要劳动力”——对资本家来说,技术的发展解释了劳动力的成本问题,同工人相比,机器不会生病,不要回报。因此,著名经济史学家罗伯特·史纪德斯甚至预测,“终归有那么一天,人类会没有工作可做”。

随着三个世纪的技术发展与变迁,人们对机器“替代体力劳动”而引发的惶恐不安,已逐步消逝。我们开始意识到,现代技术的影响,更多地开始体现在工作分工而不是就业数据上。一方面,人工劳力的机械化毁掉了一些好工作,但也带来了许多新的中产阶层职位。另一方面,计算机通过软件程序完成了原本属于白领的工作,致使许多职业因此由高收入工作转为低收入工作,抑或从全职变成了兼职。麻省理工学院经济学家戴维·奥托通过研究得出的结论是:信息技术“已经改变了职业分布”,这造成了收入和财富差距的扩大。更令人紧张的预见是,如果计算机技术将利润更多地集中到少数人手里,那么,中产阶层的数量会越来越少,甚至某些原本在高收入行业的从业者,也会渐渐面临失业的问题。

2.自动化魔力

现在,关于自动化的担心与忧虑驶入新的层面,自动化不仅是“替代体力劳动”的问题,而是很可能会“替代人类的大脑”。这绝非危言耸听。“二战”刚结束不久,福特的自动化设备就已问世。在战争期间,现代自动化技术就已成型。当时纳粹计划对英国进行闪电轰炸,这就需要用地面上笨重的高射炮发射重型导弹,从而击落高空中快速移动的炸弹。这远非人力所及。要完成这一行动,要借助雷达传回的追踪数据及对飞机飞行线路的统计预测,经过计算机周密计算,从而确定导弹的运行轨迹,然后将计算结果自动传送给高射炮的瞄准机制,自动开火。此外,还需根据之前发射成败的结果不断进行调整。

这一例子明确地概括了自动化的四大要素:一、以计算机为系统核心;二、具传感机制;三、通信线路;四、反馈方式以应对变化。显然,自动化和机器人的组成要素,已与人类神经系统的核心非常相似,即:感觉器官,进行大脑计算,控制物理运动的信息流,反馈回路。有了自动化武器的经验,人们不断开发出新的技术,并创建了“适用于大多数自动化机制的一般性构建原则”,这为自动化新时代的到来铺平了道路。同此前单纯的机械设备相比,机器人和自动化系统具有的优势极为明显:因为有软件控制,这些机器可以“更灵敏,大脑更快更灵活,对话更流畅,学习能力更强”。管自动化令人喜忧参半,有一件事是确定的:在工业领域和社会层面,自动化将变得越来越重要。可以说,“自动化不是一件东西或一种技术,而是一种力量”。它是一种进步的标志,在每个发展阶段,都值得对自动化进行重新评估。

二、我们被改变了的职业内容

虽然早在20世纪50年代机器人就已屹立在工厂的大门口,但直到最近,它们才在我们的命令之下,向办公室、商店和家庭进军。今天,我们开始感受到自动化正在改变我们的工作方式和内容。我们将被迫调整工作、行为和技能,以适应机器的能力和工作方式。从这点上说,自动化正在将我们变得更好,同时,也在操控我们。

1.航空业——自动驾驶技术

探究自动化对人类带来的影响,首先应朝天上看看。对,航空业,飞机,早在100年前便开始尝试自动化,如今,飞机驾驶员只需坐在玻璃座舱内与飞机内的计算机“协作”就可以完成飞行,这种变化带给人们的既是欢喜亦有淡淡的忧患。在航空业中存在的共识是,自动化技术的发展是飞行安全问题得以解决的原因之一。早在1947年,新一代自动驾驶仪已让一些工作变得多余,“飞机不再需要导航员、无线电话务员或飞机工程师”。最近的几年时间中,飞机驾驶员虽然继续在驾驶舱内,不过他们的任务已被有些人称为“观察各个计时器和不同的计数,确保飞行顺利”罢了。正是自动化在飞行中的参与程度愈来愈深,使得新的安全隐患开始显示出来。

发生于2009年的“布法罗空难”向世人敲响了警钟。在这场空难中,机上49人全部遇难并造成地面一人丧生,而这一切本不该发生。调查表明,飞机原本并不存在机械故障问题,而是驾驶员操作失误将这些生命推入深渊。两位驾驶员在监控飞机飞行时,都忽视了“失速警告”这一明显线索,随后机长并没有按照训练的要求进行操作,而是给出了错误的飞行控制指令。更令人遗憾的是,类似因驾驶员操控原因引发的空难时有发生。在2000年至2010年的十年间,有三分之二的坠机事故同飞行员的操作失误有关。这使得业界开始注意到,自动驾驶技术表面上确实解决了很多难题,但事实上,却令人陷得更深。

在过去几十年间,飞行事故发生率和伤亡数量确实出现了大幅下降,但有心理学教授和全球自动化专家发现,坠机事故总次数的下降掩盖了最近出现的“严重的新型事故”。也就是说,当机载计算机系统出现一些预期内的故障或是飞行中出现其他意料之外的问题时,飞行员必须采用手动飞行。而已经习惯担当“监督”系统角色的飞行员通常会无所适从,甚至犯错误,从而引发灾难性后果。这是因为,驾驶员理应是机器的一部分,他们用身体感知机器的运转以及机器对命令的响应,机器则负责传达驾驶员的意愿。而现实情况则是,自动驾驶令飞行员的角色变成了计算机操作者,以致于在危机情况发生时缺少“态势感知”能力,无法进行正确的反应与操控。此外,飞行员变得迟钝、注意力下降也是原因之一。简单来说,飞行员的飞行技术“退化”了。人体工程学专家唐·哈里斯曾经指出,玻璃座舱就像是世界的原型,在这里,计算机无处不在。飞行员的经历也反映出,自动化系统的设计方式和人们使用系统时的工作方式之间存在着微妙而紧密的联系。“我们注定会发现飞行员已经认识到的问题:玻璃座舱也是个玻璃笼子,它束缚了我们。”

2.建筑业——自动生成设计工具

如果说飞行员是第一个实现全面计算机自动化的职业,那么,建筑师和其他设计师则紧随其后。随着Sketchpad、CAD等绘图软件应用程序的出现,设计的流程、特点和形式都进行了改变。设计软件通常会提高建筑事务所的效率。CAD软件已经从一个将抽象设计转变为具体方案的工具,发展成了自动生成设计的工具。这使得参数化设计技术越来越流行,即把计算机的计算能力作为设计中心,在不同设计元素之间建立起正式的联系。同其它新的设计一样,参数设计带来了一种新的建筑风格——参数化主义。业界人士对其的看法褒贬不一。在一些年轻新潮的设计师看来,参数化主义定义了我们这个时代的建筑特色,是这项职业的核心动力。而一些传统主义者则认为,这类风格的作品品位极低。更为重要的是,绘图原本应该算是一种手动思考方式,绘制草图就像打开思维中存储着隐性知识的密室,这是艺术创造的关键。因此,设计师必须践出真知。虽然使用软件在计算机上进行设计也是一种实践行为,但它降低了手的参与度,使得建筑师的感知域变得狭窄。有声音称,CAD软件输出的内容是“符号化的,程序化的”,同真实的设计相比,会不够完整,不够充分,你总会从最终的设计作品中,看到软件技术的痕迹。

3.交通——无人驾驶汽车技术

在诸多前沿技术中,无人驾驶汽车技术与普通大众最为密切相关。2010年10月9日,谷歌发明家塞马斯蒂安·特龙在博客上发表了一份重大声明:谷歌已成功研发了“无人驾驶汽车”,这辆丰田普锐斯真的可以开到路上,且“已在高速公路上行驶了10万英里”。与此前的“远程控制”汽车不同,谷歌汽车可以在无人驾驶的情况下,于喧闹、混乱、复杂的真实世界中行驶。据了解,当时,“谷歌汽车装载了激光测距仪、雷达和声呐发射机、运动检测器、视频摄像机及GPS,能详尽准确地感知周围的事物。它能‘看到’前方的道路。通过即时处理接收到的全部信息,车载计算机能“实时”地操控油门、方向盘及刹车,其操控速度和灵敏性均达到了上路要求,对于司机经常会遇到的突发情况,它也能轻松应对。”因此,谷歌的无人驾驶汽车被认为不仅是交通史及汽车史上的重大突破,也开创了机器人学领域的先河。当谷歌无人驾驶汽车成功行驶超过100万英里时,仅引发了一次严重的交通事故,即2011年5辆车在硅谷谷歌总部附近发生追尾,但谷歌在当时很快就宣布,“事故发生时是人在手动驾驶汽车”,由此看来,可以说,这次唯一的撞车并不算“无人驾驶”引发的事故。谷歌表示,要在未来10年内将谷歌汽车推向市场公开出售,这在一些人来看,实在有点儿痴心妄想。

首先,车辆的传感系统仍贵得离谱,仅是车顶的激光装置就要8万美元。此外,仍有许多亟须解决的技术难题,例如,如何在雪地或铺满落叶的道路上行驶,如何处理意外绕行,怎样识别交警和交管人员的手势。从目前的技术水平来看,即使是性能最高的计算机,也很难分辨无害的路面杂物(例如压扁的纸箱)和危险的障碍物(一块钉着钉子的胶合板)更重要的是,无人驾驶汽车在法律、文化及道德等方面将要面临的阻碍让人望而生畏。例如,当无人驾驶汽车发生事故并造成人员伤亡时,应该怎样定罪及谁来承担责任?是由车主承担?由安装自驾系统的汽车制造商承担?还是由编写软件的程序员承担?只有梳理并解决了这些棘手的问题,全自动汽车才能真正进入经销商的展厅并上路驰骋。不管怎样,技术都将快速向前发展。谷歌测试汽车所使用的硬件和软件,绝大部分都将用在未来的汽车和卡车上。现在,汽车上搭载了很多电子设备。微芯片和传感器管理着汽车的导航控制、防抱死制动系统、牵引机制和稳定机制。一些高档汽车还装有变速设备、辅助停车系统、防碰撞系统、可调节顶灯以及仪表显示器等。

除谷歌之外,英菲尼迪、梅赛德斯及沃尔沃也正在推出新的车型,这些“汽车超人”配有:雷达辅助的自适应巡航控制系统,即使在龟速行驶的车流中,仍然可以导航;计算机化的转向系统,能控制车轮一直处于车道中央;在遇到突发情况时自动启动紧急刹车系统。电动汽车的先驱特斯拉汽车正在开发汽车自动驾驶仪,且自称能“处理90%的行驶路段”。显然,软件正试图在我们和道路之间架起一个缓冲带。未来,在无人驾驶的汽车上,与其说我们是在控制汽车,不如说我们只是输入电子信号,传送给计算机,由计算机来控制汽车。

4.医疗业——电子病历

随着医疗计算机化的热情在部分国家兴起,近几年,电子病历开始在许多国家得到普及。电子病历的初衷在于记录病情、分享就诊记录;此外,大多数系统融合了决策支持软件,在会诊和检查期间,计算机会显示检查清单和提示,为医生提供指导和建议。而实际情况是,电子病历和计算机辅助诊疗的优势至今仍不明朗。已有证据表明,电子病历会促使医生进行不必要的检查,最终导致成本的增加。这是因为一方面,诊断提示会提醒医生做多种检查;另一方面,医生通过自动化系统可以轻松获取并回顾检查结果,这可能会刺激医生进行更多的影像检查。除成本效益之外,计算机辅助诊疗系统越来越多地融入医生的日常工作,从而影响了医生学习和决策的方式,甚至包括对病人的态度。比如,电子病历改变了临床医生的记录方式,医生会“剪切粘贴”样板文字,以填写病人问诊报告;越来越多的病历是用以前的数据拼凑而成,失去了病历的精确性和原创性,降低了其作为学习资料的价值。

此外,记录自动化也令计算机同患者争夺了临床医生问诊时的注意力,从根本上改变了医患的沟通方式,对临床医生的医术和经验积累造成影响。更为重要的是,一些软件会给予医生诸多提示信息。比如,如果某些药品组合会产生不良反应,软件系统给出提示,但频繁的提示会给医生形成“警告疲劳”,在不断关闭不必要的警告之后,即使偶尔出现正确的警告,也会被医生忽略。此外,计算机系统会引发医生的自动化偏好心理,优先考虑系统评估结果,而不是就患者的实际情况和临床经验做出更有针对性的判断,最终导致误诊。不过,未来也并非一片黑暗。虽然计算机缺少医生的理解力和洞察力,但它可以对大量的数字信息进行统计与分析,复制医生的许多判断,这就是逐渐被人们推崇的“大数据”力量。在这一背景之下,计算机的诊断技术会越来越强,在不远的将来,还会有私人生物传感器技术和健康监控应用数据。计算机越来越擅长寻找事物之间的联系,对概率的计算也会精确到前所未有的程度。

软件会越来越多地接管诊断和治疗的控制权,这样一来,医生面临的压力会越来越大。医生们或许很快就会发现,他们正逐步沦为人类传感器的角色,也就是说,只负责收集信息,从而帮助电脑做出决策。除上述职业之外,大多数职业都会或多或少地被“自动化”所改变。律师通过计算机评估证据;音乐家用计算机模拟乐器,优化曲调;教师借助计算机辅导学生,批阅试卷。计算机虽然没有完全取代这些职业,但它已经通过替代人类完成部分任务的方式,改变了这些职业的工作内容与习惯。显然,我们的职业正在遭遇计算机化。而自动化正在重塑工作与其中的人。

三、警惕!自动化正让我们“退化”

“如果要真正了解鞋带,你就得自己去绑”,这句话虽简单却体现了一个深刻的道理,如果思维与行动是相连的,要想了解这个世界,就必须依靠切实的行动。也就是说,我们要想获得最深层的了解,就不能只通过感性认识,而是必须通过操作、使用和处理事物,通过这些行为才能获得属于自己的内化了的“知识”。思维不仅装在我们的头脑里,而是遍布全身,我们不只用大脑思考,也通过眼睛、耳朵、四肢以及躯干进行思考。并且,当我们使用工具扩展能力范围时,也可以借助工具思考。行动即是思考,思考即为行动。而现实情况是,更多时候,我们的生活与工作是通过计算机屏幕上显示的抽象介质来实现的。我们脱离了肉体的躯壳,为自己加上了感官的枷锁。这些工具窃取了工作给我们带来的身体上的感受与快乐,并重塑了我们。长期下去,我们的技能都将退化,学习新技能的能力也将无可避免地减弱。

1.找不着北

400多年来,因纽特猎人总能凭借自己惊人而准确的探路能力寻找猎物,而随着GPS的普及,严重的捕猎事故开始发生,事故的原因在于猎人对卫星过度依赖,使其丧失了原有的探路能力。这一略显极端的例子,或多或少地证明了普通人正在丧失的能力,你一定听说过这样的新闻,某人按GPS的指示将车开到了湖里......已有人类学家证明,随着卫星导航技术的普及,人们的探路能力已经退化。在一篇“外包大脑”的文章中如此表述了大多数人被GPS绑架的感受,“我发现我到哪儿都离不开它了。我原来的地理知识很快就消失得一干二净”。便利的代价是丧失了“自主权”。我们越是依赖技术探路,我们自身构建认知地图的能力就越差。这并不难理解,卫星导航系统的初衷原本就不是让人类更好地了解周围的状况,而是通过免去这一过程提升效率。

有了GPS之后,你不再需要知道你在哪儿,你的目的地在哪儿,也不用注意沿途的物理坐标,或者向他人求助。导向标识的系统会自动将你指引到那里,使你完全放弃“在穿梭的过程中感受这个世界”的乐趣。我们想把计算机地图视为具有交互性的高技术纸质地图,这是一种错误的想法。只有阅读纸质地图才有助于加深我们的地域感,锻炼导航能力,它不仅引领我们穿梭于各地,还教会我们如何对空间进行思考。此外,室内地图将会加深我们对导航技术的依赖,并进一步限制人类依靠自身能力探路的机会。随着个人平视显示器的普及(如谷歌眼镜),我们将可以立即轻松地获取全程提示信息。据悉,谷歌和梅赛德斯奔驰已经准备好共同合作开发一款应用,将眼镜同司机的嵌入式GPS元件相连,实现汽车制造商所说的“门对门导航”,GPS女神在我们耳边低语提示,或是将信号投射到视网膜上,这样,我们几乎就用不着思维地图这项技能了。因此有人担心,将多模式的响应能力和记忆外包给机器,会使人类的感官体验越来越枯竭。

2.关掉认知

过度依赖计算机,会使人们失去本应具有的某些认知能力。比如,我们坚信机器运转不会出现问题,它能处理所有可能遇到的挑战,我们便不再时刻留意机器的状况,这样一来,我们就很可能会忽略机器的故障信号。浅显的例子是,你在发邮件或使用文字处理软件时,如果开启了拼写检查,就不会再特意去校对文字,这种情况下最差结果也就是出现错误,有点尴尬。但有时这种对机器的过度依赖,则会带来严重后果——比如,过度依赖飞机自动驾驶,飞行员忽略了突发故障信号导致空难;船长过度依赖自动系统,忽略了偏航的危险提示;工程师和建筑师在设计和施工过程中,不再自己进行精确计算,而一旦计算机出错会代价惨重;医生对放射检查的图像没有高亮标注的区域只是草草扫一眼,会忽略早期肿瘤或其它病变,计算机辅助诊断降低了专业人员评估复杂病例的能力。此外,过于依赖机器会导致缺乏负面反馈,从而造成更大的隐患。比如,司机驾驶时有点困,可能会撞上路肩或偏离车道,从而引发其他司机的鸣笛提醒,这会令驾驶人马上惊醒;但如果应用自动驾驶技术自动在道路中央行驶,司机就会进入熟睡状态,这就很难避免严重的交通事故。自动化使我们很难保持警惕的状态,我们自然而然地关掉认知,忽视情况的变化,从而失去掌控一切的能力。

3.记忆力退化

网上的信息唾手可得,弱化了我们对事实的记忆。在很多人看来,反正搜索引擎随时都可用,当我们需要时,去搜索就行了,没有必要费劲地记下来,进行信息内化。事实上,无论何种方式的外部存储都与生物性记忆相差甚远。知识不仅仅要通过查找来获得,还需要将事实和经历编码内化,转化为个人记忆。思维活动的过度自动化,简化了思维活动,导致了我们不用去记忆或理解,这时候,思维卸下记忆或外化记忆的趋势就演变成一种病态。自20世纪70年代以来,认知心理学家一直在研究一种被称为“生成效应”的现象。这种现象最先出现在词汇研究中,人们如果主动回想单词,就会增强记忆,比如,记忆成对的反义词,热(Hot)和冷(Cold)。那些获得“HOT:C”卡片的人,比看到完整单词“HOT:COLD”的人,记忆的效果更好。他们强迫思维补全缺少的字母,对问题做出反应,而不仅仅依靠观察来解决问题,这更有利于记忆信息。也就是说,主动回想相当于生成单词,比人们单纯阅读纸上的单词效果要好。思维活动的过度自动化,减少了生成思维的重要环节,致使深度记忆难以实现。

4.学习能力和专业能力变差

“生成效应”对学习能力和专业能力也会产生显著影响。认知任务(例如解决问题)实现自动化以后,思维将信息转化为知识、将知识转化为专业技能的能力都会受到影响。在许多行业中,依靠所谓的专业系统对信息进行分类和分析,系统会给出行动方案建议,例如会计会在公司审计时使用决策支持类软件。但研究表明,软件功能越强,会计的能力就越弱,其对审计所涉及的行业存在风险的了解程度越差,其不断使用高级软件也会造成学习能力下降。大多数的流行应用、小工具和线上服务的设计初衷都是便捷,或“可用性”。人们总希望,可以不付出努力就有所收获,甚至少些选择,不需要思考。以谷歌的搜索引擎为例,现在,只要你在搜索框里输入一个字母,谷歌就会给出一组建议,告诉你怎么填写你的问题,谷歌工程总监称,“几年以后,你不用实际搜索,就可以得到大部分问题的答案”。因为,谷歌“就是知道,这就是用户想得到的答案”。显然,谷歌们的最终目标就是实现搜索的完全自动化,将人类的主观意志清理出局。搜索引擎自动给出搜索建议的便利性,会弱化我们对复杂问题的查询能力。一项研究表明,机器越精准,我们的问题就越愚蠢。

5.抗压能力变差

美国哲学家、教育家约翰·杜威有一种观点,“只有遭遇并战胜‘周围的阻力’,个体才能存活下来,并继续成长。”“如果一个环境每时每刻都能满足我们,可以使我们立即发泄内心的冲动,那么这个环境就会限制我们的成长。如果内心的冲动总能直接释放出来,那它就没什么顾虑,对情感也变得麻木。”随着我们渐渐适应程序化的环境,我们发现,自然和文化不再向人类发出邀请,我们无法感知也无法行动。物质的舒适和技术的突破,使盲目和阴郁的情绪如影随行。调查显示,在21世纪的前十年中,服用处方药治疗抑郁症或焦虑症的美国人数量几乎增长了四分之一。原因之一可能是,我们追求“无摩擦状态”。药物麻痹了神经系统,控制了我们最重要的中枢神经,让我们的身体正在适应现在这个受限的环境。

四、自动化这样改变了我们的“代码”

各种各样的变化会给我们的生活带来问题,但这也是一种催化剂,让我们对自身的困境有更全面的认识和更深刻的理解。在我们想清楚问题的时候,答案也就浮现出来。

1.练习的重要性

驾驶手动挡汽车的感觉,可以用来解释人类获取复杂技能的方式方法。通常,我们从老师那里直接获得简单的指导,然后间接从书本、视频里学习,这些方式可以将技能的显性知识(首先做什么,其次做什么,再次做什么)传送给我们的意识思维。这同有人告诉你排挡在哪并怎么踩离合器是一个道理。只有当某项任务具有心理准备和认识基础时,显性知识才会发挥一定的作用。但要真正掌握一项技能,则需要具备隐性知识,而其只有通过真实的经历才能获得——通过一遍又一遍地练习某项技能。练习的次数越多越不会去想具体的动作。这种技能的培养是在无意识的情况下完成的。它的名字是——自动化,或是程序化。通过自动化的神经调整,大脑发展了自动性——一种快速的无意识的感知、理解和行为,让我们的思维和身体能识别图案并对变化的环境立刻做出判断。事实上,我们在学习和阅读时都经历了自动化的过程,并具备了自动性。小孩子学习阅读、打网球、下棋、驾驶汽车等等技能,都得益于自动化。此外,定期反馈也是培养技能的必要条件,能帮助我们从错误和成功中获取经验,从而更扎实地内化知识。如此看来,计算机的自动化使我们摆脱了重复的思维训练,也剥夺了我们深入学习的机会,使我们远离了直接的、立即的行动反馈,我们越来越无法真正地掌握一项无需计算机参与就能施展的技能。

2.中等刺激刚刚好

在一项用老鼠进行的电击与通过通道的实验中,科学家们发现,中等强度的刺激最有利于习惯的养成,显然,这一研究成果与通常人们对“高压状态下更易养成习惯”的预想结果恰恰相反。这也说明在“金发姑娘原则”(指:凡事都必须有度,而不能超越极限)中,中等刺激会激发出最好的表现。这一发现被称为“耶基斯—多德森法则”。对于人类来说,这一法则通常为倒“U”型曲线,勾画了面对困难任务时人类的表现同心理刺激程度之间的关系。刺激度过低时,人处于空闲状态,随着刺激的加强,表现增强,倒“U”型曲线顶点的左侧呈上升趋势,而后,刺激进一步增强,但表现下降,曲线顶点的右侧开始呈下降态势。当刺激强度达到最大值时,压力麻痹了人的行动,表现再次呈停滞状态。因此可以说,中等强度的时候,人类的学习和表现处于最佳状态,我们受到了挑战,但没有被击垮,进入了一种心流状态。

某些情况下,计算机成功减少了工作量,人们于工作中更加得心应手,但在其他情况下,自动化承担的任务过多,导致工人的表现只能处于“耶基斯—多德森曲线”的左侧,也就是说,并没有达到其最好的状态。此外研究表明,人类的注意力会缩水,以适应心理工作负荷的降低。通道的实验中,科学家们发现,中等强度的刺激最有利于习惯的养成,显然,这一研究成果与通常人们对“高压状态下更易养成习惯”的预想结果恰恰相反。这也说明在“金发姑娘原则”(指:凡事都必须有度,而不能超越极限)中,中等刺激会激发出最好的表现。这一发现被称为“耶基斯—多德森法则”。对于人类来说,这一法则通常为倒“U”型曲线,勾画了面对困难任务时人类的表现同心理刺激程度之间的关系。刺激度过低时,人处于空闲状态,随着刺激的加强,表现增强,倒“U”型曲线顶点的左侧呈上升趋势,而后,刺激进一步增强,但表现下降,曲线顶点的右侧开始呈下降态势。当刺激强度达到最大值时,压力麻痹了人的行动,表现再次呈停滞状态。

因此可以说,中等强度的时候,人类的学习和表现处于最佳状态,我们受到了挑战,但没有被击垮,进入了一种心流状态。某些情况下,计算机成功减少了工作量,人们于工作中更加得心应手,但在其他情况下,自动化承担的任务过多,导致工人的表现只能处于“耶基斯—多德森曲线”的左侧,也就是说,并没有达到其最好的状态。此外研究表明,人类的注意力会缩水,以适应心理工作负荷的降低。具体来说,在自动化系统的运行过程中,负载不足会导致倦怠心理,比如汽车自动化会使驾驶员无事可做,从而忽视了周围存在的安全隐患,以致于导致一些常规性的原本可以避免的交通事故。更糟糕的情况是,越来越多的研究证明,自动化系统经常会增加工作量,造成存在风险的工作环境,并可能增加工作的复杂性。“例如高度自动化的化学工厂或飞机驾驶舱内,如果出现紧急危机情况,工厂操作员和飞机驾驶员必须要做出诸多应急反应,这迫使他们不得不去处理许多额外任务和突发状况。”计算机起到了辅助作用,降低了工人出错率,但最终,麻痹太久的人类很可能像被电击的老鼠一样,做出错误的决定。

3.网格神经元

在理解大脑如何感知、记忆空间和地点方面,神经科学家取得了一些突破,那就是——导航能力对人类的思维和记忆具有重要作用。首先,在一项实验中发现,老鼠对环境熟悉后每次通过特定地点时,海马体的个体神经元(大脑的一部分,对记忆的形成起到关键作用)就会发生反应,科学家将这种神经元称为“定位细胞”。此外,2005年,多名挪威神经学家组成的研究小组发现,在制图、测量和空间导航的过程中,存在另外一组神经元,并将其命名为“网格细胞”。它为定位推测提供了内在感知。定位细胞和网格细胞协同工作,从其他监控身体方位和动作的神经元获取信号,“就像一个内置的导航系统,是动物知道现在所处地点、未来所去方向、过去曾到之处的关键”。研究表明,大脑的专用细胞可以用于定位导航,也能参与记忆的形成过程,特别是关于事件和经历的记忆。有理论称,记忆的“思维旅行”和在现实世界中行走这两种行为受控于同一个大脑系统。很可能,大脑的导航感,也就是测定并记录空间内物体运动的方式,是所有记忆进化的源头。那么,如果源头枯竭了会发生什么?这个问题让人恐惧。阿尔茨海默症起初最明显的症状之一就是海马体和内嗅皮质的退化,进而丧失对地点的记忆能力。因此,记忆专家认为,人们强化锻炼导航技能,可以影响海马体的功能甚至大小,从而有助于防止记忆退化。而如果人类单纯依靠GPS机器人式的全程指示,出现记忆力退化的概率就会增大,增加罹患阿尔茨海默症的风险。因此,随着GPS的普及,有专家预测,在未来20年里,这一病患的发病年龄会越来越提前。

五、自动化改变了我们的人际关系

我们每个人都应该是多面的,我们不应该以独立的方式存在。但现实是,一些应用软件正在将我们的个性封闭起来,并让我们与其他人之间以简单的方式交流互动,我们失去分享,失去争吵,失去有温度的拥抱。

1.社交孤岛

作为谷歌创始人之一,谢尔盖·布林在2013年的一场演讲中称,智能手机会造成“社交孤立”,“人们只是坐在那儿,用手指滑动毫无特点的玻璃屏”。显然,低头盯着屏幕的方式削弱了人们对外部世界的感知能力,“我们通过智能手机与一个符号化的世界联系起来,我们正逐步被驱逐出现实世界”。确实,太多应用程序让人们远离了共同参与和分享的乐趣。以谷歌于2013年推出的新版地图为例,这款应用会把附近的餐饮和你的社交好友推荐的其他目标地点突出显示,它会给出你此前经过的导航选择。表面上看,这款专门为你定制的独一无二的应用很有魅力,但实际上,却过滤掉了所有意外发现的乐趣。事实上,探索一座城市可以有很多方式,其中最重要的方式之一,是与一大群陌生人一起分享公共空间。而现在,谷歌将便利性放在高于一切的位置,使得公共空间只是横在你家到你想去的地方之间的东西。

显然,这种功利的生活方式正将我们变得无趣。更具讽刺意味的是,布林痛陈智能手机顽疾的初衷恰恰是,为谷歌眼镜布道。按照他的说法,通过谷歌眼镜,人们的双手解放了,可以目视前方,同周围的真实世界重新建立起联系。“只要谷歌眼镜觉察到人们需要建议或帮助,就能通过谷歌即时资讯服务或其他追踪和个性化程序为人们传递相关信息”。谷歌的公司愿景是:信息流自动进入人类大脑。计算机成为无处不在的全知者。目前的情况来看,布林的说法和他的谷歌眼镜均无法令人信服。盯着悬浮在面前的屏幕虽然解放了双手,但仍会分散人们的注意力,人们会忽略视野中的其他事物。有心理学教授直言,“感知能力需要双眼和大脑共同参与,如果思维被占用了,你就无法注意到原本非常明显的事物了”。“截至目前,可穿戴式计算机仍没有向人们展示出太多明显的优势,但其肯定会持续升级,并在未来10年,成为一种常态。”

2.简化、模式化的关系

通过Facebook的大事记年表和其他纪录片可以看出,这家企业一直鼓励用户将个人的公共形象与身份融为一体。它希望将他们锁在一个单一的统一的“自我”里,从孩童时代到生命终点。在Facebook创始人马克·扎克伯格看来,“你只拥有一种身份”,“拥有两重身份就是不诚实的表现”,也就是说,“你不应在工作好友及熟人面前呈现不同形象”。扎克伯格持如此观点并不意外,这与Facebook想要将用户包装成整齐划一的数据集卖给广告商的意愿相吻合。事实上,在中国,当你的微信朋友圈里,既有父母、老师、老板,也有同事、好友、恋人的时候,你能展示的自己就只能是“全能”和完美的形象,你不敢吐槽得罪任何一方,你变得完美且幸福,只求“点赞”。我们越来越像一种模式化的单一性格的人。这样的自动化目标在社交网络上也在复制着类似的剧本。

以Facebook为例,通过潜在好友的统计“发现”,提供“喜欢”按钮和其他可以表达情绪的可点击的按钮,将耗时的人类关系自动化,使复杂的人际关系流水化。马克·扎克伯格将此称为“无缝分享”,剔除了社交中的自觉努力。事实上,人与人之间最有意义的关系并不能通过市场上的交易实现,也不是程式化的数据交换。人类原本就不是网格上的结点。在那些“技术至上”的人看来,所有原始的人类交往元素,都是低效和麻烦的。如同事事都不放心孩子的家长,谷歌、Facebook和其他个人软件制造商都在试图贬低甚至拭去某些人类的特质,比如好奇心、独创性,然后使大家变得千篇一律,连交流方式都变得单调。

六、小心!机器向我们“挥拳”了

虽然从表面上看,自动化、互联网正在将现代世界变得简单,但现实却是越来越复杂。在精心设计的简洁屏幕后面,我们被“隐匿的电子复杂性”包围了。当那些神秘的技术被隐藏起来的时候,我们有必要提高警惕。技术的种种操控与意图已经渗透到人类自身的愿望与行为当中。我们无法分辨,软件是在帮助我们还是在控制我们。“我们握着方向盘,却分不清是谁在驾驶。”

1.“机器人”制造的麻烦

机器会遗传制造者那些容易犯错误的毛病。即使最先进的技术,早晚也会出现故障、无法运行。而在运行过程中,计算机系统可能会遇到诸多设计者和程序员都没有预料到的情况,这时,人类就会受困其中,无从入手。例如,自动化飞机上的驾驶员总会遇到一些飞机工程师未曾预料到的、新的、危险的意外情况。此外,自动化技术变得越来越复杂,使得各项技术之间的关联性增强,软件指示、数据库、网络协议、传感器和机械部件之间环环相扣、相互依存。各个系统对科学家所说的“连锁故障”非常敏感,以致于某个组成部件的失灵就会引发大面积的、灾难性的连环故障。一个小的错误或是系统设计的疏忽——数十万行软件代码中隐藏的一个小失误,仍然会引发超乎想象的严重事故。此外,在代替人类进行决策方面,计算机也远未达到最好的效果。以医疗领域为例,医护人员经常要推翻临床诊疗计算机给出的错误指示或建议。此外,在某家医院进行的研究表明,开药实现自动化以后,重复开药的情况反而增加了。更为不幸的是,当人们过于依赖计算机导致某些能力退化之后,人类犯错的概率更大了。

2.机器的冷血“杀害”

机器行为的局限性和负面影响,远远不止于对生活的干扰,还浸入至更深远的道德层面,甚至比以前更为严重,这似乎更是无解的难题。打个比方,当你的自动驾驶汽车行驶在路上,突然一只小狗冲了出来,你的机器人司机会紧踩刹车吗?会为了救这条狗而冒着打滑使汽车失去控制的风险吗?或者,它是否会把“脚”从刹车片上移开,牺牲这条狗,确保你和这辆车的安全?它将如何对所有的变量和可能性进行分类整理、权衡利弊,瞬间做出决定?如果算法计算出踩刹车,狗获救的概率是53%,但有18%的可能会毁坏车,4%的可能你会受伤,这是不是可以得出结论,应该救那条狗呢?如果马路中间的不是狗,而是一个小孩呢?软件自行运算能否同时兼顾现实后果和道德后果,将一组数据转化为决策吗?艾萨克·阿西莫夫的机器人法则第一条——“机器人不能伤害人类,也不能无所作为,让人类受到伤害”,这听起来很合理,让人倍感安慰,但现实世界远比法则中假设的世界复杂得多。

现在,在很多领域中,我们已经开始将道德决策交给计算机,这是个不祥的征兆。比如,机器人吸尘器和割草机会把它们遇到的蟋蟀、蟾蜍、老鼠都一并杀害而不会有任何不安。这对于某些人来说,则会有些不忍。更为严重的是,机器助力的杀戮行为,正面临更高的伦理挑战。假设由计算机控制的“机器人狙击手”驻扎在各个街角和楼顶上,抵抗一个游击队的攻击。这时出现一个人,机器人根据实际情况结合历史数据库进行分析,认为这个人有68%的可能性是叛乱分子,正准备引爆炸弹,但他也有32%的可能性只是个无辜的路人。近几年,国防部门和军校一直在研究将生死权交给战地机器人的方法及其带来的影响。用完全自动化的计算机控制杀人机器——军方称之为致命的自动化机器人(LAR),现在看来在技术上是可行的,并且很多年前就已经实现了。

对于计算机来说,决定是否开火射击和将邮件转入垃圾邮箱的指令没任何两样。算法只是算法。看上去还有太多工作与选择要做,我们可能会后悔在没想好如何赋予自动化道理之前,就让他们进行涉及伦理道德的决策。如果自动化机器要在这个世界大行其道,我们就要把道德代码完美地转化为软件代码。目前来看,机器人拥有道德的唯一方式就是以人类为参照,采取综合编程方式,既遵守规则,也要通过现实的经历学习。但实际情况是,创造拥有这种能力的机器远远超出了我们的技术能力范畴。因此有军事战略家预见,人类或将成为军事体系中最薄弱的一环,并将逐步失去对战争决策的控制权。

3.机器人背后那双操控的手

计算机背后的手正在社会决策和个人决策中,干预得越来越多。那么,我们是否愿意将选择的权利转交给追求利益最大化的软件公司?以无人驾驶汽车技术为例,当我们匆忙投向这项技术的怀抱时,多少会阻碍了我们去探索降低交通事故发生概率的其它方式,比如,最为直接和简单的教育方式是强化驾驶员的安全驾驶教育,或者推广公共交通。我们是否做出了足够的努力集中在这些简单可行的方式上?近年来,因使用移动电话和智能手机而分心已经成为酿成车祸的原因之一,比如看微信、刷微博、接电话。来自美国的分析指出,2012年美国公路上发生的车祸中,有四分之一都是由于使用手机造成的。但令人惊讶的是,各顶尖科技公司几乎没有做出任何努力来开发一款意在阻止人们在驾驶时使用手机接听电话、收发短信或是使用应用程序的软件,而这样的努力绝对会立竿见影,比建造一辆可自动驾驶的汽车可行性大得多。谷歌甚至派说客到州政府,试图阻止那些不利于谷歌眼镜的法案,如“禁止员工佩戴谷歌眼镜及其它分散注意力的眼部佩戴设备”的法案。显然,计算机、软件背后的手,正将公司利益与人类自身的利益混淆起来,他们打着“技术创新”的旗号,将所有的精力集中在可以为自己获得利益的事上,这是极度危险的。

七、未来,人与机器的边界在哪里

现在,我们需要正视同一个问题:我们能否重新设定软件程序和自动化系统,非但不会削弱反而会加深我们对世界的理解呢?人因研究员(人因工程学是一门新兴的交叉学科)和其他自动化专家已经发现,人类有办法打破“玻璃笼子”,同时保留计算机带给我们的益处。

1.承认吧,其实你是很想上班的

每个人都存在一定的认知偏见,作为思维漏洞,它会歪曲我们的认知。在评估工作与休闲的价值时,我们的大脑难免会产生这样的认知偏见,认为工作不会令人快乐。而研究实验的结果却表明,在自由的时间里,人们更容易产生无聊的情绪和焦虑感。相比休闲时段,在工作期间人们更高兴,他们因自己的工作而感到充实和有价值。当然,这并不是说人们喜欢工作。进行这项研究的心理学教授米哈里·契克森米哈称,“在工作的时候人们有更多积极的情绪,但并不能因此就说他们工作时更有做事的欲望”。我们无法预测哪些活动会使我们感到满足,哪些活动会让我们心生不满。这种纠结且矛盾的心态,是一种较为普遍的症状,属于常见的心理疾病,这被心理学家称为“错误需求”。“我们容易对本不喜欢的事物产生欲望,容易对我们并不需要的东西产生好感。”再加上,人们会被社会的传统观念所引导,进而忽视了自己的真实感受,盲目轻信了“相比于工作,我们更想休闲”这样的传统观念,躲避了那些会给他们带来积极的、强烈的体验的活动。这种症状导致的结果就是,我们逃避繁重的工作,却很少能在休闲时光中培养富有挑战性的爱好。

我们变得懒散、无聊和焦躁。事实上,“即使卑微的工作,也比自由的时间容易过”,因为工作拥有“内在”的目标和挑战,会鼓励我们“投入、集中、沉浸其中”。不过,我们狡猾的大脑不愿意相信这点,我们还是喜欢远离工作,无所事事。论你是否同意上述观点,哪怕只是意识到真的存在这种可能,就能令你更享受自己的工作。接下来,我们分享一种沉寂于内心深处感受——“事实是劳动者所知的最美的梦。”这是美国诗人罗伯特·弗罗斯特的十四行待《割草》(Mowing)的倒数第二句,诗的创作灵感源于作者在农场上漫长而重复的孤独劳作和与大自然之美的亲密接触。在这首诗中,我们可以看到一种“流动”的“体验”,一个农民,一个在静寂又火热的夏日里辛苦劳作的农民,他并不去思考“空闲时光”或“金色时光”,只是专注于劳作——割草时身体的节奏、手里镰刀的重量、身边堆起的秸秆,他没有追寻劳作背后更高深的存在,劳作本身就是存在,就是意义。你或许也有这样的体验,放下手机和电脑,只是重复地做一些体力劳动,那种放空和欢愉的体验会令你激动莫名。

2.谁是主人,谁是奴隶

我们每掌握一个新工具、一项新技能,自己的世界就会重新改变以展示出新的可能性。自己的世界会变得更有趣,更有意义。但并非所有工具都符合人的意愿。有些工具会阻碍我们施展技能。有观点认为,自动化的数字技术非但没有把我们引入一个新的世界,反而起到反作用,它拉开了人与现实世界的距离。也就是说,自动化将工作原理隐藏在“秘密代码”之中,不需要太多的人类参与,从而削弱了工具与使用者之间的关系。“机器人”这个词是1920年由一位科幻小说作家创造的,它来源于捷克语“robota”,即“奴役”的意思。一直以来,整个社会都梦想着摆脱辛勤的劳动,而人类的“伊甸园”就是,机器成为我们的奴隶辛苦代劳,人类则随心所欲。但事实上,如果我们依靠技术奴隶,不再进行思考,那么我们自己就变成了它们的奴隶。

《经济学人》杂志上一篇题为“智能手机的奴隶”的文章中写道:“有些时候,这些设备需要人类授权,但对大多数人来说,技术奴隶已经翻身成了主人。”“近忧”是,现在流行的“以技术为中心”的设计策略,将轻松和效率放在高于一切的位置上,这导致了人与世界的疏离。自动化程度越高,人们越会将技术视作一种不可替代的、外部的力量,它会超出人类的控制,不受人类影响,我们按下“开始”的按钮,沿着编写好的路径前进。而“远虑”是,如果能够实现“自动化乌托邦”,也就是说人们不再劳动无所事事,很可能人们会更觉得糟糕与痛苦,“发现完全被错误的渴望牵引到错误的目标上来”。因此,要保证未来社会能良好地发展,我们需要对自动化加以限制,更加强调社会和个人发展,而不仅仅盲目地追求技术进步。至少在商业领域:在人和机器之间,赋予人类优先权。

3.醒醒吧,请以人为中心

事实上,在发出警告之前,人与机器之间的“战争”已经打响。现在看来,自动化已势不可挡,但其中,是以技术为中心还是以人为中心呢?这两种形式的矛盾不仅仅停留在理论层面,已开始影响企业家、工程师、程序员和政府监管者日常的决策。早在18世纪后半叶,人类开始认为,技术发展是推动历史的因素之一,技术至上,已经成为这个时代的主旋律。人类工程学先驱戴维·迈斯特在世时曾称,“技术发展的进程和利益推动捆绑在一起,结果导致人的价值很少得到尊重”。“不知不觉地,社会就掉进了以机器为中心的生活漩涡,这种生活强调技术的重要性大过人类,因此,人们被迫扮演辅助者的角色。更糟糕的是,以机器为中心的观点将人类同机器相比,认为人类不够资格,不能胜任严格、重复、精确的任务。”事实上,这种观点是错误的,它扭曲了我们对自己的认识。

1997年发表的“自动化奇迹”一文中写道:“当时人们认为,可以设计一个自动化系统,不需要人类的参与,从而减少或避免人类错误出现的机会。”也就是说,设计自动化系统时,可以不考虑人类因素在整个系统中的作用。这样的思路被证明是天真且具有破坏性的,反而带来了一系列全新的问题。这是因为,自动化系统的缺点大多来源于“即使高度自动化的系统仍然需要运营人员的参与,这就存在人与机器的沟通和协调问题。”但是,如在设计系统时就没有充分考虑系统运营人员的参与,系统的沟通和协调能力就非常弱。许多影响自动化系统的问题都源自设计缺陷——没有设计人机交互,也就无法体现基本的人际交互。人们不能理解所使用的机器,这会反过来削弱人类的自信,当系统出差错时,“人类仍不想进行干预”。人们已经越来越意识到,一旦“以技术为中心”的自动化在某一领域站稳了脚跟,就很难改变发展路线,这是极其危险的。物理学家弗里曼·戴森称,“技术自大会让人们产生错觉,认为自己拥有无穷的力量。”

事实上,在航空业,自30年前引入电传操纵系统以来,两大主导飞机制造商在飞机设计上就存在分歧,空客公司以技术为中心,以实现飞机基本“无人驾驶”为目标。在空客编写的计算机程序中,允许在特定情况下,计算机可以推翻驾驶员的指令,从而保证飞机一直处于软件规定的飞行包线参数内。也就是说,行驶的最终控制权在软件而不是驾驶员手里。而波音公司则采用了相对以人为中心的策略。即使在极端情况下,飞行员也对飞机的控制拥有最终决定权。虽然两家飞机制造商的安全记录十分接近,但最近发生的事故使人们开始留意到空客以技术为中心的设计理念存在短板。以法航空难为例,空客飞机的侧杆设计很容易使飞行员彼此之间忽略对方的动作,致使隐患产生。因此,美国联邦航空管理局开始鼓励驾驶员更加深入地参与飞行,以提高飞行的安全性。目前,一些企业和政府机构已经开始对“技术优先”提出质疑。人们开始对限制自动化做出了尝试与努力。

4.打破笼子,重获自由

当我们不再去注意是否存在电脑运算的时候,就说明它已经无处不在。许多电脑公司和软件公司都将“将产品变得无形”作为努力的方向,人类正越陷越深。20世纪90年代,互联网泡沫开始膨胀,人们兴奋地讨论“普适计算”。很快,专家发出警告称,微型芯片将渗入各个角落——附在办公室墙上,内置到商品里,甚至在我们的身体里游荡。微型计算机装配了传感器和收发器之后,可以测量所有我们可以想到的变量,在数据处理中心,更大型的计算机将对数字进行处理,输出指令,保证一切都保持规范性和同步化。计算无处不在,自动化如影随形。整个世界成为了一台可以编程的机器。

如今,社会在不断调整,以适应无处不在的计算基础设施,这一速度甚至比当时接受电网的速度还要快,社会正在悄无声息地被重塑。人类之间似乎早已形成将商业流程都交给电子化技术来执行的习惯。广泛的信息自动交换已经成为经济领域的常规惯例。“完全在机器之间进行的、大量的机器会话”正在逐渐接管商业运作。任何大公司想要生存下来,只能实行自动化,并且不断推行自动化。从某种程度来说,目前的自动化达到了一种临界值。自动化开始重塑社会规范、生活方式和伦理道德。施乐帕克研究中心研究员的担心颇具代表性,“无处不在的计算系统会成为专制独裁者隐秘的理想场所”。一篇文章中如此写到:“如果计算系统无边无形,就很难知道谁在掌控,你我之间存在怎样的联系,信息的流向,以及信息的使用情况。”另外一方面,自动化的扩张会让人们的生活越来越程式化,证明人类智慧和创造性的机会会越来越少,自力更生这一人类的主要特性,也很少有机会展现它的价值。因此,我们有必要冷静思考一下未来的方向,否则,技术的狂潮将不断加速前进。人类将如何破笼而出呢?一位建筑师谈及公司采用的CAD系统时,说了一句颇具启发性的话:困难的部分不是学习如何使用这个软件,而是如何不使用它。也就是说,最新、最自动化、最方便的工具并不总是最好的选择,冷静下思考一下,你可以重新选择自己的“工具”。很多高速、易用、新奇的软件看上去很诱人,人们会不加思索地投入其中,但如果仔细了解自己的工作你会发现,这个软件会阻碍你的创造力,即使能提升效率,也会限制人们对美学和功能的追求,甚至会忽略很多重要的考量。

数码摄影和先进图像处理软件在起初确实令人陶醉,但后来摄影师会发现,结果是令人失望的,使用胶片必须遵从感知、视觉的规则,从而拍摄出更丰富、更巧妙、更动人的照片。胶片对人的要求更多。意识到这样的弊端之后,越来越多的摄影师开始回归胶片相机和暗房。对技术的选择正是对工作方式和生活方式的选择。我们只需要退后一步,批判性地、理性地重新思考,重新看待技术;我们可以重新考量这些技术之于我们的核心能力,是助力增强还是削弱束缚。拒绝技术与发明并不是排斥它们,而是让技术与发明融入我们的生活,让真正的进步脚踏实地。如美国著名思想家爱默生所说,“我们生命力的来源是‘活的灵魂’,我们最崇高的责任就是远离任何削弱或腐蚀灵魂的力量,不论其来自制度、商业还是技术。”工作本身造就了我们,但自动化却将结果与过程分离。它使我们更容易得到自己想要的,却让我们远离了认知的过程。事实上,当我们每天面对着屏幕的时候,其实也面临着人类一直面对的生存问题:我们的本质是否还是在于我们的所知,抑或我们现在满足于用需求来定义自己?这听起来是个严肃的哲学层面的问题,但最终目的是人类获得喜悦。通过将工具视为经验,视为自己的一部分,而不只是生产的手段,我们可以在技术将世界更完整地呈现在我们面前时,享受其带来的自由。好,这本书的精髓解读到这里就基本描述完毕,如果你对这本书内容感兴趣,不妨读读全书。我们身处智能时代,它是社会发展的大趋势,可能会造福人类,也可能会给人类造成各种各样的困难。不管怎样我们只能接受而无法拒绝,因为我们都一样生活在趋势的大潮中.......下面接入本书总结阶段......

解读总结

学界称本书作者尼古拉斯·卡尔是我们这个时代最清醒的思考者之一!当我们沉浸在技术带来的便利和高效的时候,卡尔看到的却是看似有百利无害的技术背后隐藏的“手术刀”,这把锋利的手术刀改变的正是人的大脑,从而影响人的认知和行为。卡尔的前一部著作,也是《纽约时报》的畅销书——《浅薄》出版时,在美国引起了巨大的轰动。《玻璃笼子》延续了《浅薄》的思想谈到了自动化及我们的未来。

这本书的内容引人入胜、发人深省,对于我们关注的诸多问题,如自动化是否使人变得越来越愚笨不堪?技术进步释放了什么?我们在越来越智能的时代应该警惕什么?给出了深入的解答。觉得国内相关领域的人,很少有研究这么深的,这本书探讨了自动化对人思想的影响,穿插了很多案例故事。

能想象这样的作品出自一位互联网浪潮中逆行者之手,有深度。这样的书如果真得火了,中国的全民素质和阅读水平才能算真正有了提高。解读完本书完全颠覆刷新了我们对科技的看法。其实关于人工智能的思考和观察的已经算很多了,但对于本书的这些描述都基本上是以人类为中心来思考问题的角度还是第一次领教。个人认为,其实类似的很多问题都是无解的,而作者在本书使用的工具方法和我们没啥不同,使用的图版也没有本质的差别。

如同最开始在大学毕业论文的时候,导师要求必须手写草稿,不让同学们使用电子稿,说思维需要具有连续性必须这样做,一晃很多年过去了,似乎也没有人在守旧使用手写稿了,基本全部都是电子word文件,当然对于很多东西也无需再打印阅读了,读书也没啥不同,不仅仅是看电子版图书,可以听可以读随便玩,咋爽咋有理的时代来了。我们不用老是怀念过去的东西如何珍贵,而是要大胆的迎接未来的新变化。

去除人类中心化是一一爱,发展的必然,人类作为物种可能会因此而灭绝,但人类的创造精神和大数据会保留下来。虽然小编在本书中的部分观点不太同意卡尔的结论。但是历史反复证明:每一个大变局时代的保守主义者都将极有价值。他们是这架极速前进机器的稳定之锚。好,这本书的其它精彩文字图片,均在文后的下方,欢迎您来互动阐述您的想法,我把这本书非常实用的细节精华基本为您转述出来见上文,附加了小编个人对人工智能及未来预测方面问题的初步理解,您可以点击文本复制粘贴为已所有,为什么我这样慷慨?因为无论你是否署名我的作品它都是我的思想和精神,这是无法改变的,历史已经证明了这一点,有时间后缀您的想法和问题。书后我们有找时间一起切磋学习,共同进步。解读总结到这里全部结束了,就到这里吧,我们下本书再会!

作品精选

谷歌的无人汽车:我的驾龄达到35 年以后,2010 年10 月9 日的早晨,一位谷歌发明家、德国出生的机器人专家塞巴斯蒂安·特龙(Sebastian Thrun)在博客上发表了一份重大声明:谷歌已经成功研发了“无人驾驶汽车”。这并不是谷歌总部停车场上那些笨拙的、充当摆设的模型,而是些实实在在的、能在街上开的车,准确地说,是丰田“普锐斯”。特龙表示,谷歌汽车已经在加利福尼亚州和内华达州的道路和高速公路上行驶了10 万英里了。它们沿着好莱坞星光大道和太平洋海岸公路一路行驶,在金门大桥上穿梭,环绕了太浩湖。它们加入高速公路的车流,穿过繁忙的十字路口,缓慢地在高峰拥堵的车辆间挪动。它们还曾突然变向以避免撞车。这些全是谷歌汽车自动完成的,没有任何人为干预。“我们认为这开创了机器人学领域的先河。”特龙写道,带着一丝狡黠的谦逊。造一辆无人驾驶的汽车没什么了不起。从20 世纪80 年代开始,工程师和那些鼓捣小发明的人就一直在制造自动的或远程控制的汽车,但这些发明大多只是些粗糙、破旧的汽车。这些车仅能用于在封闭的轨道上进行驾驶试验,或参加在沙漠及其他偏远地区举行的赛车拉力赛,都是远离行人和警察的。特龙在声明中写得很清楚,谷歌汽车与上述汽车不同,它能成为交通史及汽车史上的重大突破,就在于它能在无人驾驶的情况下在喧闹、混乱、复杂的真实世界中行驶。谷歌汽车装载了激光测距仪、雷达和声呐发射机、运动检测器、视频摄像机及GPSa,能详尽准确地感知周围的事物。它能“看到”前方的道路。通过即时处理接收到的全部信息,车载计算机能“实时”地操控油门、方向盘及刹车,其操控速度和灵敏性均达到了上路要求,对于司机经常会遇到的突发情况,它也能轻松应对。谷歌的无人驾驶汽车车队现在已经成功行驶了超过100 万英里,仅引发了一次严重的交通事故,即2011 年5 辆车在硅谷谷歌总部附近发生追尾。其实,那次撞车并不作数,因为谷歌很快就宣布:“当时有人在手动驾驶汽车。”在载着我们去上班或送孩子们去参加比赛之前,无人驾驶汽车还有一段路要走。尽管谷歌表示,要在未来10 年内将谷歌汽车推向市场公开出售,但这可能有点儿痴心妄想。车辆的传感系统贵得离谱,单是车顶的激光装置就要8 万美元。还有许多亟须解决的技术难题,例如,如何在雪地或铺满落叶的道路上行驶,如何处理意外绕行,怎样识别交警和交管人员的手势。即使是性能最高的计算机也很难分辨无害的路面杂物(例如压扁的纸箱)和危险的障碍物(一块钉着钉子的胶合板)。无人驾驶汽车在法律、文化及道德等方面将要面临的阻碍最让人望而生畏。例如,当无人驾驶汽车发生事故并造成人员伤亡时,应该怎样定罪及谁来承担责任?由车主承担,由安装自驾系统的汽车制造商承担,还是由编写软件的程序员承担?只有解决了这些棘手的问题,全自动汽车才能进入经销商的展厅。

不管怎样,技术都将快速向前发展。谷歌测试汽车所使用的硬件和软件,绝大部分都将用在未来的汽车和卡车上。自谷歌推出自动驾驶项目以来,世界上主要的汽车制造商都纷纷向世人展示他们在这方面的努力。目前来看,我们的目标不是发明一个完美的汽车机器人,而是要继续投资,完善自动化技术,提高汽车的安全性和便捷性,吸引人们购买新车。从我第一次把钥匙插到斯巴鲁的打火器里算起,自动化驾驶已经经历了很长一段时间。现在,汽车上搭载了很多电子设备。微芯片和传感器管理着汽车的导航控制、防抱死制动系统、牵引机制和稳定机制。一些高档汽车还装有变速设备、辅助停车系统、防碰撞系统、可调节顶灯以及仪表显示器等。软件在我们和道路之间架起了一个缓冲带。与其说我们是在控制汽车,不如说我们只是输入电子信号,传送给计算机,由计算机来控制汽车。

未来几年内,我们会发现,人在汽车驾驶中扮演的角色将越来越多地被软件取代。英菲尼迪、梅赛德斯及沃尔沃正在推出新的车型,这种汽车配有:雷达辅助的自适应巡航控制系统,即使是在龟速挪移的车流中,也能为汽车导航;计算机化的转向系统,能控制车轮,使车轮一直处于车道中央;紧急刹车系统,在遇到突发情况时它会自动启动。其他厂商也正忙着引进更先进的控制系统。电动汽车的先驱特斯拉汽车公司正在开发汽车自动驾驶仪,其首席执行官信心满满地表示,这种自动驾驶仪能“处理90%的行驶路段”。

谷歌无人驾驶汽车的问世颠覆了我们对驾驶的认知,但其影响不止于此。它迫使我们改变对计算机和机器人能力的认识。谷歌汽车的问世意义重大,在此之前,人们很自然地认为许多重要的技能是无法被自动化取代的。计算机能胜任很多事情,但它并不是无所不能。2004 年有一本颇具影响力的书——《新分工:计算机如何开创新一代职场》(The New Division of Labor: How Computers Are Creating the Next Job Market),在这本书中,经济学家弗兰克·利维和理查德·默南提出,毫无疑问,软件程序可以复制人类与生俱来的技能,但在实际操作中存在一定的局限性,特别是涉及同感官知觉、图像识别及概念性知识相关的技能时。他们特别提到了在开阔的道路上驾驶汽车这个例子,这项技能要求驾驶员能及时处理杂乱的视觉信号,能熟练地转向,并迅速对意外情况做出反应。事实上,我们都不知道自己是如何成功做到这些的。所以,软件通过一系列的指令、一行行的代码就能降低驾驶的复杂性和不确定性,减少意外事故,真是可笑的想法。“面对迎面而来的车流左转弯,”利维和默南写道,“完成这个动作需要考虑很多因素,很难想象仅靠一组程序就能模拟驾驶员的操作。”看起来确实是这样,对利维和默南,甚至几乎所有人来说,方向盘还是牢牢地掌握在驾驶员手里。长久以来,在评估计算机的能力方面,经济学家和心理学家一直在区分两种知识:隐性知识和显性知识。隐性知识,有时也称作程序性知识,是指我们不用思考就能完成的事情,包括骑自行车、抓住飞来的球、读书、开车等。这些技能不是与生俱来的,我们必须经过后天的学习,并且还存在是否擅长之分。但是,我们不能通过一两个窍门或是一连串准确定义的步骤来描述这些技能。神经学研究表明,当我们位于车水马龙的十字路口想要转弯时,大脑的许多区域都在努力工作,它们处理感官刺激,预测时间及距离,并协调胳膊和腿的动作。但是如果有人让你把转弯时所有想法和动作都记录下来,你却办不到,至少在不借助概括能力和抽象能力的情况下,你是无法记录的。这种能力深埋在你的神经系统里,在你的意识控制范围之外,因此你无法察觉正在进行的心理过程。我们对情势的估计和快速判断的能力都来自于隐性知识这个模糊的领域。我们大多数富有创造性与艺术感的技能也寄居于此。显性知识,也称为陈述性知识,是指你能够写下来的事情:如何换轮胎,如何折纸鹤,如何解二次方程等。这些行为能够被分解成可以准确描述的步骤。一个人可以通过书面或口头传授的方式向另一个人解释第一步做什么,第二步做什么,第三步做什么。P7-11

作品目录

前言

致驾驶员的警告

第一章

怀念手动挡汽车

谷歌的无人汽车

未来世界

充实工作的意义

被高估了的自动化

第二章

自动化大时代

无法阻止的机械化大潮

机器革命

当机器人取代你的位置

按键式控制

无孔不入的机器智能

第三章

自动驾驶来临

自己飞行的飞机

专业飞行员即计算机操作者

新型坠机事故

走出飞机驾驶舱的人们

第四章

重塑工作和工人

过度依赖的后果

钝化的思维

在行动中思考

跳舞的老鼠

第五章

白领的计算机

电子病历的副作用

惯性:剪切+ 粘贴

技术与工人

计算机的新技能

数据和算法的缺陷

第六章

当世界只剩下屏幕

真正的女神—GPS

迷失方向

越来越聪明的计算机

设计师的忧虑

肉体中的思维

第七章

自动化,为了人类

是否需要考虑人类因素?

给人类空间

以技术为中心还是以人为中心?

小心—如果技术优先

盗墓者的启示

第八章

内心的低语

伦理的挑战:杀缪机器

深层自动化

透过玻璃

意愿的松动

代码背后的商业动机

第九章

事实是,劳动让我们有存在感

使用工具的乐趣

主人和奴隶

一则寓言

破笼而出

致谢


日记本