第二章
人机合作的状态

评估人机合作关系的共同点

要想得出对人机合作关系切实有用的理解，我们就必须采取有效方法对其进行评估。但是，具体该怎么做呢？

有许多方法可以用来进行此类评估。例如，我们可以研究特定类别的人机合作关系旨在满足什么样的政治、经济和社会需求。我们可以采用一种经典企业管理方法，使用SWOT 分析模型，从优势、劣势、机会和威胁这几方面对人机关系进行评估。我们可以采用简单的二元分析法：有价值与无价值、有害与有益、昂贵与便宜、必不可少与无关紧要、简单与困难，等等。但是，有关人机关系的思考方法那么多，我们如何才能建立一致的评估模型，让消费者、开发者、学者、企业决策者和政策制定者能够达成共识？我们如何才能找到共同点？

在这个问题上，最显著的可变因素是评估的背景，也就是评估的目的。例如，对于某个特定类别的人机合作关系，社会学家所寻求的评估方法可能会不同于“《财富》100强”（Fortune100）公司的首席物流官。前者感兴趣的方面可能是这个特定类别的人机合作关系会对就业（更准确地说是失业）、贫困、犯罪等社会问题有何影响。后者对同一种人机合作关系进行评估时，感兴趣的方面通常是其运营效率及产品上市速度，或其减少内部成本的潜力，而很少关注自己公司范围之外的社会经济连锁反应。

说到对人机合作关系的思考，问题症结在于：评估的意图、方式和结论因人而异，取决于进行评估的人。由于个人的角色、目的、运营战略目标不同，人机合作关系评估得出的结果可能会不尽相同。也就是说，人机合作关系的价值几乎总会带有一定的主观性。

为了尽量减少主观性，我们选择的评估对象为“投资回报率”，即成本与收益。无论对于哪个类别的人机合作关系，当我们开始进行评估时，比较客观的做法也许就是首先衡量其收益是否超过成本。

正如我们已经讨论过的，社会学家和企业高管对于哪些效益和成本具有重要价值这个问题会有不同的看法——但是，这无伤大雅。重要的是，无论角色、目的、运营战略目标如何，核心方法都是相同的：这类人机合作关系的收益是否超过它的成本？企业高管和社会学家从各自的独特视角出发来进行同一类评估，也是件好事，原因包括以下两点。

一方面，这两个群体可以彼此分享各自独特的评估方式，从而有助于大家关注和了解其他一些可能无法通过别的方式被所有人发现的机会、风险和痛点。例如，一家具有社会责任感的公司可能会很有兴趣了解这样一个事实：虽然部署某个特定类别的人机合作关系可以大大提升其运营效率和赢利能力，但弊端可能包括出现因岗位不足的裁员现象、客户体验失去人情味以及公关危机，而公关危机可能会像滚雪球效应一样，逐渐损害公司在客户中的声誉。我们由此可以看到，通过帮助有着不同利益和观点的不同群体及团队回答同一个问题，大家都能为彼此对人机合作关系新技术或新类别的评估贡献一臂之力。

另一方面，无论你是成本会计、首席执行官、社会学家、经济学家、危机管理策略师、城市规划师、科技分析师还是民意调查员，体现了共同价值观的评估方案都会让你受益，它们远比那些主观的单方面评估更有利于促成卓有成效的辩论、合作以及联合分析。我们的评估流程包括建立这样的共同价值观，以及合理的后续步骤。

从评估成本与收益，到建立因果关系模型

现在，让我们在这种基本方法中加入一点有意思的东西。此时提出的问题不是纯字面意义上的“成本与收益”（就像投资回报率公式中常见的数学计算一样），而是“收益与后果”。投资特定人机合作关系类别的企业、政府和其他实体除了问自己“成本是多少？有哪些潜在收益？收益能否超过成本？”等问题，还应该问问自己：“有哪些潜在后果？”“潜在收益能否超过潜在后果？”

在标准成本收益分析中添加这样一个分析层面，可以迫使评估者对因果关系进行思考，而不是局限于交易方面的数学计算。这有助于他们从基于资产负债表的思维模式转变成以更具前瞻性的有机思维对后续情况进行分析。为什么这很重要？一是因为单纯从成本会计的角度来看待像新型人机合作关系这样的转型举措，是既危险又短视的做法，没有考虑到现实中的因果关系。二是因为无论通过何种转型举措，实际成本和风险都在于该举措付诸实施后会带来何种变化；对于转型举措可能造成的后果不加考虑或不做计划，如此莽撞的做法是任何公司都承受不起的。

例如，物联网和人工智能解决方案可以帮助老年患者在家中进行自我健康管理，从而使他们的医疗保健费用减半，同时还能进行全天24小时监控、减少意外用药过量的风险，并让他们能够留在自己家中，而不一定要搬进护理型养老院。但是，让老年患者更多地与机器而不是与人合作来进行健康管理，可能会造成一些计划之外的后果，比如助长抑郁情绪和压力，而这些后果并不会改善他们的生活质量。为什么呢？因为虽然智能居家护理解决方案可以改善某些医疗结果，并且从成本收益的角度来看十分合理，但如果只是简单地用机器取代真人照顾者，就有可能剥夺患者在日常生活中和人接触的机会，而患者需要这种接触。为了更好地解决这个潜在问题，玩具生产企业孩之宝（Hasbro）早早通过推出机器宠物进军老年护理物联网领域，这些机器宠物有望缩小陪伴型机器人与真实宠物之间的差距 ¹ 。虽然这种产品并不能很好地解决这个问题，但确实有助于缓解它。美国国家科学基金会和布朗大学的研究人员已经与孩之宝公司开展合作，为其机器宠物产品添加实用功能和仿真行为。最近，宠物机器人公司Tombot与吉姆汉森公司（Jim Henson）合作，开发出一款非常逼真的陪伴型机器小狗。因此，让照护型和陪伴型机器人在给人的感觉和表现出的行为方面更加以假乱真——这一需求已经深深渗透了设计文化，这方面的技术在未来也会不断更新迭代 ² 。

以上例子说明了当涉及实施具有变革意义的新型人机合作关系以及确立正确的相关设计理念时，需要对后果加以全盘考虑，考虑这种做法会对世界产生怎样的影响，而不单是考虑成本和潜在收益。我们必须将同样的思考方式运用到所有新型人机合作关系中，从教育、医疗保健和公共安全，到客户服务、社会服务、协同工作和生产制造，都是如此。设计产品、服务和平台时，要想让它们实现远超实施和部署成本的收益，归根到底不过是解决工程问题和进行正确定价的问题。在我们看来，科技公司面临的真正挑战是预测其创新技术一旦进入我们的日常生活之后可能会像连锁反应一样引起哪些计划外后果，并通过直观的设计解决这些问题。

以下介绍了几类连锁反应，技术专家和产品经理在设计下一代智能自动化产品时，应该始终将这些问题牢记在心：

●通过机器接受教育的儿童会逐渐丧失一些至关重要的社交技能。

●在自动化程度越来越高、越来越以数据为中心的医疗保健系统中，数据和隐私信息泄露的风险有所增加。

●公共安全领域对智能技术的应用可能会造成监控密布的结果，从而对个人自由构成一定威胁。

●客户服务行业的用人岗位将被机器取代。

●社交生活受到侵蚀，人们与为自己提供服务的机构之间在情感上变得疏远。

●更高效的业务协作可以大大减少摩擦，从而大大减少不同想法之间的冲突碰撞，由此可能会导致创新步伐放缓。

●制造业部门用人岗位锐减。

归根到底，计划外的后果也是成本。因此，我们有必要对它们加以全盘考虑。以下是一项简单的练习，可以帮助产品设计师和产品经理理解这一点如何适用于技术设计。

问题1：现在进行（或不进行）……（某一计划）的成本是什么？

问题2：这一选择以后会造成哪些后果？

问题3：到时再解决这一问题，而不是现在就解决，成本会更高还是更低？

找出相应的解决方案来解决技术设计盲点可能造成的后果（即成本），这种做法是有利可图的，其中一个重要原因是：在创新进程的早期阶段，这一过程可以在设计和功能方面开辟全新领域。这很容易转化为市场优势，因为即使成为某个类别中的先行者，也未必意味着能够长期处于领导地位。但是，如果同时做到最先和最佳，那么这两者的结合通常会成为制胜法宝。理想的创业型问题解决模式并不是：看到问题，构建解决方案，然后将这个解决方案变现。理想的创业型问题解决模式是：看到问题，构建正确的解决方案，最大限度减少计划外后果，然后将这个解决方案变现。在此基础上进行业务合理性论证，才能设计出无论对于用户和结果，乃至对于整个社会和经济，都可以最大限度减少计划外后果和负面影响。

这类以先见之明为主导的设计强调了这样一件事情的重要性：科技产品——尤其是那些在人机合作关系方面具有应用潜力的科技产品，应该建立在比仍然受到成本会计青睐的传统成本收益分析更广泛的价值尺度基础之上。公司如果能够迅速适应这种新的现实情况，就会处于比那些拒绝或难以适应这种模式的公司更有利的地位，就能够打造出更加出色、痛点更少的产品。

“老大哥”“老母亲”“老管家”

对于分析师来说，最麻烦难搞的挑战之一是如何将复杂情况变得简单。关于如何大体了解新技术的机会、风险和威胁，我们设计出了一种简单直观的相关分析模型，开展这方面的工作。

起初，我们使用了一个简单的“朋友与敌人”二元分析模型。在这个模型中，如果带来的计划外风险多于机会，技术就会被认定为“敌人”；如果收益超过风险，技术就会被认定为“朋友”。就像任何事物的第一个版本一样，这个二元模型太有限了，于是我们很快就开始努力改进它。没过多久，我们就意识到：技术及其使用方式可以自然而然地分为三个不同类别（或者说原型）：“老大哥”“老母亲”和“老管家”。

这个三位一体模型的优点之一是不解自明。“老大哥”代表了那些对于个人自由、隐私权和个人安全有威胁的技术。在这个数字隐私、大数据和监控经济大行其道的时代，各种技术被用来跟踪我们的线上和线下活动及行为。“老母亲”代表了那些本意或许是好的，但可能会专横地侵扰用户的技术，就像对孩子管得太多、过于热心的家长一样。“老管家”代表了那些按照人类用户的条件全心全意为他们服务，不会侵扰用户、不会泄露隐私信息并且痛点很少的技术。

“老管家”旨在实现以下三个方面的完美平衡：智能自动化带来的效益、数据安全（和用户隐私）管理，以及如何以直观而和谐的方式将智能技术整合到日常生活中。“老管家”和“老大哥”正相反，因此，在开发智能自动化平台、产品和服务时，每项智能技术都应该立志于向这种原型靠拢。

“老管家”应用往往会以数字助理或机器人等形式出现，这些数字助理或机器人能够为其人类用户执行非常有用的任务。“老管家”应用可以帮助用户提高生产力、加快任务完成速度，甚至可以提升工作质量。“老管家”技术可以帮助忙碌的白领回复电子邮件、管理会面预约、将语音邮件转成文字、生成报告、研究某个话题、订机票、分析数据、安排车辆保养时间——这些任务都服从用户的命令，并且非常轻松省力。同样地，“老管家”技术还可以帮助蓝领工人创建、同步和管理复杂的车队日程表和工厂；实时以可视化方式呈现多层系统和物流信息；在出现特定类型的维护和生产问题时自动向手机发送警报；根据新员工的需求为其推荐和提供相应的培训，等等。在工作之外，“老管家”应用可以帮助用户规划和管理日常事务、订购食品、拨打电话、设置会面预约、调节家中空调温度、播放音乐、搜索电影、管理家中安防系统，等等。管家或个人助理能做的大部分事情，“老管家”技术也能实现，并且能较好地保护用户隐私。

“老母亲”应用的目标是照顾好你，却未必会征求你的许可。比如，某个应用在你抵达之前将你对环境的偏好共享给某家酒店，以确保你在抵达该酒店后可以享受自己喜欢的室内温度，这就是一个使用“老母亲”技术的例子。又如，搜索引擎或浏览器根据其对你个人偏好的了解来优化显示的结果和广告。再如，无处不在的定制零售体验——你逛了一家又一家商店，而为你量身定制的体验如影随形。这些出于善意的人机合作关系尽管非常有用，但在为用户提供极大帮助的同时，也可能会有点专横、突兀甚至令人毛骨悚然。

“老大哥”应用所采用的技术可以收集你的相关数据、分析你的行为、跟踪你的活动、在网上关注你，每当你从监控设备前经过时，“老大哥”应用会将你识别出来，或是阅读你的私人消息。虽然有时披着“老母亲”技术的外衣（辩解称进行数据收集和分析是创建“老母亲”服务所必需的），但是“老大哥”技术应用在本质上具有很强的欺骗性、剥削性和恶意。它们与“老管家”技术应用完全相反。

由于大多数人机合作关系都应该以“老管家”这类技术为基础，区分“老大哥”“老母亲”和“老管家”技术就成为一项至关重要的能力。借助这个简明的框架，政府、企业以及消费者应该可以共创未来，引导人机合作关系朝着为人类赋能和增强人类能力的方向发展，而不是导致隐私权、能动性和自由受到系统性侵蚀。

人机合作如何缔造颠覆式变革

人类文明的颠覆性变革都是由需求引发的。想想看，哪怕是像弓和犁这样的原始机械也对经济、社会和政治之争方面的颠覆式变革作出了那么大的贡献。长期存在的水患为人类修建堤坝和人工水渠提供了动力和灵感。瘟疫为人类发现疾病的治疗方法乃至发明疫苗和药物提供了动力和灵感。从人类打造的第一件工具到精妙的人工智能产品，人类打造机器的目的永远是帮助自己实现目标。人类会本能地找出问题和痛点，然后设计出某种解决方案来克服它们。当人类的主要痛点是饥饿时，我们发明了种植作物和控制食物供应的方法。当人类的主要痛点是干渴和干旱时，我们发明了挖掘更深的水井以及更高效地灌溉作物的方法。当人类的主要痛点是安全时，我们发明了围墙、武器和防御策略，让威胁无法靠近我们。解决问题这件事，人类一直都在做。我们解决了昨天困扰我们的问题之后，就会着手解决今天困扰我们的问题，并且心里清楚：解决了这些问题之后，明天还有更多问题等着我们。在每一次迭代中，我们的工具都变得更好用，机器变得更高效，系统变得更加智能和自动化，因为我们也会通过这种方式帮助我们的工具解决它们自身的问题。

但是，我们不会止步于此。我们从中领悟的主要道理不是人类的聪明才智没有界限，也不是人类通过创造机器来解决问题、改进结果以及设法提高做事效率这件事有着悠久的历史，而是人类总是使用机器来通过某种方式增强我们自身的能力。这样做并不是单纯为了解决问题，而是为了有效赋能，让我们与没有发明我们与之建立合作关系的机器时相比，或者与发明之前相比，具备更强大的能力。

开拖拉机的农民能够在其祖父当年播种1000平方米农田所用的时间里播种40万平方米农田，这难道不是通过机器得到增强的农民吗？配备自动化武器、加密通信设备和空中实时战场侦察的士兵，难道不是通过机器得到增强的士兵吗？如今能够借助网络、特别设计的摄像头以及可执行精细操作的机械臂完成远程手术的外科医生，难道不是通过机器得到增强的外科医生吗？

所有人机合作关系的核心原则一直都藏在这样一个朴素的道理中：在“效率”“速度”和“规模”等各种层次的表现之下，无论我们通常会将何种可衡量的实际收益归功于人机合作关系，其中都藏着一个真相：各种人机合作关系存在的首要目的都是让人类有限的能力得到增强。

认识到这个道理，就像认识到“老大哥”“老母亲”“老管家”之间的区别一样重要，因为它道出了所有人机关系的本质。从这个道理中，我们可以为当今时代最紧迫、最具争议性的问题之一“机器会取代我们吗”找到答案。

答案至少在一定程度上取决于机器究竟是曾经为了完全取代我们而生，还是主要为了增强我们的能力而生。公平起见，答案始终都是两者兼有，但是如果我们纵观历史上的颠覆式技术变革，我们就会发现：虽然有时候会有某些类型的机器完全取代了一些工作岗位，但在历史上的绝大多数时间里，机器起到的主要作用还是增强我们的能力并将我们解放出来，让我们能够利用最宝贵的资源——时间，来做更多事情。

人机合作未来会是什么样子

开始回答这个问题时，我们不必极目远眺，也不必大加猜测。医师已经开始与人工智能产品合作提升诊断的准确性并减少事与愿违的治疗结果。事务繁忙的企业高管已经在利用数字助理和专门的机器人来自动完成一些耗时的行政任务。高层决策者已经在运用多种智能分析产品对数据进行梳理并结合相关背景进行数据分析，然后将分析结果转化为洞察力。预测性建模工具可以帮助组织机构规划项目并最大限度减少投资风险。

这些精妙新工具的力量并不在于取代人类，而是在于帮助人类在工作中节省时间、减少出错、提高成效——简而言之，就是增强人类的能力。我们不应在凡是做得到的情况下都用机器取代人类，而是应该仅在必须如此时才这样做。

我们来扮演一下唱反调的人，问一问这是为什么。为什么我们不应在凡是做得到的情况下都用机器取代人类？如果机器能够比人类医生更好、更快、更可靠地做出准确的诊断，那么为什么不用机器取代人类医生呢？如果机器能够比人类高管完成对更多数据的分析，并且能够以更快的速度完成，同时还能为组织和投资者带来更好的结果，那么为什么不用机器取代人类高管呢？为什么在机器已经证明能够比人类表现更出色的情况下，我们也不用机器取代人类？

以下是精简版的答案：如果只有提高运营效率这一个目标，那么机器的确往往比人类更高效，尤其是在执行重复性任务或是可预测的任务时。但是，大多数任务——或者说，大多数工作，并不具有重复性或是可预测性。如果某项工作需要人们进行社交和协作，或需要以创造性方式解决问题，或要求相关人员具备领导力、灵感、直觉以及随机应变能力等素质，那么机器可以协助人类，但无法取代人类。此外，单纯提高运营效率算不上是进步——远远算不上。进步还在于——并且可能主要在于——想象力、创新能力、颠覆性变革以及富有创意的调整方式，而在这些方面，无论多么精妙的机器都无法超越人类。

即便精妙的人工智能产品能够帮助人类推动医学、材料科学、微型芯片设计、能源研究以及上千个其他学科领域取得革命性突破，这些人工智能产品也无法独立完成其人类合作伙伴需要它们帮忙完成的工作。世界上没有机器能取代史蒂夫·乔布斯（Steve Jobs）、埃隆·马斯克（Elon Musk）、杰夫·贝索斯（Jeff Bezos）、萨提亚·纳德拉（Satya Nadella） 或桑达尔·皮查伊（Sundar Pichai） ，没有机器能取代斯蒂芬·霍金（Stephen Hawking）、史蒂文·温伯格（Steven Weinberg） 、彼得·希格斯（Peter Higgs） 或弗里曼·戴森（Freeman Dyson） ，也没有机器能取代玛格丽特·阿特伍德（Margaret Atwood） 、多丽丝·莱辛（Doris Lessing） 、托妮·莫里森（Toni Mor-rison） 或弗吉尼亚·伍尔芙（Virginia Woolf） 。换句话说，世界上的天才、远见者、创新者、领导者，目前都无法被机器取代。

无论机器变得多么精妙，无论它们最终能够以多么接近于人类的方式模仿人类思维。改变世界的力量，推动世界和人类前进的力量，是天赋、远见、创新和领导力，而不是重复性任务的效率提升、计算速度的加快或实时语言处理。此外，机器旨在自然而然地弥补人类的局限性，正如我们能够自然而然地弥补它们的不足一样：人类与机器之间紧密交缠的共生关系久已有之，可以追溯到人类文明诞生之时。纵观人类历史，推动颠覆式变革和人类进步的从来都不是“人机对立”，而是“人机合作”。这种持久的合作关系在人类历史长河中推动了进步的车轮，因此，我们应该继续追求那种行之有效的人机合作关系模式——这种模式将人类送上了月球，绘制出了人类基因组图谱，并且让你手持一台设备即可查看人类的所有知识。

机器如何帮助人们更好地适应变化

如果变化既是颠覆式变革，又是在所难免的，那么颠覆式变革就会在所难免。无论哪个行业，无论哪个职能部门，都会发生变化。或许不是在今天，也不是在明天，但颠覆式变革总会到来。

我们已经开始讨论机器可以如何推动颠覆式变革（关于这个主题，我们将继续深入挖掘），不过同样重要的是，我们也必须承认机器也可以帮助我们适应颠覆式变革。

例如，某软件供应商不断向一家“《财富》世界500强”之一的公司的高管推介一款项目管理智能自动化产品，在此情况下，该公司的一名中层项目经理如何才能避免自己被这个项目管理智能自动化产品取代呢？一种做法是，选择延长工作时间、承接更多项目、增加与老板面对面谈话的次数，从而在公司内赢得良好声誉，成为大家心目中勤奋上进、能把事情办好的员工。另一种做法是，选择开始采用那种对她构成了威胁、可能会在6个月到18个月内取代她的智能自动化产品，但让这款产品按照她的要求为她提供协助，从而提高她的产出能力、缩短产品日程表并大大改善她手下项目团队的工作结果。

如果选择第一种做法，那么充其量只能让这位勤奋的项目经理在其工作被智能自动化取代之后引起另一个职能部门的注意并调动过去。而最坏的情况是，虽然她的上级可能会认可她突然迸发的工作热情，但是她拼命努力的结果迟早会让她心力交瘁，而这只会加快她让位的速度。

但是，如果选择第二种做法，她就能够在即将到来的颠覆式变革让她失去工作之前先行一步，甚至有可能扭转局面，让公司了解智能自动化产品应有的使用方法。通过采用本来可能会导致她失业的颠覆性技术，而不是跟技术对着干，她会变成该项技术的受益者而非受害者。她为自己设计出的全新模式让她的上级一目了然，也是对“人机合作”关系的概念论证（和价值论证）。这个合作关系可以作为对“人机对立”的矫正方法——后者强调对立，不但会让她失去工作，还有可能为公司带来不甚理想的结果。

最坏的情况是，公司不知何故没能从她的举措中看出任何名堂，然后仍然用自动化项目管理解决方案取代了她。不过，在这种情况下，她可以身怀娴熟的智能生产力与人机合作关系技能进入就业市场，并且可以将这些技能运用到下一份工作中。不过，理想情况是，她所效力的公司意识到：利用智能自动化解决方案让能力过硬、经验丰富的工作者如虎添翼，而不是取代他们。此外，管理层会追求用技术增强员工能力的策略，而不是取代员工的策略。

通过及早采用颠覆技术并将这些技术融入日常任务中，处境危险的工作者或许不仅可以保护自己免受被机器取代的威胁，还能通过新技术推动自己的职业发展。

人机合作的价值

从根本上来说，人机合作关系有机会创造均等机会：任何事情都有望通过让人类与机器合作执行某项任务或追求某个结果来得到改进。例如煮咖啡、上班通勤、帮助农民照顾作物、协助领导者做出明智的决策，都是如此。每一种人机合作关系的核心价值都可以通过其带来的改进结果来定义乃至衡量。人机合作关系无论可以导致某种癌症治愈方法的发现，还是只不过可以帮助工作繁忙的人节省出1小时来安静地放松一下疲惫的身心，其带来的益处都是不言而喻的。

对于那些可能对人机合作关系的投资回报率感到好奇的人来说，每种人机合作关系都必须独立计算，就像进行所有其他投资回报率计算一样：在本质上是通过成本与收益的对比权衡进行的。除了投资回报率，对人机合作关系价值的判断不但更加抽象、更加出于本能，而且没那么令人望而生畏。我们当中的大多数人已经在自己都没意识到的情况下做这件事了：每当我们开始将日常任务分配给数字助手，或者学会使用语音激活界面代替键盘以节省时间，或者购置草坪修剪机器人，或者借助汽车配备的驾驶辅助功能来避免发生交通事故，我们都会自然而然地感激每一种新型人机合作关系为我们创造的价值。在判断人机合作关系价值的过程中，第一步显然是寻找上述这类机会，并欣然接纳那些有望在我们的生活、工作等诸多领域的某一方面带来改进的人机合作关系。