第一章
小心翼翼的汽车和难以驾驭的厨房：机器如何主控

我正驱车穿行在家与太平洋之间的崎岖山路上，一边是旧金山湾区的美景，另一边是太平洋瑰丽的海岸，一路上急弯陡坡掠过高耸入云的红杉树林，多么惬意的旅程。面对挑战，汽车可以应付自如，连急转弯都从容不迫。至少，这是我个人的看法。可是，我注意到妻子却很紧张，有些恐惧。她的脚紧紧地蹬着车底板，双肩耸起，双臂抵住仪表盘。“怎么回事？”我说：“不要担心，我没问题的。”

现在来想象另外一种状况。还是在同一条弯曲的山路上行驶，我发觉车子有些紧张、有些惊恐。座椅直立起来，安全带收紧，仪表盘开始对我发出讯号。我注意到剎车已经自动开启。“噢，”我心里想：“我最好慢下来。”

汽车会受到惊吓，你认为这是幻想吗？我向你保证：绝对不是。一些豪华轿车已经具备这种能力，而且会越来越普遍。当汽车偏离车道时，有些车会犹豫不决；鸣笛，振动方向盘或座椅，或在侧边后视镜有灯光闪烁。汽车厂商正在进行试验，使用逐步矫正的办法让驾驶员重新回到自己的车道。在过去，通过转向灯来告诉其他驾驶员你想转弯或变换车道，在新设计中，转向信号就是你与自己的车的沟通方式，即告诉你的车子你确实想转弯或变换车道。“嗨，不要阻止我，”转向信号会告诉你的车子，“这就是我要做的。”

我曾经是专家顾问团的成员，给一家大型汽车公司提供咨询。当我讲述自己对妻子的反应与对车子的反应不同时。“怎么会呢？”莎瑞·特克（Sherry Turkle）问，她是专家团的同事，麻省理工学院教授，而且是研究人与科技关系的专家。“为什么你想倾听车子的反应，而不是你妻子的感受？”

为什么？确实是个问题。当然，我可以做出理性的解释，但有人会漏掉重点。当我们赋予自己周围的物体更多的主动权，更多的智能、情感和个性，那么我们就不得不考虑如何与它们互动。

为何看起来我对车子的反应比对我的妻子更加在意？答案并不简单，但简要地说，就是沟通的问题。当妻子埋怨时，我可以问她抱怨的原因，然后同意她的看法或试着让她放心。我也可以改变自己的开车方式，以减轻她的忧虑。然而，我不能与自己的汽车对话，所有的沟通是单向的。

人比机器有更强的能力，所以机器比人有更大的权力。听起来似乎有些矛盾？是，但确实如此。想想在商务谈判场合，谁拥有更强大的能力。如果你想从谈判中得到最大的好处，你认为应该派谁去，董事长还是职位低一点的人？答案与直觉相反：通常，职位低一点的职员能达成较有利的谈判。为什么？因为不管对方的谈判能力是多么的强势，弱势的这方代表没有权力做最后决定。即使面对很有说服力的建议，他们可以简单地说：“对不起，在未与我的上司沟通之前，我无法给你一个答复。”然后，第二天回到谈判桌时说“对不起，我无法说服我的上司。”一方非常强势的谈判代表，反而可能被说服，接受弱势者提出的条件，即便过些时日后他们又有些后悔。

成功的谈判者大都了解这种谈判伎俩而不让对方得逞。当我与一位成功的律师朋友谈这件事时，她冲我直乐。“嘿，”她说，“如果另外一方对我玩这个伎俩，我会打电话给他们的上司。我才不会让对方这一招给耍了。”然而，机器却会这一招，而且令我们无法拒绝。当机器介入时，我们没有别的选择，只好让其主导。“要么这样，否则免谈。”它们说，而这“免谈”并不是一个选项。

看看汤姆的困境。他希望自己汽车的导航系统提供路线，系统就提供路线给他参考。听起来挺简单，就是人机交互，非常好的一段对话。可是，听听汤姆的苦衷：“它不让我做主。”高科技的设计者常以自己设计的系统具有“沟通能力”为荣。可是，进一步分析发现，这是“用词不当”：那并不是真正的沟通，即没有双向的一问一答的真正对话。充其量只不过是两句单向的自言自语。我们对机器发出指令，然后，机器对我们回以指令。两句独白并不能构成对话。

在这个特殊的例子里，汤姆还是有选择的。如果他把导航系统关掉，车子照常可以行驶。所以即使导航系统不让他对推荐的路线横加干涉，简单地不用它就好。可是别的系统并不一定会有这种选择：避免使用这类系统的唯一办法就是不开车。问题是，这些系统价值巨大，它们或许还不完善，但能减少伤亡。所以，我们要思考：如何改善人与机器的沟通以便善用机器的优势和长处，同时减少它们令人讨厌、甚至危险的动作。

当科技越进步越强势时，科技与人进行良好的合作与沟通也越来越重要。合作意指协调一致的行动以及提供说明和理由。合作意味着互信，一种只能经由经验和了解才能建立起来的信赖。使用自动化系统，即所谓人工智能设备，有时会发生过度信赖，或是不够信任的情况。汤姆决定不依赖车子导航系统的指令，可是有时候拒绝使用科技可能会造成伤害。例如，假如汤姆关掉车子的防抱死剎车系统，或是稳定控制系统，会有什么样的后果？很多驾驶员认为自己比这些自动化系统做得更好。事实上，除了专业资深驾驶员外，防抱死剎车系统和稳定控制系统在控制车辆时比一般驾驶员表现得更好，它们挽救了很多生命。可是驾驶员怎么知道哪些系统值得信赖？

为了安全和便捷方面的考虑，设计师倾向于尽可能地应用自动化技术。除非仍有技术上的限制，或是成本太高，他们的目标是全面自动化。然而，这些限制意味着有些工作只能部分自动化，所以操作者必须经常注意机器的操作，当机器不能正常操作时，必须由人来接手。当一件工作只有部分自动化时，最重要的是人和机器任何一方都必须知道彼此在做什么和其用意。