01 自动驾驶汽车

社会科学家把下列这些对我们的环境和生活方式的巨大改变都归功或归罪于汽车：郊区、污染、自由、家庭度假、结束生命、挽救生命。

自动驾驶汽车也会产生类似的广泛影响吗?下面我们简要讨论一些可能的结果，以及一些道德、法律和社会问题。我们的目的不仅在于帮助大家了解自动驾驶汽车，而且还要针对我们在整本书中对技术潜在后果的思考进行“热身”。

也许自动驾驶汽车的最大好处是它们会拯救生命。目前，美国每年大约有35 000人死于车祸。人为错误是大约95%车祸事故的原因或原因之一。毋庸置疑的是，由于意外情况、软件缺陷或设计错误，自动驾驶汽车也将会导致一些致命的车祸事故，但总数可能远远低于人类驾驶者。

在很多情况下，人们可能会在需要时从汽车服务商那里叫车，这样的服务很可能是由汽车制造商和汽车共享APP组成的合资企业来提供的。自动驾驶汽车提供的服务应该比带司机的汽车服务更为便宜。

另外，还可以通过捎带附近的其他乘客来提供更加低廉的汽车共享服务，特别是在早晚高峰时段。软件可以快速地确定附近有哪些客户将要去相近的目的地，并且当需要与陌生人共享汽车时，汽车共享服务还可以对会员进行筛查，以保证乘客的安全。那么，自动驾驶汽车服务会对公共交通产生什么影响呢?

随着方便、低廉的叫车服务的出现，更多家庭可能会选择拥有比现在更少数量的汽车。目前，一辆汽车平均大约有95%的时间都处于停车状态。根据定价的情况，很多人可能根本不会考虑自己买车。

驾驶满载工具和材料的皮卡车的建筑工人可能会想要继续拥有这样一辆卡车，无论它是否是自动驾驶的，但除此之外，还有谁还可能想拥有自己的汽车呢?

总的来说，我们会需要更少的汽车。未来的房屋建筑商是否在建造大多数房子的时候只保留一辆车的车库或根本不要车库?

盲人、老年人和患有无法驾车的疾病的人将有一个更廉价也更方便的选择，使他们有更多的自主权。需要去上驾校和考驾照的青少年也会越来越少。

城市、郊区和道路的设计可能会发生显著变化。在拥挤的地区我们需要更少的停车空间。当我们到达目的地的时候，共享汽车会离开去拉其他人，而在晚些时候，我们会重新叫一辆车回家或去其他地方。如果我们拥有这辆车的话，它也可以去一个不太拥挤的地方停车，然后在我们需要的时候再开回来。

会因为汽车空着去接乘客而导致交通量增加，还是会因为我们不用再花时间寻找停车位而且人们会共享出行而导致交通量减少呢?交通会不会因为软件比人类的驾车技能更高而变得更通畅呢?

自动驾驶汽车可以调整速度和路线，以减少红绿灯的等待时间，或者在某些地区甚至可以完全消除对红绿灯的需求。一些城市规划人员预计交通流量会改善很多，因此有更多的人愿意住在距离工作地点更远的地方，从而进一步扩大郊区的范围。

我们是否需要专门配备传感器和标记的新道路来辅助全自动驾驶汽车呢?建造这样的道路是否会造成太大的开销或负担?这与我们在20世纪从为马匹走的土路到为汽车铺设的柏油路的过渡很相像吗?

有人驾驶的汽车是否会被禁止出入高速公路和主要道路?这是否会造成对我们的自由的不合理限制，还是一种合理的过渡?就好像马匹或自行车禁止在公路上行驶一样。那么，喜欢以开车为乐的人是否必须去专门的场地?就像现在骑马的人一样?

控制自动驾驶汽车的软件必须做出一些重要的伦理决策，例如在碰撞不可避免时应该选择撞谁。例如，假设有一个小孩跑到了路上，汽车知道无法及时停下来以避免撞到他，那么唯一的选择是转去撞墙壁或其他车辆。

对大多数人来讲，在选择要买“Tyft”或“Goober”家的汽车时，是否要询问汽车软件在遇到这些情形之时所采用的标准?那么，到底该采用什么标准?如果事故死亡人数总体可以下降90%，那么与让软件安全驾驶的所有其他方面相比，这个问题有多重要?

如果我们想要让车停到路边拍照，该怎么办?自动驾驶汽车会不会拒绝停放在非正规的停车位上?汽车软件还需要实现哪些其他法律和规定?我们能否选择不遵守这些规定?

你还能想到什么其他问题和影响吗?

02 人工智能

人工智能(Artificial Intelligence，AI)是计算机科学的一个分支，它使计算机能够执行通常(或者习惯上)我们认为需要人类智慧的任务。

这包括玩复杂的策略游戏，例如国际象棋和围棋(相对国际象棋来说要难很多)、语言翻译、基于大量数据做出决策(例如批准贷款申请)，以及理解语音(在这里可能会用响应是否及时作为“理解”的度量手段)。

人工智能还包括由人脑和神经系统自动执行的任务，例如视觉(通过相机和软件来捕获图像并加以解释)。

学习能力是许多人工智能程序的特点，也就是说，程序的输出会随着时间加以改进，因为它会根据对遇到的输入所做的决策结果进行评估来“学习”。

许多人工智能应用都会涉及模式识别，即识别不同物体之间的相似性。这类应用包括阅读手写体(例如，自动整理平板计算机上的邮件和输入)，指纹匹配，以及在照片中识别人脸。

在人工智能发展的早期，研究人员认为针对计算机的难题也是需要人类更高智慧和复杂训练的任务，例如赢得国际象棋比赛和完成复杂的数学证明。

在1997年，IBM公司的国际象棋计算机“深蓝”(Deep Blue)在一次比赛中打败了俄罗斯的著名国际象棋世界冠军加里·卡斯帕罗夫(Garry Kasparov)。

人工智能研究人员意识到知识面较窄的专门技术对于计算机来说比对于五岁小孩来说要容易，这包括识别人、与人交谈、智能地适应环境等。

在2011年，也是IBM公司研发的另一台专门的计算机系统Watson打败了人类的“Jeopardy!”游戏冠军。Watson计算机可以处理语言(包括双关语、比喻等复杂的语言结构)和一般知识。它可以在三秒钟之内搜索和分析两亿个页面的信息。

对于Watson计算机技术的实际应用包括医疗诊断，在数百万个文档中查找与某个案件有关的信息，以及各种不同的商业决策应用。

在2016年，由谷歌母公司Alphabet开发的一个称作AlphaGo的程序，在比赛中打败了围棋世界冠军李世石。

我们下面会简要介绍一些人工智能应用的例子。这些例子在不久之前还是令人震惊的研究进展，但是现在人们已经对它们习以为常，并且将其应用到了许多企业、政府和消费者中。

在德国，有一个人在游泳池中突然心脏病发作，救生员却没有看到他沉入了游泳池底。而水下监控系统通过摄像头和复杂的软件发现了他，并且提醒救生员，从而拯救了他的生命。软件可以从正常游泳、阴影和倒影中识别出遇险的游泳者。这种系统目前已经安装在欧洲和美国的许多大型泳池中。

正如人工智能软件可以区分有麻烦的游泳者和其他游泳者一样，它也可以通过视频监控系统来区分商店中的顾客是否存在可疑行为，从而表明他可能正在进行偷窃或者其他犯罪行为。

在一些国家名胜古迹景点(例如自由女神像)部署的类似系统还可以发现是否有人留下了无人看管的包裹—这有可能就是个炸弹，并提醒保安人员。因此，即使没有持续的人工监测，拥有人工智能技术的视频系统也可以帮助防止犯罪，而不只是在事后查明肇事者。

搜索引擎使用人工智能技术来选择搜索结果，并且即使在人敲错词语的时候，也能够确定用户的真实意图。它们使用上下文来确定多义词的确切含义。(例如，“juno”指的到底是航天器、电影、女神、共享出行服务，还是互联网服务提供商?)

语音识别已经成为数百个应用程序中的常用工具。我们与我们的智能手机对话，手机可以通过人工智能来弄清楚一个问题是什么意思，并找到问题的答案。

手机还可以采用人工智能技术来知道它的主人是否感到无聊。(例如，反复的检查邮件或社交网站就可以作为反映无聊的一个线索。)

教外语的计算机程序如果不能识别用户在说什么，就会以正确的发音来发出指令。

空中交通管制员在模拟指挥塔中进行训练，指挥塔的每个“窗口”实际上都是电脑屏幕。当受训学员跟模拟的飞行员讲话时，计算机系统会做出响应。这种模拟可以在一个安全的环境中进行更加深入的培训。即使学员错误地指示两架飞机同时降落在同一条跑道上，也没有人会因此受到伤害。

人们还会继续辩论人工智能的哲学本质和社会影响。计算机系统拥有智能到底意味着什么?

著名计算机科学家阿兰·图灵(Alan Turing)曾经在计算机还没有出现之前就建立了计算机科学背后的基本概念。他曾经提出一个用于检测计算机是否拥有人类智力水平的测试，现在被称为图灵测试(Turing Test)。

在这个测试中，让一个人(通过网络)与系统进行交谈，谈话的内容可以是人选择的任何主题。如果计算机能够说服对面的人，让他以为它是人类的话，那么该计算机就通过了测试。

这样是否足够呢?许多技术专家都是这样认为的(前提是实际采用的是经过了精心设计的测试)。但是这是否就意味着计算机拥有智能了呢?

哲学家约翰·塞尔(John Searle)认为，计算机不是而且也不可能是智能的。

它们不会思考;它们只会操纵符号，而且操纵符号的速度可以非常快。它们可以存储(或访问)和操纵超大量的数据，但是它们没有意识。它们不会理解，它们只会模拟理解的过程。

塞尔使用下面的例子来说明其中的区别：

假设你不会汉语，把你放到一个放满了装有汉字符号的盒子的屋子里，再给你一本用英语写的很厚的手册。人们会给你提交汉字符号的序列。手册会告诉你如何操纵给你的符号与盒子里的符号，以生成一个新的符号序列，并返回给外面的人。要求你足够细心，不会觉得无聊，而且能够完全遵循手册中的指示。

你并不知道收到的符号序列是汉语写的问题。而你通过查手册(就像执行程序指令的计算机一样)返回给外面人的则是正确的汉语答案。屋子外的人都会以为你的汉语水平很高!

用赛尔的话来讲，他可能会说，虽然Watson计算机的确赢了“Jeopardy!”，但是Watson自己可能都不知道它赢了。

无论我们认为机器是智能的，或者是用比喻的方式使用智能这个词，再或者说机器是在模拟智能，事实是研究人员和各种组织正在以更快的速度推进人工智能来模拟人类智能。

当谷歌的自动驾驶汽车一开始上路的时候，它们是异常小心的，经常会踩刹车，而且即使因为路边停了两排车把路堵上，它们也不会选择跨越黄线逆行。后来，谷歌公司重新进行了编程，使得汽车驾驶起来更像人类，在有必要的时候也会选择打破规则。

17世纪和18世纪的计算器的目标并不雄伟：只是为了自动化完成基本的算术运算。看到一台没有思想的机器可以执行与人类智力有关的任务，会让许多人感到不安。

几个世纪后，加里·卡斯帕罗夫输给了一个计算机国际象棋程序，这使得人们在很多文章中对人类智慧的价值(或者价值的丧失)表示担忧。

Watson带来了更多的恐慌。到目前为止，似乎每个新的人工智能突破都会在起初引起疑虑和恐惧。但是用不了几年，人们就会习以为常。

当“Jeopardy!”变得如此简单，每个人都可以做得很好的时候，我们会作何反应呢?当走进一家医院，所有手术都是完全由机器来完成的时候，我们会作何反应呢?这难道会比坐在第一架自动电梯或者飞机中更加令人恐惧吗?当我们可以在网络上发起关于任何话题的对话，而不用知道与我们交谈的到底是人还是机器的时候，我们会作何反应呢?当大脑中植入的芯片可以把我们的记忆提高到数十亿字节的数据量，并且拥有搜索引擎的功能时，我们又会作何反应呢?这时候我们还算是人类吗?

03 机器人

机器人是一种机械设备，用来执行传统上由人类完成的体力活，或者我们认为像是人类活动的任务。机器人系统在工厂里负责组装产品已经有几十年的历史了。与人相比，它们的工作速度更快且更加准确。

如今，绝大多数机器人设备都是由拥有人工智能的计算机软件来控制的。

在牛奶厂里，机器人挤奶设备可以为成千上万的奶牛挤奶，而奶农们则可以去睡觉或者干别的杂事。

快餐食品店使用机器人食品准备系统，以降低成本和加快服务速度。

一个连接到病人数据库上的机器人药剂师设备，可以通过读取条形码从药房货架上选取适当的药品，检查药品之间的相互作用，并处理账单。

这种机器人的主要目标之一是减少人为错误。在医院里，机器人会负责配送药品，它们能绕过障碍，并且会通过无线信号来“按”电梯按钮。利用3D显示器和操纵杆来控制机器人设备，医生就可以从控制台完成复杂和精细的手术;同时软件可以过滤掉医生不稳定的动作。

机器人可以在对人类来说有危险的环境中工作，例如：

检查海底建筑物或通信电缆。在由于爆炸或地震倒塌的建筑物中寻找幸存者。探索火山或其他星球。处理核废物或其他有害废物。

曾经有几年的时间里，索尼公司出售一种机器宠物狗“爱波”(Aibo)。它会(通过提供视觉的摄像系统)走路，能够响应命令，而且会学习。还有几家公司制造了有点接近人的形状的机器人，它们会上下楼梯、跳舞，并且能通过面部表情来传达情感。

然而，正如通用智能对人工智能来说是一个难题一样，通用动作和功能对于机器人来说也是一个难题。绝大多数机器人设备都是只拥有一组有限操作的专用设备，不同的公司和研究人员正在开发可以做出智能行动并且执行各种不同操作的机器人。

机器人(不管长得像狗还是像人)可以作为老年人和无子女伴侣的同伴和助手。与机器建立感情连接到底是非人性化的，还是对单独生活或者是生活在养老院里但工作人员无法提供经常陪伴的人们的生活质量的一种提升呢?

如果知道了奶奶有一个机器人伴侣，是否会减轻家庭成员的罪恶感，并导致他们不经常去看望老人呢?我们会慢慢把机器人同伴作为宠物一样热情地对待吗?

可能对于机器人和人工智能系统最大的担心还是来自它们可能会消灭大量的工作岗位，从而导致很多人失业和贫穷。另外，还有人担心随着人工智能的进步，机器人变得更加聪明之后，它们会反过来消灭人类。

关于作者：

Sara Baase，圣地亚哥州立大学计算机科学系荣誉教授，在计算机科学专业拥有近30年的从教经验。她曾三次获得圣地亚哥州立大学校友会颁发的杰出教师奖，编写过多部算法、汇编语言、计算机伦理方面的教材。

Timothy M.Henry，现任新英格兰理工学院IT研究生主任，在计算机伦理、程序设计、网络安全和项目管理等方面有超过15年的教学经验。

本文摘编自《IT之火：计算机技术与社会、法律和伦理》（原书第5版），经出版方授权发布。