新冠肺炎疫情在全球范围内暴发之后，众多科技企业都在遭遇一场重创。

谷歌公司宣布作废6月之前预期举行的所有线下流动；苹果公司关闭了大中华区之外的所有直营店，原定于3月尾举行的春季新品宣布会或将作废。纵然凭据最乐观的估量，在疫情的影响下，全球科技行业的希望至少会推迟半年到一年。

挑战之下也有时机并存。《人类简史》的作者尤瓦尔・赫拉利克日在接受多家媒体采访时示意，只管新冠肺炎、艾滋病、埃博拉病毒已经夺走了无数人的生命，但21世纪流行病导致的殒命在总人口所占比例，比石器时代以来的任何时刻都低。

由于人类科技的提高，对疫情的领会更多，应对疫情的设施也更多。在全球配合抵制疫情流传的过程中，科技信息的共享尤为要害。赫拉利的看法，似乎与不少科技巨头不约而同。

在已往的两个月时代，中国互联网企业已率先为偕行做出了树模。而从 3月以来，苹果、微软、谷歌等国际互联网企业已经在运用大数据、信息追踪等手艺手段协助各国政府控制疫情的生长。另一方面，Facebook等社交平台也在停止疫情时代的虚伪广告，袭击“污名化”与歧视言论。

在这场疫情战中，科技为人类带来的优势已毋需多言。但随科技而来的种种风险又若何规避呢？大数据的运用、人工智能的探索对隐私平安、网络犯罪、社交伦理造成了史无前例的打击。科技的工具属性弱化的同时，是否可能酿成攻击人类的危险武器呢？

科技的开发者与治理者若何思索和应对，对于我们明白这一系列的棘手问题也许有更为直观的辅助。下文摘编自《工具，照样武器？》，在这本书中，微软总裁兼首席法务官布拉德・史密斯（Brad Smith）与卡罗尔・安・布朗（Carol Ann Browne）配合就数字化时代下的网络平安、小我私家隐私和环境可连续性等问题提出了自己的看法。作者和他们率领的团队在实践中的探索，对于科技行业甚至每一位普通人都有着借鉴和启示意义。

原文作者 | [美]布拉德・史密斯、卡罗尔・安・布朗

《工具，照样武器》（美）布拉德・史密斯、卡罗尔・安・布朗著，杨静娴、赵磊译，中信出书整体2020年2月版

1

很多人已经习惯了人脸识别

而不是用密码解锁

2002年6月，史蒂文・斯皮尔伯格执导的新片《少数派讲述》首映。这部影戏是凭据科幻小说作家菲利普・迪克1956年的著名短篇小说改编的，以2054年已祛除了犯罪的华盛顿特区为靠山，由汤姆・克鲁斯主演。剧中，汤姆・克鲁斯饰演精英警员部门“预防犯罪小组”的一位主管，这个小组的职责是在凶手实行犯罪前逮捕他们。该小组有权凭据三位“先知”所看到的意象实行逮捕，由于这三小我私家拥有洞悉未来的超自然能力。然则很快，“先知”展望克鲁斯自己将犯下行刺罪行，因此他不得不最先逃亡，逃避自己部门的追捕―在一个所有人和所有行为都受到追踪的都市里。

《少数派讲述》（2002）剧照。

15年之后再回头看这部影片，值得庆幸的是，这种执法方式看似有些牵强。不外今天，《少数派讲述》中的一个场景似乎远远早于2054年就已经成为现实。影片中，克鲁斯在逃亡时走进了一家盖普店。这家零售商拥有一项手艺，可以识别每一位进店的主顾，并会立刻最先在一个显示屏上展示它以为主顾会喜欢的衣服图像。有些人可能以为这个服务很有吸引力，但其他人可能会以为它们很烦人甚至令人毛骨悚然。简而言之，进入一家这样的商铺，就好比我们有时刻浏览完网络后再去看社交媒体信息，却发现上面有我们刚刚在网页上浏览之物的广告。

在《少数派讲述》中，斯皮尔伯格希望观众思索，科技若何既能被行使也能被滥用――科技可被用来在犯罪现实发生前消除犯罪，可一旦出了问题，它也可能被滥用来侵略人权。在盖普商铺里识别克鲁斯的手艺是依赖于嵌入他体内的一块芯片。在21世纪的前20年，现实天下的手艺提高甚至已经跨越斯皮尔伯格的想象，由于今天已经不需要这样的芯片。人脸识别手艺行使基于人工智能的盘算机视觉与相机，辅以云数据，可以识别进入商铺的主顾面貌，无论他们是上周照样一小时前曾经来过。这项手艺正在为科技行业和政府缔造一个先手机遇，若何用一种重点突出而又切实详细的方式来处置人工智能的道德和人权问题，而它们能否捉住这个机遇，就要看它们怎样决议来羁系人脸识别手艺了。

对于大多数人来说，最初简朴场景的应用，如编目和搜索照片，现在已经变得日益庞大。很多人已经习惯了依赖人脸识别，而不是用密码，来解锁iPhone或Windows笔记本电脑。其应用不会仅止于此。

《越狱》第五季 （2017）里的人脸识别模拟。

2

面部和指纹一样怪异

现在，一台电脑已经可以完成我们险些所有人从一出生就能做的事――识别人们的脸。对我们大多数人来说，这在一最先是能够认出妈妈的能力。养育孩子的兴趣之一，就是在进入家门的时刻看到蹒跚学步的孩子激动地向你扑来。这种会一直连续到青少年时期的反映有赖于人类天生的人脸识别能力。虽然这是我们一样平常生涯的基础，但我们险些从不停下来思索是什么使它成为可能。

事实证明，我们的脸和指纹一样怪异。我们的面部特征包罗瞳孔之间的距离、鼻子的巨细、微笑的样子和下巴的轮廓。盘算机可使用照片来绘制这些特征并将它们编织在一起，并以此为基础确立一个数学方程，这些数学方程可以通过算法来访问。

人们正在把这项手艺应用到天下各地，以便改善人们的生涯。在某些情形下，这样做是为了利便消费者。澳大利亚国民银行正在行使微软的人脸识别手艺开发一种服务，可以让主顾走到ATM前，无须银行卡即可平安取款。这些ATM可以识别主顾的面貌，然后他们就可以输入取款密码并完成买卖。

在其他场景中，这种手艺可带来更大的利益。在华盛顿特区，美国国家人类基因组研究所正在行使人脸识别手艺辅助医生诊断一种被称为DiGeorge综合征（DGS）或22q11.2缺失综合征的疾病。这是一种多发于非洲、亚洲或拉丁美洲人口的疾病。它会导致种种严重的康健问题，包罗心脏和肾脏的损伤。患有这种病的人也经常带有特定的面部特征，这些特征可以通过电脑使用人脸识别系统加以识别，从而辅助医生诊断出需要辅助的病人。

这些场景说明晰一些主要和详细的方式，以便使人脸识别可以用于造福社会。这是21世纪的新工具。

种种可以用于监控的电子设备。

然而，和许多其他工具一样，它也可以酿成危险的武器。人脸识别很容易与更普遍社会问题交织在一起，并提出了一个至关主要的问题：我们希望这种形式的人工智能在我们的社会中施展什么作用？

2018年夏,弗吉尼亚州一位自称“自由软件修补者”的人在推特上宣布了一系列关于微软与美国移民与海关执法局（ICE），签订条约的新闻，这些新闻源于昔时1月微软在公司官方营销博客上宣布的一篇文章。坦率地说，公司里的每小我私家都已经忘记了那篇博文。不外，那篇文章示意，微软向ICE提供的手艺已经通过了极高的平安门槛，将被ICE部署。文章还示意，微软公司对于能够支持该部门的事情而深感自豪，而且另有一句话提到了ICE使用人脸识别手艺的潜力。

2018年6月，特朗普政府决议在美国南部墨西哥疆域把非法入境者的孩子与家人离开，这迅速成为一个爆炸性问题。公司几个月前揭晓的一份营销稿现在看来已大不相同，而人脸识别手艺的用途看起来也完全差别。人们忧郁ICE和其他移民机关可能会把像人脸识别这样的手艺应用到事情中。这是否意味着，当移民在都市街道上行走时，连接到云端的摄像机可以用来识别他们的身份？这是否意味着，鉴于这项手艺的现状，以及它可能发生误差的风险，它可能会错误辨识某小我私家并导致其被错误拘留？这只是许多问题中的两个。

凭据老例，我们首先要弄清楚公司与ICE的条约到底包罗了什么。

经由深入调查，我们发现这份条约基本没有被用在人脸识别上。谢天谢地，微软也没有介入任何在疆域线上将孩子与其家人离开的项目。相反，这份条约其实是辅助ICE将其电子邮件、日历、新闻和文档治理事情转移到云端。这与我们在美国和天下各地与客户（包罗其他政府机构）互助的项目类似。

只管云云，这件事仍然发生了一个新的争议。

3

责任底线

有些人正在尽力宣扬科技公司应该接纳自动行动，对于我们否决的政府政策，终止为政府机构提供所有服务。科技现已成为我们生涯中一个要害的基础设施，若是不能实时更新手艺――或者更糟的是，简朴做出终止手艺服务的决议――可能带来种种意想不到的效果。正如萨提亚在我们的内部谈话中多次指出的那样，政府正在以电子邮件为工具辅助非法移民家庭团圆。若是我们把邮件系统关掉，谁知道会发生什么。

这让我们得出结论，抵制美国政府机构是错误的做法。但主张接纳这种行动的人，包罗我们自己的一些员工，提出了一些准确的问题。例如，人脸识别手艺带来的挑战需要受到更多关注。

经由深图远虑，我们得出结论，这项新手艺应该受到新的执法律例约束。这是珍爱民众隐私需求，化解私见和歧视风险，同时使创新得以继续的唯一途径。

这一点凸显了在公共平安与人权由来已久的矛盾之间的艰难权衡。它还表明晰许多有关人工智能的新型伦理道德决议的主观性子。固然，我们同样忧郁，正如那位团队向导和其他人所指出的那样，若是我们拒绝提供这项服务，可能会有其他公司浑水摸鱼。在这种情形下，我们不仅会丢掉生意，还不得不在其他人辅助将手艺用于我们所否决的有害目的时只能作壁上观。不外，我们权衡了所有这些因素，最终得出结论，我们需要实验给这种新手艺的生长奠基某种类型的道德基础。这样做的唯一设施就是拒绝将其用于某些用途，并推动更普遍的民众讨论。

这种原则性的方式在加州内陆的一个警员部门联系我们时经受了磨练，他们示意，他们想为自己的所有车载和手持摄像机配备一种能力，使其可以拍摄被拦下的人的照片，甚至包罗例行检查时被拦下的人，并查看他们是否与其他罪行的嫌疑人数据库相匹配。我们明白他们的逻辑，但向他们建议，由于人脸识别手艺仍然不成熟，因而无法在这种情形下部署。至少在2018年，云云使用这一手艺将导致过多的错误匹配，并针对被错误识别的人发出警报，特别是若是他们是有色人群或女性，由于针对这两类人群的错误率仍然较高。我们拒绝了这项买卖，并说服了警员部门放弃将人脸识别用于这一目的。

这些履历提供了一些启发，辅助我们思索可以应用于人脸识别的原则。但我们忧郁，若是我们走上这条伦理大道，但被那些基本没有实行任何提防或限制措施的公司削弱，无论这些公司是在西雅图的另一侧，照样在太平洋的另一侧，则我们的做法都不会发生什么现实影响。与许多基于人工智能的手艺一样，人脸识别也会随着大量的数据积累而改善。这就使公司拥有动力尽可能多地举行早期买卖，从而导致商业竞争的风险，而科技公司将被迫在社会责任和市场乐成之间做出选择。

英国Channel 4与美国NetFlix公司出品的《黑镜・第三季》（2016）构想了一个盘算、排位小我私家评分的天下。分数决议了他们能够过上怎样的生涯。

防止这种恶性竞争的唯一设施是确立一个支持康健市场竞争的责任底线，而一个坚实的底线基础要求我们确保这项手艺以及开发和使用它的组织受到法治的约束。

我们从以往针对其他手艺所实行的羁系中汲取了履历。在许多市场中，兼顾各方利益的平衡羁系方式为消费者和生产者双方缔造了更康健的动态关系。在20世纪，汽车工业曾花了几十年的时间来抵制羁系要求，但今天，人们普遍认识到，执法在确保强制安装平安带和气囊，以及更高的燃油效率方面施展了主要作用。同样的情形也适用于航空平安以及食物和药品治理。

固然，谈论羁系的必要性是一回事，而界定什么样的羁系最为合理则是另一回事。2018年7月，我们宣布了一个我们以为需要思量的问题清单，并就可能的谜底征求人们的意见。讨论首先在员工和手艺专家中睁开，但很快扩展到天下和天下各地，包罗美国公民自由同盟这样努力介入这个问题讨论的公民自由组织。

我们不再像大多数科技公司那样，坚守抵制政府干预的传统。我们以前举行过那样的抗争。相反，我们已经认可并支持我们心目中更努力但更平衡的羁系方式。这也是我们早在2005年就呼吁美国联邦隐私珍爱立法的缘故原由之一。我们以为，无论是对科技行业照样对社会，这种做法从普遍意义上来说都比完全依赖科技行业自行解决一切问题的做法要好得多。

4

行动之前：我们能做什么？

在更迅速地最先行动之余，深图远虑并确保迈出准确的前几步也很主要。在这一点上，我们信赖我们拥有一系列想法来应对人脸识别手艺。我在华盛顿特区的布鲁金斯学会宣布了我们对新立法的主张，并公然揭晓了我们提案的更多细节。然后，我们最先巡回推广这一主张，在接下来的6个月里，我们在美国和天下其他8个国家的公共流动和立法听证会上对它举行了推介。

《排除密友2：暗网》（2018）剧照。

我们以为，立法可以解决三个要害问题，即私见风险、隐私和对民主自由的珍爱。我们信赖，一个运作优越的市场有助于更快地削减私见。我们遇到的客户都没有兴趣购置错误率高，并导致歧视的人脸识别服务。但若是客户缺乏信息，市场就无法正常运转。

为了辅助削减歧视风险，我们以为新的执法还应该要求，部署了人脸识别的组织首先应培训员工审查效果，然后再做出要害决议，而不是简朴地把决议权交给电脑。除此以外，我们忧郁，若是一个组织在部署人脸识别时并未凭据该手艺设计时预期的方式，发生误差的风险可能会加剧。训练有素的职员则有助于解决这个问题。

在某种程度上，一个更棘手的问题是，什么时刻应该允许执法部门使用人脸识别手艺针对特定小我私家举行连续的监视。

民主始终取决于人们相互碰头和攀谈，并在私下和公然场合讨论自己看法的能力。这有赖于人们能够在没有政府连续监控的情形下自由行动。

人脸识别手艺的许多政府用途是用于珍爱公共平安和促进更好的民众服务，并不会引起上述忧郁。然则，若是将无处不在的摄像头、伟大的盘算能力和云端存储结合起来，政府可以使用人脸识别手艺来连续监视特定的人。它可以在任何时刻做到这一点，甚至可以连续这样做。而以这种方式使用这项手艺则可能会导致规模空前的大规模监视。

因此我们以为，执法只有在下列情形下才可以允许执法机构使用人脸识别来对特定的人举行连续监视，即执法机构已经获得了法庭下令（如对这种监视的搜查令），或是在紧要情形下，如人类生命面临迫在眉睫的危险。这将为人脸识别服务建立规则，这些规则与美国现在通过手机天生的GPS位置跟踪小我私家的规则类似。正如美国最高法院在2018年做出的裁决，若是没有搜查令，警方将不能要求显示手机地址的手机纪录，因此无法获得某人的现实行动轨迹。正如我们所说：“我们的面貌是否应该获得和手机一致的珍爱？在我们看来，谜底固然是响亮的‘是’。”

新京报漫画/陈冬

最后，显而易见的是，人脸识别的羁系也应该珍爱商业环境下的消费者隐私。我们正迅速进入一个时代，在这个时代，每家商铺都可以安装摄像头，通过实时人脸识别服务连接到云端。从你走进购物中心的那一刻起，无论你走到那里，都有可能不仅被摄影，而且被电脑识别。购物中心的老板可以把这些信息分享给每一家商铺。有了这些数据，雇主可以领会你上次进店的时间以及你看了什么或买了什么，通过与其他商铺共享这些数据，他们可以展望你下一步计划买什么。

我们的看法并不是说新的执法应该克制所有这些手艺。相反，我们是致力于辅助商铺负责任地使用新手艺改善购物体验的公司之一。我们信赖许多消费者会迎接由此带来的客户服务。但我们同样以为，人们有权知道什么时刻使用了人脸识别，提出问题，并有真正的选择。

我们建议，新的执法应要求使用人脸识别的组织宣布“醒目的通知”，以利便人们知晓这项服务。我们还呼吁制订新的律例，以决议人们在这种情形下可在何时以及以何种方式举行有意义的控制和赞成。后一个问题显然需要在未来几年中开展更多的事情，从而确定适当的执法方式，特别是在隐私执法不如欧洲健全的美国。

创意图片/新京报记者 王远征

另一个有辅助的点是思量新执法的适用范围。在某些方面，我们并不需要激励普天之下都通过立法。例如，若是一个主要的州或国家要求公司为民众和学术测试提供人脸识别服务，那么这个决议将会被宣布并普遍散播，从而起到引领作用。基于这一信心，我们激励美国各州的立法者在2019年头在天下各地准备召开会议时都划分思量新的立法。

但在消费者隐私珍爱和对民主自由的珍爱方面，所有司法管辖区都需要新的执法。我们认识到，鉴于天下各国政府的差别看法，这一点可能并不现实。因此，仅仅呼吁政府接纳行动是远远不够的。就算美国政府行动起来了，外面另有一个更大的天下。人们永远无法信赖天下各国政府都市以相符人权珍爱的方式使用这项手艺。

政府主导的需要并不能免去科技公司自身的道德责任。人脸识别手艺的生长和使用应该与普遍秉持的社会价值观相一致。我们宣布了与我们的立法建议相呼应的六大准则，并将其应用到我们的人脸识别手艺中，我们还建立了实行这些原则的系统和工具。其他科技公司和提倡整体也最先接纳类似的做法。

人脸识别问题让我们得以望见人工智能的其他伦理道德挑战有可能发生怎样的演变。正如我们所做的那样，我们可以先制订普遍适用的原则，随后在人工智能手艺的详细应用和特定场景中对这些原则举行测试。这种方式也适用于具有潜在争议的人工智能应用更可能泛起之时。

更多的问题一定会泛起。而且与人脸识别一样，在遇到每个问题时，都需要针对该项手艺可能应用的方式划分开展大量仔细的事情。要解决许多这样的问题，最终将需要新的羁系政策与科技公司自动的自我羁系相结合。在面临许多这样的问题时，差别国家和文化也会存在差别的看法。我们需要生长一种更强的能力，使各国能够更迅速、更协作地接纳行动，在经常性的基础上应对这些问题。这是我们能够确保机械将永远由人控制的必由之路。

作者 | [美]布拉德・史密斯、卡罗尔・安・布朗

整合 | 李永博

编辑 | 西西

校对 | 陈荻雁

种种可以用于监控的电子设备。