主页（http://www.cnwulian.net）：二十一世纪计算丨Butler Lampson：计算机技术需要什么样的公共政
二十一世纪计算丨Butler Lampson：计算机技术需要什么样的公共政策？
2018-12-07 17:38 来源:微软亚洲研究院 汽车 /区块链 /物联网
原标题：二十一世纪计算丨Butler Lampson：计算机技术需要什么样的公共政策？
编者按：在微软亚洲研究院主办的第二十届“二十一世纪的计算”大会暨微软教育峰会上，1992 年图灵奖得主、微软新英格兰研究院技术院士Butler Lampson与我们分享了在计算机科学技术飞速发展并产生越来越大的社会影响力的今天，我们需要什么样的相关公共政策，来保证技术使用者的人身安全与信息安全。
Butler Lampson在“二十一世纪的计算”大会暨微软教育峰会上的演讲视频
随着计算机在社会中的广泛应用，我认为我们需要更多地思考计算机科学技术如何与社会规范和社会进程同步发展。虽然对社会规范来说，不同地区会根据不同的社会现象与文化背景做出不同的选择，但我们能做的是，用技术为合理的社会规范提供一些通用的解决方案。在这次的演讲中，我将通过三个例子来进行解释：一是物联网设备的安全；二是在线个人数据的隐私保护；三是区块链的浪潮。
失控的物联网设备
物联网安全虽然目前还不是一个特别严重的问题，但随着物联网设备在人们的生活中越来越普及，在不久的将来，无论是因为设备本身的故障，还是因黑客攻击造成的设备失灵，这些问题都将可能威胁使用者的生命，比如失控的红绿灯、煤气炉、无人驾驶汽车等等。此外，如果设备制造商雇佣不到一流的程序员，无法造出符合安全标准的产品，也将导致更多事故发生。
我认为安全的物联网设备必须具有两个条件：安全的基础以及正确的架构。
安全基础包括安全升级、可靠的云连接、以及保证涉及安全的核心代码的独立性。我们必须通过安全升级修复漏洞，并通过连接稳定的云系统、可准确辨识的设备，让设备在出现问题时能被准确追踪。现存的CPU和操作系统过于复杂，我们需要有更好的硬件与软件以满足物联网安全的需求。目前新一代的物联网硬件已经开始涌现出来，微软在这方面贡献的一种解决方案：专为物联网应用打造的操作系统Azure Sphere及相应的硬件支持。
我们知道好的计算机系统追求简单，因此不仅要让涉及安全的核心代码成为独立的部分，还要尽量“小而美”。这就意味着规范、硬件、软件都要尽量简化，但我们都知道，这对庞大的物联网系统来说是极其困难的，因为其中可能包含机器学习、计算机视觉、语音识别等多方面的技术。那么如何让系统简单、可以理解的同时又保证安全呢？我的方案是通过一个简单的监控器来监控所有与安全有关的输出。这个监控器要同时满足四个条件：一是安全性；二是它是独立的一个模块；三是要专门负责安全任务的输出；四是依靠简单来保证安全，要经过充分测试和形式验证。当监控发现违反安全的行为被触发后，可以转为手动操作。
举一个例子，十字路口的红绿灯系统非常复杂，它可以通过计算机视觉检测车辆和行人，可以通过机器学习掌握以往的历史数据来预测未来车流，也可以和其它路口的红绿灯协同疏导和控制交通。想要让这样一个复杂系统没有bug是非常困难的。但是从安全角度来说，监视器只需要保证一个路口最多只有一个方向的绿灯是亮着的，并且红灯转为绿灯中间必须有一段不短于5秒的黄灯。这个条件非常简单直观，并且容易验证。虽然这样的条件不能保证红绿灯系统有最高的效率，但已经可以保证它的安全性了。当然，并不是所有的物联网设备都能找到这样简单的监控规则，比如我不知道应该怎样简单定义自动驾驶汽车的安全性。但无论如何，让系统足够简单是我唯一知道能保证可靠性的方法。
当然，监视器是额外的设备，需要额外的研发，这对制造商来说昂贵而耗时。但我们依然应该综合上述标准去生产物联网设备，因为这是性命攸关的一项任务，一旦有威胁生命的事故发生，企业就要接受问责，政府也会着手管理。但政府的管理必须在加强监管的同时也要防止阻碍创新，所以政府应该设定一些简单而易于检验的规则，而不是一刀切阻止物联网设备的使用。所以我认为基于安全基础和独立的监控器架构生产物联网设备是切实可行的。
掌握自己的网络数据
人们都希望能将网络数据掌握在自己手中，不仅知道谁拥有你的个人数据，更可以限制他们对这些数据的使用，这就需要通过制定规则来妥善管理数据。然而，目前没有任何一种技术手段能够确保我们对个人数据的控制，因为世界上不同地区的文化与政策存在很大不同，也不可能有全球适用的数据管理统一规定。但尽管如此，技术上的统一性仍然可以满足差异化的地区规定。
互联网时代个人数据的两个特性给我们带来了不安。在互联网上，个人数据会在时间和空间两个维度上广泛传播，具有持续性，每一个人都能看到并轻松复制你的个人数据；此外，网络数据很容易通过搜索获得，因此每个人几乎没有隐私可言，想要真正匿名是非常困难的。除了虚拟世界中产生的数据外，与人们现实生活有关的个人数据安全也越来越重要，比如照片、视频、车牌号、个人定位等等。
也许你会幻想一个极其理想的场景：你把关于自己的所有数据储存在一个数字保险柜里，在别人向你发起请求时，你可以有选择地回复信息。不过这显然是天方夜谭，这样做不仅成本高、效率低，而且你依旧不知道别人拿到你的个人信息后会如何利用，对于整个社会而言，这一方式也将阻碍以学术研究和公共利益为目的的数据收集。
我认为可行的做法是以数据为中心的个人数据管理。没有中央数据库，数据管理者会为个人数据做以下标记：数字ID，以及对用户的个人隐私政策的一个链接。这个标记会始终与用户的个人数据捆绑着一并存在，并始终随着用户个人数据的变化而变化。
