AI要立规矩？沈向洋：善恶之心在人类 价值观是关键

沈向洋

　　原标题 人工智能要立规矩？沈向洋：善恶之心在人类，价值观是关键

　　记者 王心馨

　　“计算机本身并无善恶之念，善恶之心在于人类，在于人工智能系统的设计者。” 9月18日，微软全球执行副总裁沈向洋在2018世界人工智能大会的分论坛上表示。

　　近年来，人工智能产业和技术创新高速发展，已经渗透到社会的各个行业。但同时，人工智能技术的大规模应用，也带来许多争议和潜在的危机。2018年无人驾驶在全球陆续发生多起交通事故；今年5月，号称“全球最严”数据保护条例的欧盟GDPR也正式生效，将数据隐私问题重新带回舆论焦点。

　　在享受人工智能带来的好处同时，如何才能最好地确保人工智能的安全、可靠？随着机器越来越聪明，越来越强大，如何避免失去对机器的控制？ 这已成为一个严峻的社会议题，值得每一个公民去探索和思考。

　　在今日的大会的一场分论坛上，微软全球执行副总裁、微软人工智能及微软研究事业部负责人沈向洋与卡耐基梅隆大学教授、1994年图灵奖得主Raj Reddy在开启一场尖峰对话，人工智能的伦理角色成为对话焦点之一。

　　向左走，向右走？Al伦理尚处早期学习阶段

　　目前，自动驾驶技术无疑是人工智能领域最热门的研究方向之一。Raj Reddy在对话中提到，按照目前的预测和统计数字，如果人工智能汽车能全面取代现在的人为驾驶汽车，交通事故的发生几率将下降92%-93%，因为一旦出现事故，人的大脑无法及时做出反应，而自动驾驶则可以自动切换到任何事故的反应，不会做出错误的判断，造成事故的升级。

　　但正是这种自动反应模式带来了一定情况下的道德困境。假设汽车在自动驾驶的状态下遇到突发状况，汽车不得不选择向左或右行驶，而向左行驶会撞伤一个老人，向右行驶则会撞伤一个孩子，那么此刻自动驾驶系统该如何做出选择呢？

向左，还是向右？ 图片来自微软

　　事实上，目前还没有一个具体的法规或者规定能够准确地告诉AI工程师该如何抉择。沈向洋在此前采访中曾表示， 对于这些AI伦理问题，人类还处于学习的初期阶段。他认为，以后做任何产品，发布之前，都应该有一个AI伦理委员会——就像现有的安全委员会或隐私委员会一样，审核一些人们平时不会去想，但确实可能会遭遇的事情。

　　不久前沈向洋联合微软公司总裁施博德（Brad Smith）先生共同编著的《计算未来：人工智能及其社会角色》一书，就谈及了人工智能发展将面临的种种社会伦理挑战。书中提到，微软为了解决人工智能开发过程中涉及到的伦理和社会问题，设立了开发和研究人工智能与道德标准（AETHER）委员会，并从负责任的企业的角度提出了开发人工智能的六项基本原则——公平、可靠和安全、隐私与保障、包容、透明和负责，全面指导微软人工智能产品和解决方案的开发和部署。

微软提出人工智能开发的六大原则 图片来自微软

　　AI未来发展：数据越多，隐私保护越关键

　　年初数千万Facebook用户数据泄露从而影响美国总统选举结果的新闻曾掀起轩然大波，而国内大数据杀熟的曝光也引发消费者不满，数字社会的数据隐私保护和技术伦理问题备受关注。

　　沈向洋认为，数据的隐私保护对于人工智能的未来发展至关重要。沈向洋在对话中提到：“微软研究院有一个领域做得非常好，那就是安全的、私人的AI。因为今天我们收集越来越多的数据，所以需要非常谨慎地决定到底谁拥有数据，谁有权使用数据，这些数据可能来自不同的机构。所以我们需要一方面要保证数据是安全的，第二方面要利用这些数据进行计算，这对于我们推动AI未来的工作都至关重要。”

　　沈向洋此前采访中也曾透露目前美国在利用隐私数据进行人工智能研究上有了比较大的进展，而这一进展对于企业非常重要。因为如果不能解决数据加密和隐私保护的问题，企业无法获得数据，人工智能的发展也就成为无源之水。

　　AI加速发展，人工智能立法或提上日程？

　　在本次“2018世界人工智能大会”上，沈向洋特意强调“我们应该建议政府监管更加严格。为了更好鼓励AI的发展，一方面我们要看到它的巨大潜力，另一方面也要看到它对社会的影响。政府必须帮我们建立起更加好的规范，这对人工智能的发展至关重要。”

　　随着人工智能的继续发展， “人工智能法”似乎不可避免地成为了一个重大和全新的法律课题。但是，具体的时间框架如何？该领域又应当以何种方式发展和演变？

　　沈向洋认为，为了最大限度地发挥人工智能的优势，同时减少风险，尽量避免意外后果， 未来需要推动政府、企业、非政府组织和民间社团代表、学术研究人员和所有其他利害相关的个人和组织的全面协作，在公共政策和法律法规等方面为人工智能发展提供更好的保障。