谁在害怕人工智能：AI带给人类的三大挑战

leon0880

“当我看到柯洁在围棋比赛中负于机器时痛哭的画面，感到些许悲哀。作为世界顶级的围棋选手，他却被机器人击败了，并且在赛后说‘我回去让机器复盘检查错在哪里’。过去他只需自己复盘，而现在，机器会立即指出他的错误。这说明，机器与人力已不处于同一段位了，在机器面前，人类如同孩童一般。机器教给人类最初级的下法，而其本身的下法人类已不可理解。”

“其他行业也面临同样的问题。如果机器学会作诗作曲，做出我们普遍喜欢的产品，那人类的生活就将完全改变。可以想象那个时代，杜甫将是极少数学院派研究的对象，因为机器已经影响了我们对音乐、美术、戏剧表演的喜好，我们会喜欢机器让我们喜欢的产品。”冯象对人工智能深刻改变人类生活的分析引发了现场观众的深思。

世界排名第一的围棋棋手柯洁对战“阿尔法狗”

“我是阿尔法，机器人说，我是人工智能（AI）。人哪，你们准备好没有？”冯象在2018年出版的《我是阿尔法——论法和人工智能》中写道。曾经看上去属于未来、属于科幻的人工智能已经深度地介入到我们的生活，带来了严峻且不可避免的挑战，未来已经来到，一切皆有可能。

4月20日，在文汇讲堂暨华东师大第五届思勉人文思想节期间，主办方邀请清华大学梅汝璈法学讲席教授、哈佛文学博士、耶鲁法学博士冯象举办了一场“谁害怕人工智能”的讲座，冯象从法律的角度切入，分析了人工智能的现在与未来。

“我”的隐私将变成“他们”的财产

传感器、刷脸支付、大数据......随着人工智能的发展，人们的个人隐私变得无处可隐、无法可隐，这也成为人工智能带来的首要挑战。机器智能如此普遍，以至于每个人的行为、习惯、喜好和信用表现等被忠实地记录着，在这背后涉及的法律问题就是个人的隐私权。

隐私权是一项非常重要的法律权利，在美国，隐私权被确立为宪法上的基本权利，而中国正在编纂的统一《民法典》也将隐私权视为一项重要的民事权利。在如今的现实中，个人隐私权却正在消失，而且由于机器智能的便利性，使得对其的维护也相当困难。“我们为什么需要隐私？我的客户很乐意把隐私交给我们，因为我们的服务能给他们带来不可抗拒的便利。”冯象引用了脸书（Facebook）创始人马克·扎克伯格（Mark Zuckerberg）的言论来说明这种困难性。

与知识产权禁止他人随意复制或使用相反，人工智能的商业模式是用便利的产品和服务，去换取开放的、免费的个人信息。商业模式的本质基础是对价交易，而我们与各种app签订的协议使得我们付出的对价就是个人信息。个人数据被企业获取，用于建立数据库，再转卖给第三方或者用于其他用途，例如开发新产品等等，被称为“数字利维坦”（意指其利用数据进行独裁统治）的脸书层出不穷的数据丑闻就是一个明显的例证。

在信息时代，数据成为一种重要资源，其所蕴含的巨大价值令业界希望将其财产化，数据的财产化将使得少数企业获得难以估量的财富。虽然现在还没有对数据财产化进行立法，但它在事实上已经是财产了，因为它是个人与网络平台交易的标的物。但冯象对此提出了一系列的质问：“试想，若将数据财产化，那数据的原始主人是谁？难道不是我们每一个人吗？难道数据不是我们的财产吗？若是这样思考，脸书就无法运营了，因为它需要与几亿人签订合同。”

不得不接受的“硬规则”

人工智能带来的第二大挑战，是将我们原有的社会规则体系转变成“硬规则”体系。“中国的马路中间通常都设有一排铁栅栏，用于分隔两个车道，它强迫车辆必须在它自己的那条车道里行驶，不得越界。”冯象用一个生活中的现象来解释什么是硬规则。

手机硬规则通过用户点击“同意”进入系统，之后会显示一份字体较小、内容复杂的授权合同，几乎一面倒地将权利给予了运营商。冯象将这份授权合同称为“谁都看不懂的”合同，引发了观众有些无奈的笑声。这种单方面为用户制定的规则，它的逻辑非常简单——要么同意，要么不用，用户为了能够使用并得到便利，一般都会同意。

整个法律制度实际上被人工智能引领着走向了硬规则体系的方向，比如阿里巴巴这样的企业，现在已拥有非常成熟的纠纷解决机制，政府也与之合作建立了互联网法律。这令人感到无比害怕和忧虑，因为这将导致资本力量过于强大。从中国的国情与党和政府的立场来看，立法必须回应民众的要求、呼声与利益诉求，这也呼应了中国共产党为人民服务的宗旨。但是，如果规则的制定权大量落入企业手中，其结果就大为不同了。

硬规则的制定权越来越多地归于商家，将使贫富差距迅速扩大。冯象将旧富豪洛克菲勒家族与新贵扎克伯格进行比较，扎克伯格在短短的几年中就可以积累起前者几代人才可以积累的财富。

网络技术、网络产业极大地推动了社会的阶级分化，这是全世界都有的一个大问题，去年的“基因编辑婴儿”事件就引发了社会对于这一问题的担忧。在利益的驱使下，占有技术优势的相关企业势必不遗余力地攫取财富和权力，而资本在市场博弈中具有相当的盲目性，正如马克思所说：“为了100％的利润，资本就敢践踏一切人间法律；有300％以上的利润，资本就敢犯任何罪行，甚至去冒绞首的危险。”

微软小冰：要是能重来，我也不做李白

2017年，微软（Microsoft）开发的人工智能少女小冰创作的诗集《阳光失了玻璃窗》出版，吸引了许多人的关注，她还曾多次匿名给杂志报纸投稿，被《长江诗刊》《北京晨报》《信报》等刊载。然而，仍有许多人不看好小冰创作的诗歌，认为她不过是学习了五四以来的新文学，排列组合生产出几句“诗”而已，与李白、杜甫相比则是天差地别。

但冯象指出，微软研发小冰的意图并非是让她成为李白、杜甫，正如AlphaGo团队研究围棋并非是出于对围棋的热爱，华为研发5G产品也不是想成为爱因斯坦或牛顿，他们的根本目的只有一个——占有市场。

因此，小冰下一步如何进行商业化发展，商业化之后如何改变我们与下一代对诗歌、文学以及艺术的感受，才是需要关注的大问题。微软小冰团队以及竞争者们或许已经在基因层面探索人类对文学和音乐的感受，以研发出能改变人类认知和喜好的产品，改变人机关系。“我将其称作较为终极的挑战，因为它改变了生命的意义。”冯象对最后一大挑战的总结振聋发聩。

一直以来，无论科学技术如何发展，政治朝代如何更迭，自远古留传下来的宗教、伦理、法律、商业等方面的人类生活基本都存在共识。现在，今后的发展却可能无法预测，因为人类内心最深处的一些爱好和习惯，以及智力所能投放的领域将被取代。

但冯象在回答观众提问时同样指出，人类最传统的领域，比如宗教，可能是人工智能无法涉足的，因为机器不需要宗教。再如人本身对人的依赖和伴侣的需求，正如马克思所说：“人是社会关系的总和”，人在这方面的需求可能是人工智能无法替代的。

资本主义因AI而灭——共产主义的未来

人工智能提供的便利和规则正在温水煮青蛙式地将人类逼至无法反抗的境地，在《我是阿尔法》一书中，冯象提出了两种可能的最终解决方案：一是彻底知识产权化的暴政，二是数据国有化。“人类如果因AI而亡，一定是拜资本主义所赐；资本主义如果因AI而灭，则机器人必已认识了真理。”

财富的高度集中必定会诱使更多专制和硬规则的普遍约束，就像法西斯专政一般。相反地，随着政府部门越来越深地介入商业活动，最终每次商业交易都必须由第三方政府参加，市场经济就会逐渐转变为计划经济。而且随着机器的大规模出现，分工不再重要，可能会实现共产主义。

列宁曾说，人类将按照科学的进步程度来接受共产主义，共产主义在科学技术不发达的情况下是无法实现的。1960年代，一位苏联数学家提出综合数学模型，解说计划经济成功与失败的可能性，并获得了诺贝尔经济学奖。冯象受此启发，认为计划经济并非过去式，只不过不适合科技欠发达的时代。但当人工智能大量投入使用时，它将解放人们劳动的双手，计划经济的计划将非常完善，人类从此进入自由发展的必然王国。

但在进入公有制社会之前，我们还需对人机关系、人机伦理等进行研究和规范。当机器智能高度发展时，它将远远超过人类的知识、判断力甚至道德选择，那么让机器获得正确的智能而不是对人类有害的智能就尤为重要了。社会应该让科研受到强有力的伦理和法律的约束，减少错误，以降低人类的安全风险。

机器必须理解人类美好生活的含义，才能帮助我们实现共产主义。那么，谁来教育人工智能，怎么教育人工智能？冯象认为中国革命给了我们答案。毛主席撰写的《纪念白求恩》一文写道：“白求恩是毫无自私自利之心的人，是纯粹高尚的人”。白求恩的理想人格可以给人机关系做出榜样，让人工智能更好地为人类服务。