机器能超越真正的人类吗？人工智能未来发展如何？

　　导读：尽管他在AI界极富盛名又桃李满天下，乔丹本人却对“人工智能”这个概念不太感冒。他反复强调“机器没有智能，我们甚至还不理解人类的智慧”。


　　“我不知道什么是人工智能。”

　　“我无法判断人工智能的未来是什么样的。”

　　9月18日，世界人工智能大会议程过半，澎湃新闻记者在上海专访了加州大学伯克利分校电子工程与计算机系教授迈克尔·乔丹。而这位人工智能界的泰斗，却对人工智能的定义和展望，给出了两个“不知道”。

　　与体育界的迈克尔·乔丹被尊称为“篮球之神”一样，这位迈克尔·乔丹是机器学习界的开山鼻祖，被誉为“人工智能教父”，深度学习领域权威Yoshua Bengio、吴恩达、卡耐基梅隆大学计算机科学学院教授邢波等，都曾师从于他。

　　迈克尔·乔丹1956年生于美国，他拥有心理学学士学位、数学硕士学位和认知科学博士学位。1988年到1998年之间，他曾任教于在麻省理工大脑与认知科学系。目前在加州大学伯克利分校担任电子工程与计算机系和统计学系教授。

　　除了任教以外，乔丹没有成立过公司，也没有什么写上简历的业界经历。在他看来，“没有必要通过成立公司来参与业界”，乔丹告诉澎湃新闻记者，他只是间或性地做一些咨询工作，而这次来上海，利用的正是他每年20天为蚂蚁金服做首席技术顾问的“咨询时间”。

　　乔丹是目前机器学习领域，唯一一位获得美国科学院、美国工程院、美国艺术与科学院三院院士的科学家。他曾指出机器学习与统计学之间的联系，推动机器学习界广泛认识到贝叶斯网络的重要性，同时还在机器学习上普及了近似推断变分方法的形式化和最大期望算法。2016年，乔丹被《科学》杂志评为“全世界最有影响力的计算机科学家”。

　　尽管他在AI界极富盛名又桃李满天下，乔丹本人却对“人工智能”这个概念不太感冒。他反复强调“机器没有智能，我们甚至还不理解人类的智慧”。说到人类智慧，他举了自己的儿子为例，说话时放慢了比普通人快1.5倍的语速，眼神欣喜，面露笑容。

　　“我的儿子才11岁，却总能蹦出一些‘金句’，你能感受到他对这个世界的理解多么深刻。”


　　但当话题转回“机器智能”时，他马上切回1.5倍速告诉记者，人们目前在做的，都只是创造一种“能力”，但这些“能力的集合”距离所谓的智能、智慧，还差得很远很远。对于强智能机器人的展望，他甚至直言这是“科幻小说看多了”。

　　那既然机器在“几百年”内都无法实现经典定义里“类人的智能”，它还有“智能”的前途吗?

　　对此，乔丹给出的答案是：“除了生物体的智能，还有一种东西也很智能，那就是市场。”

　　乔丹解释道，一个运作良好的市场整体是非常智能的，但是市场里的每个部分却不见得那么智能，这恰恰很符合机器学习的结果。在首日的大会演讲上，乔丹也提到，如果市场上的资源没有稀缺性(scarcity)，每个AI会给每个人做出同样的建议。但正因为市场上的资源是有稀缺性的，所以AI应该作为团队进行合作博弈，合作机制的建立非常重要。AI可以成为与市场共同合作找到最佳策略的市场代理(agent)，但它不需要像人。

　　“毕竟世界上已经有这么多人了，为什么还要AI像人呢。”

　　当记者提到一些人对AI的担忧甚至恐慌的时候，乔丹有些无可奈何地半翻了个白眼，说：“人类最初使用火的时候，肯定也有一些人表达过类似的恐慌吧。时至今日，森林大火时有发生，也有人因火灾伤亡，但火依然成为了人类世界不可或缺的东西。
”
　　尽管乔丹对人工智能的定义和展望，给出了两个“不知道”，但当记者问到他心目中理想的AI应用场景时，他又露出了想起自己儿子时的笑容，并认真地回答到：“能够让更多的人过得更开心(Make a lot of people much more happy)。”

　　以下内容为专访实录，翻译自英文：

　　机器没有智能，但这无关紧要

　　您觉得AI这个概念是否被滥用了?

　　Michael Jordan：很多不同的东西都在用AI这个概念，经典的定义是认为，人工智能是尝试让计算机成为像我们这样的人类。我们还没有实现这个目标，实际上我认为我们一辈子也不会实现这一目标。

　　现在我们创造的叫能力。也许我们可以创造识别图像、识别语音、做一些自然语言的翻译的AI。这些是技能，或者叫能力。但现在这些技能，现在都被称为人工智能。还有那些收集数据并用之进行预测、提供服务，或制定决策的系统，被称为人工智能。所以我们确实是过度使用了这个术语，过去被称为统计、数据分析或者机器学习的，现在这一切都变成了人工智能，我认为这不是一个很好的事情。首先，我不喜欢它被称为“智能”，其实我们还不明白人类智慧，更不用说在计算机中真正创建它。总之，或许不应该用一个词来表达这么多含义。

　　您曾经提到过现在并没有“人工智能”?

　　Michael Jordan：是的，它们没有智能(Intelligence)。不像我的孩子，我儿子现在11岁，他时常会说出一些他对周围世界真正深刻的理解。但计算机不了解世界。他们只是获取一些模式和范本并将其映射到其他模式上。它们只是根据以前收集的数据去做出反应，而不是真正地在理解。

　　机器学习发展到什么样的程度才能被称为“智能”?

　　Michael Jordan：我们不需要让机器“智能”，我们需要做的是建立一个市场机制。设想一下一个城市的食物流通过程，那才是真正的“智能”。每天风雨无阻，无论生产者有什么样的食物、餐馆需要什么食材、有多少消费者，这个市场总能带来适量的食物，不是太多也不会太少。这对于一个系统来说，就是非常智能的事情了。如果你从火星往地球看，你都可以看见这个系统是如何运作的，它非常智能。但另一方面，这个系统里的每个环节又都不是很智能。对于个人来说，我有苹果或者生菜，我正好发现那家餐馆里没有足够的苹果或生菜，我就可以给他们提供，并赚一些钱。但如果有一百万人这样做，这个系统就开始协作，那么真正美好的事情就发生了。

　　所以目前的挑战是，用数据真正做到这一点，让现代技术的系统能够像经济学里的市场那样运行起来。为数不多的例子就是比如像现在的一些网约车平台，就是通过搭建这样一个交通系统进行协调。如果我要到机场，我就通过手机向平台传递这个需求;与此同时不仅仅是我，有100多万人有通勤需求。而市场上也有100多万名司机，他们对自己想开车去的地方也有自己的偏好。这就是市场的匹配和竞价机制，乘客出价，司机知道要去哪里、获得多少报酬。这是一个庞大的整体系统，当它很好地运行起来时，人们就可以满足自己的通勤需求。这不是一个自上而下的设计，而是一个基于当地经济原则的市场，只不过现在有更多的数据使这个市场更有效，所以这是一种基于数据的新型市场。除了运输，还可以应用在教育、商业、医学和许多其他事情上，这是一股正在崛起的力量。所以……要称它为“人工智能”也行吧。但其实它已经远远超出了“人工智能”的经典定义，那就是赋予计算机人类的智慧。

　　您觉得会有自主学习的AI吗?

　　Michael Jordan：不要相信这个，不要相信你读到的任何关于这种论断的话。人们只是在说一些符合他们期望的话。

　　澎湃新闻：2015年日本发布的《新机器人战略》中提到，机器人将会从做常规工作的人形机器，变为有自主学习能力和行动意识的机器人。

　　Michael Jordan：这就太科幻了，很不现实。我可以造一个机器人并让它认识到那面墙在哪里。只要我让它不断地走过去撞墙，每次撞墙后他就会学习到一点。他确实是在自主学习，因为我没有告诉他这面墙在哪里。但是这有趣吗?不怎么有趣吧。这样的机器人可能存在吗?当然可能了。但这最终会成为超人机器人吗?当然不会，这也差得太远了。所以，那些所谓的“自主学习”，听起来很重要很有趣，其实并没有。

　　AI应该像一个“优秀的市场代理”

　　你之前提到过，也许市场导向的AI是更为理想的发展方向。是否可以详细解释一下什么是市场导向的AI?

　　Michael Jordan：我们不需要训练AI表现得像市场一样，我们需要用数据和其他更智能的算法，让它们在市场中成为优秀的制定决策的代理(agents)。他们不会去欺诈(cheat)，而是诚实地共享自己拥有什么、可以提供什么，然后尝试与市场合作。这是我们要去创造的东西，也是我们要去思考如何去实现的。实际上做到这一步，还是不太容易的。目前来看我们已经可以创建一些系统来共享音乐、商品、服务等等。在这一代，我们可以向我提出的这个目标迈进，而且实际上我们已经有了类似的金融服务。

　　但是要创造一个像我们人类一样智慧并且理解世界的人工智能——能够真正地，真正地深入理解这个世界的人工智能。我认为这辈子是不可能的了，即使在未来的100年也很难说。但这重要吗?我觉得不重要。我们仍然可以尝试很多关键的领域，从而慢慢地向这个最终目标迈进，只要我们想去做。理解人类智慧诚然是一件很有意思的事情，但是这对于我们要解决的问题来说，是一个既不充分也不必要的条件。

　　目前AI在中国应用最多的领域主要是娱乐和安防，市场导向的AI是否也适用于这些领域?

　　Michael Jordan：或许娱乐和安防是大家从媒体上了解最多的领域。但其实在每个公司的背后，有各种用途的机器学习AI，比如欺诈检测、供应链建模、或者做推荐系统比如做B2B等。这些才是实际推动经济发展的因素，这些才是重要的。你所提到的这些，是人们最后真实看到用到的的，那是另外一回事。

　　说到娱乐，很多人喜欢听音乐，但是大家不喜欢听电脑创作的音乐。一看就不是很有趣。因此，有很多人制作音乐，而且这些人往往不靠制作音乐赚钱。他们只是喜欢在电脑上制作音乐，他们制作然后把它放在平台上供其他人收听，但他们没有因此而得到报酬。这其中最主要的一个原因就是，他们不知道谁在听他们的音乐，所以无法获得报酬。解决这个问题的一个办法就是让这些人都知道谁在听他们的音乐，比如他们能看到中国地图上，在上周听了自己音乐的人积聚在什么地方。他们就会知道自己的音乐在哪里比较流行。之后他们或许可以去那里唱唱歌，赚点钱。当他们开始这么做的时候，就意味着这些人有了新的工作。而当100多万人通过这种机制行动起来的时候，这就创造了市场和经济效益。这是一种“深度的娱乐方式”——我能因为某个人的音乐而感到开心，并且我可以直接和那个人建立联系。或许有一天，那位“音乐家”可以来我的毕业典礼或者婚礼为我唱歌。通过这种新的娱乐方式，人们创造了一种经济，而不是通过计算机给我们创造娱乐方式。计算机所做的，是用更好的方式把人们联系在一起，从而创造出新的娱乐方式。

　 您如何看待AI在金融交易中的应用，尤其是在量化交易上的使用?机器与机器竞争的模式，会不会使得当前(人类的)价格机制失效?

　　Michael Jordan：实际上，机器做量化交易这件事情已经发展了有四十多年了。比如对冲基金，至少从上世纪80年代开始就是用机器在做了。只是随着时间的推移，应用得越来越好了。如今任何地方的银行或者对冲基金，都会使用大量的算法和数据分析来帮助人们做决策。通常来说，只有在做一些测试或者设计一些有趣的假设模型时，才会用到人力，因为计算机不擅长任何在微观经济领域的归因和推理。所以，用算法实现计算机交易这件事情已经有很长很长一段时间了。只是现在有了更多的计算机和更多的数据参与进来。除了量化交易以外，在高频交易中也是这样的，所有计算机的运行都非常非常快，但其实也就是算法和数据，没有什么新的东西。

　　现在深度学习依然处于“黑箱时代”。各相关领域的人都在试图提高其可解释性，比如研究计算机视觉的会专攻通过可视来解决这个问题。您怎么看待这个领域的发展趋势?

　　Michael Jordan：我在解释系统上做过一些研究。这虽然不是一个新的问题，然而每当我们有一个非常复杂的、称之为非参数系统的东西，就是许多小参数上有许多连接(many connections on many small parameters)，我们知道这是个很好的东西，但我们也很可能很难理解它的工作原理。因此如果不是非解释不可，其实我们就不用去解释它。在某些情况下，这样做就可以。

　　但随着AI开始与人类互动，比如当人们想要对某件事做出解释或决定时，人们就需要和这个系统有更为深入的沟通和交流。就像和一个医生交流一样，你想要问他对这个问题怎么看。此时，这个系统就需要被其他的东西赋能。它不仅仅关乎神经网络，它是神经网络和机器的结合(neural net+ machinery)共同来实现这种对话场景。所以神经网络非常好，也能完成一些步骤，但它无法完成一切。而这个问题从更广义的层面来看，神经网络还远远不够。不是说我们在做的这点东西需要一个“神来之笔”;是所有的点子都要汇聚在同一个整体的系统下，共同协作。

　　给学生们的建议：相关领域都学一点，剩下的慢慢学

　　您目前的研究重心是什么?

　　Michael Jordan：很难一言以蔽之，我每年大约有四五十篇论文，我关注很多东西。目前我比较专注于AI在制定决策方面的问题，而不是模式识别方面。如何做出多重决定，在稀缺资源的条件下如何做出决定，将错误率维持在低水平的条件下如果做出高质量的决定，这些方面。

　　人工智能在未来的十年会有什么样的发展?

　　Michael Jordan：我不太喜欢谈这些。我只是有我自己的看法，我认为在未来五年内就是市场导向型的AI，市场和统计相结合的，也就是我现在所做的。而这方面有不少值得推敲的技术问题要解决，我们才能创造出那种支持市场导向AI的算法。这也就是我在目前的研究中所做的。
　　在人工智能领域的学界和业界，您觉得都需要什么样的人才?

　　Michael Jordan：其实没有什么真正的区别，优秀的人都能够两者兼得。如果还处在学生时期的话，那么我觉得觉得可以坐下来聊聊，聊一聊你知道什么、不知道什么、喜欢做什么。没有一个能一概而论的答案。如果你擅长理论，喜欢研究理论，同时你知道你的思维方式很适合做理论，那就放手去做一段时间。但每个人都应该做一定量的理论学习和一定的实践操作，或两者相结合。这样你的视野和认识就会更宽阔，你会看到整个东西联系在一起是什么样子的。所以即便你只是专注学界或者业界，也应该都了解一些。

　　至于常识和知识修养，我想这就是读博士的目的。所以我的建议是，把计算机科学学得非常好，把统计学得非常好(you should learn very good computer science， very good statistics)。另外，我觉得，要学一点经济学，学一点其他相关领域的算法，包括和复杂性、不确定性有关的算法等等。当然了，没有人能够学完所有这一切，所以先打好相关基础，剩下的，有一辈子可以慢慢学。

　　目前您和中国的科学家们有展开过哪些合作?

　　Michael Jordan：我的团队里有25个博士，我们在一起紧密合作了近6年。我记得有12个中国人，差不多占了团队的一半吧。但我不会有意地去关注他们是不是“中国人”，他们在我眼里就只是“人”。我并不在意他们来自中国还是哪里。我不会看着他们然后反应说：“啊，中国人”。我只会看他们是谁，然后叫他们的名字。

　　任何东西都会产生问题，AI只不过是其中之一

　　AI是否会因为被滥用而对社会产生不利的影响?

　　Michael Jordan：AI确实涵盖了很多十分强大的概念。但其实，任何事情，包括所有以前的工程系统，都会产生问题。化学工程、土木工程也会造成诸如化学品爆炸、建筑物倒塌等问题。大家之所以更担忧AI，主要是因为它离人的生活更近了。它肯定会产生问题的。现在就有很多AI在做一些错误的积极决策(false positive decision)，还有些人相信了这些错误的推荐，因为他们认定AI做出的决定就是正确的，哪怕事实并非如此。现在有好多人这么做了，过一段时间他们就会清醒过来。如果AI为搜索引擎做出了错误的指示，可能也没人在意吧?因为不会有人因此而死亡。只是你会很气，因为你发现无法轻易地得到正确的答案了。但如果在医疗或者用药决策上做出了错误的决定，很多人可能会因此而死亡。这都会有可能发生。

　　目前关于AI是否会取代人力的争论，您怎么认为?

　　Michael Jordan：我不站边。实际上我甚至觉得这个论题是错的，我也不喜欢那些非此即彼的论题。诚然，一些工作会被取代。但正如我们之前提到的音乐，人们可以轻松地用好AI，创造出一些全新的工作。这个人可以突然变成一位真正的音乐家，并以此谋生，因为他们知道自己的听众是谁。这就是这些新工作可以从中创造出的价值。还有很多这样的例子，这些新工作甚至不是那么复杂的工种，而只是服务性的工作。正是因为我们创造出了更多的信息和知识，所以这一切肯定会发生。

　　唯一让我担心的问题是，这个变化会发生得非常快，以至于大部分人没有太多时间去调整。这样就会产生更多的压力和焦虑。因此，***和整个社会必须为此做好准备，什么时候要加快发展，什么时候要让发展的步伐慢下来。无论如何，要确保那些被落下的人们，不会被落下太多。但不管怎么样，因为人工智能或机器智能而造成大量失业的说法，是错的。

　　SpaceX总裁埃隆·马斯克认为AI对人类来说是一场灾难，对此您怎么看?

　　Michael Jordan：我不这么认为。我的意思是，火，也是一种威胁吧?当人们最开始使用火的时候，肯定也有人看到了然后说“这会是对人类的威胁，它会杀死我们所有人!”实际上，森林火灾、人因为火灾而亡，这些事情确实发生了。火有时候是会伤害我们，但没有火，也就没有人类的今天。我们也不会拥有今天我们所拥有的世界。如今火成为了人类生活中至关重要的东西。同样的，我认为用于学习人类活动并作出预测等等的数据分析类活动，会让我们的生活变得更好。另一个例子就是医学，它不是百利而无一弊的。它让人们能够更轻松地过上更好的生活，那它是一种威胁吗?我认为这不是正确的思考方式。而且这项技术也在快速进步，或许有一天会创造出真正的“智能”吧，不过那应该是几百年之后的事情了。