李根发自凹非寺
量子位报道|公众号 QbitAI
十天前，硅谷钢铁侠、特斯拉 CEO 伊隆·马斯克在几十位美国州长面前，声称 AI 是对人类存在的最大威胁，并且呼吁加强对 AI 的监管。
虽然马斯克鼓吹这一论调已经多年，但这次整个 AI 界似乎都站到了他的对面，对他的批评声不绝于耳，直到 Facebook 创始人扎克伯格出手，事件到达了高潮。
“我认为那些对 AI 持否定态度或者鼓吹末日论的人，其实根本没理解什么是 AI。他们的看法太消极了，甚至有些不负责任”，扎克伯格谈到马斯克时如是说。他还补充道“未来5-10 年内，AI 将大幅提高我们的生活质量。”
这很快成为抢眼的新闻标题，而马斯克也通过推特给予了回击：“我跟小扎聊过了。他对这事儿（AI）的理解有限”。
不负责任 vs 理解有限
应该如何正确看待马斯克和扎克伯格这次关于 AI 的隔空交手？AI 是个末日威胁么？量子位就这个问题，请教了李开复博士。
李开复表示，Facebook 有世界顶尖 AI 团队，扎克伯格在这个问题上肯定不会“理解有限”。
李开复明确反对马斯克“AI 终将灭绝人类”的悲观论调。他指出 AI 现在仅仅是人类的工具，离拥有意识的“超级智能（Superintelligence）”还非常遥远，更别提灭绝人类了。
其实过去几个月，李开复和国内外 AI 专家、图灵奖国际得主就这个话题也有过不少交流，大家基本都同意扎克伯格、李开复的观点。
另一方面，李开复警告说：马斯克如此高调频繁地宣扬 AI 带来的威胁，可能会让大众忽视 AI 正在带来的巨大机遇，也会让更多更紧迫的 AI 问题没有得到关注，这只会捡了芝麻丢了西瓜。
李开复表示，是时候就着这次辩论，直接评论下马斯克的“AI 末日论”了。
李开复回复全文
量子位问我关于这次马斯克和扎克伯格辩论 AI 未来的看法。
坦白讲，我不太认同伊隆·马斯克“AI 灭绝人类”的观点，对于当前 AI 的发展看法，我有 5 个方面的具体观点：
AI 只是工具，离超级智能还很远；基于我投入 AI 领域的科研、开发、投资相关工作 37 年的经验，“超级智能”、“灭绝人类”这类耸人听闻的说法，根本没有切实的工程基础。
智库、科学家应该讨论 AI 安全问题、AI 对社会的改变，但是科技圈的意见领袖不应该在这时误导大众 AI 要控制人类，让人类灭亡，这确实是不负责的说法。大部分的人已经对 AI 所知有限，这会造成更为错误不实的群众恐慌。
AI 可以为人类创造大量财富，甚至逐渐解决人类温饱问题；我们每个人也将获得更多的时间和自由，来做我们爱做的事情。
AI 真实会带来的问题是人类的失业，失业后可能的抑郁和丧志问题，还有贫富不均问题，人类社会目前所习惯的职业结构确实会发生显著的改变。
AI 会带给我们 100% 确定性的巨大机会，随着改变也会产生些必然的问题。此时去用概率极低甚至是零可能性的“超级智能”，误导大众恐惧 AI，甚至约束 AI，反而不去拥抱机会、解决问题，是没有道理的。
AI 大咖们怎么看？
这其中有我的看法，也有一些已是业内不少专家的共识。如果我们去问顶尖 AI 专家，绝大多数是同意扎克伯格和我的看法的，比如说图灵奖得主 Rodney Brooks。
Rodney Brooks 的观点是：“有很多人都声称 AI 是人类存在的威胁：斯蒂芬·霍金、马丁·里斯爵士……在没有亲身在 AI 领域工作的情况下，这样的想法很普遍。我们能够理解，对于那些不在 AI 领域工作的人，要通过产品级别的东西来弄明白一些问题有多么困难。他们会根据一个领域的一个 AI 成果，就一概而论地认为 AI 会在多领域超过人类。但是其实今天的 AI，只是在某一个狭窄领域基于大数据优化，只能说是个很厉害的模式识别引擎。要做到通用的、无所不能的 AI 根本不知从何开始。”
另外，Rodney Brooks 也提到，马斯克想要立法管理 AI，但是需要管理的通用 AI 都不存在，如何立法？
实际上，今年五月在上海的 ACM 图灵奖五十周年大会论坛讨论上，我和三位图灵奖获得者讨论时，基本也是类似观点，描述了人类今天并不知道如何做出“超级智能”，也否定了量子计算取代大脑的一说。
当然，持“AI 末日论”观点的除了马斯克，另一知名的人是斯蒂芬·霍金，霍金是杰出的物理学教授，但并不意味着他在 AI 方面的观点也同样令人认同。
著名的 AI 研究专家 Michael Jordan 就直言不讳地说过，如果你有物理学方面的问题，可以向霍金求教，但如果是 AI 方面的问题，可能更合适的人选是自己。
吴恩达听到霍金马斯克等关于“超级人工智能”的观点时，他直接忍不住地用手盖住了脸。
吴恩达说：作为真的做 AI 产品的人，我看不到今天的 AI 可能发展为邪恶力量的任何可能性。
甚至在听到“奇点理论”之类的观点时，吴恩达索性翻白眼，他甚至说：听到奇点，我的眼睛就会自动翻白。
另一位知名的 AI 大咖 Geoff Hinton 也明确表示，未来 50 年内，我不对什么“超级人工智能”的实际进展抱有希望。
所以，我认识的业界真正做过突破性计算机和 AI 科研工作的人，都是更支持扎克伯格的看法的。
实际上，许多硅谷主流的企业家、图领奖的科学家，已经私下对马斯克和霍金的言论不认可有段时间了。我之前在《纽约时报》和《连线》的专栏文章中，其实也表达了这种“不认可”，只是并没有那么直白地针对马斯克或霍金教授说出来。
我在《连线》的专栏文章中说：“一些自称未来学家的人开始对人工智能做出各种预言，他们谈论着’超级智能’、’奇点’、’人机结合’，甚至毫无根据地声称’我们其实就生活在电子游戏当中’。这些反乌托邦的警告令人惴惴不安，这些言论大多出自世界级的科技大拿之口，又透过科幻小说中那些大家所熟悉的桥段和场景而深植人心。”
实际上就是针对马斯克一系列的言论观点，希望提醒大家，区分“科幻”和“科学”的不同。
更加直白来说，我认为那些耸人听闻的预言并没有切实的工程基础。科“幻”小说主要是幻想，而不是“科”学。我们目前面临的真正危机并不在于担忧这样的情况在遥远的未来可能会发生，而是解决即将到来的职业取代问题。
但这一次扎克伯格这样直白地反对和批评马斯克，我觉得或许是真的认为马斯克的言论实在过激了，特别是面对美国重要的政治人物演讲时，如此言之凿凿地谈 AI 毁灭人类。
更早之前，Michael Jordan 也明确批评过，他说：AI 科学家必须绝对诚实，无论是对你的出资者、赞助商、员工、同行、同事、公众，还有面对你自己。当我们诚实地面对 AI 时，有不诚实或妄想者做出疯狂的 AI 预言（而影响了公众舆论甚至政府政策），这些人让我们这些务实又诚实的科学家活得很艰难。
机器人将会处理一切工作？不认同
我也不认同马斯克“机器人将会处理一切工作”的看法，这有点以偏概全了。一方面，我同意 AI 将取代简单的、重复性的工作，但另一方面是我们完全可以给人类创造新的工作，而且是 AI 做不了的工作。
AI 做不了的工作是什么呢？我们会发现主要是创造力和社交相关的能力，那么最多 10% 的工作属于创造性部分，而 90% 就必须进入社交为核心的服务型工作。
（详见牛津 2013 文章 http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf）
所以，我们要鼓励更多年轻人走向创造的路线，无论是理工科学的发明，或者是人文艺术的创意。AI 只能够优化，只有人才能够创造。
另外，服务业会有很多的机会，尤其是社交属性较强，“有爱”的服务业。这包括了已有的行业：热情的导游、细心的礼宾、风趣的调酒师、有感染力的美发师、饶富创意的寿司师傅。我们也会创造新的行业：可以上门服务的营养厨师、能够按照季节更替来上门服务的居家换季师、带你年迈的父母去医院的银发关爱专家。甚至包括了一些志愿者型的工作：血库的助工、孤儿院的老师、夏令营的辅导员、诫瘾互助会的发起人。
我们需要改变社会思想和教育，让做服务业的人能够从中得到满足。如果服务业能够尽量帮助他人，关怀他人，解决他人问题或苦恼，让他人开心，这样不就解决自我实现的问题了吗？（当你做到这几点的时候，是不是很开心，很自豪呢？）
即便不是 90% 的人都从事这样服务型的工作，假设只有 50% 做到，还有少数提早退休，专注自己的嗜好，或在网上消磨时间，只有极少数可能有抑郁或其它问题。
这样社会也稳定下来了，不是吗？
马斯克应该多听听 AI 专家的意见
最后，坦白讲，我并不认为通过这次辩论可以马上改变马斯克的观点，毕竟他对“超级人工智能”如此坚信而着迷——甚至影响他的那个作家改变主意了，他也看起来不准备改变。马斯克被 OpenAI 研究超级人工智能的科学家围绕着，所以他们必然彼此影响鼓吹着末日论。就如扎克伯格被务实的 Yann LeCun（Facebook AI 研究院院长）和创造商业价值的人工智能专家围绕着，所以也一定彼此影响对 AI 保持乐观。
虽然伊隆·马斯克过去展现出的远见和战略思维令人敬佩，对他启动 OpenAI 的初衷——开放 AI 作为约束 AI 的一种方法，我也深感认可，但对于马斯克一直以来对于 AI 过于悲观和具有毁灭性的论调，我却非常不认同。
相对来说，我认为在“AI 和人类未来”这个话题上，我们应该更多听取扎克伯格的看法，扎克伯格的团队是真实用了 AI，解决了问题，创造了价值。他麾下有 Yann LeCun 带领的一流 AI 研究人才，他们很清楚目前 AI 能做什么、不能做什么，以及可预见的将来能做什么。
而且据说马斯克关于“超级人工智能”的观点，受到牛津大学人类未来研究院院长、《超级智能》的作者 Nick Bostrom（尼克·波斯特洛姆）的启发，但最近这个影响了马斯克论点的人，也公开表示“反水”了，他认为自己书中所写的超级人工智能带来的悲惨情况，并不意味着有可能发生。
更早之前还有人告诉我，说马斯克之所以如此笃定超级人工智能的威胁，是因为 DeepMind 当年在寻求收购时，曾表达了超级人工智能威胁之类的观点，所以还要求收购了他公司的人，要设立一个道德委员会去约束 DeepMind 未来的所作所为，免得毁灭人类。当时的潜在收购者之一马斯克深受影响。
但 DeepMind 创始人哈萨比斯的要求，可能其实是在收购案过程中开的一个“策略”，让他的团队看起来更强大。AlphaGo 很强，但离“超级智能”还很远。并且哈萨比斯后来自己也承认了，AI 威胁人类的事情，还太过遥远。
所以对于 AI 和人类的关系，我认为马斯克应该多听听真正的每天把 AI 当做工作的人的看法。我认为他也可以去和最顶尖的 AI 专家和图灵奖得主交流，看看为什么这些专家都不认可他的“超级智能”和“末日观”。
马斯克这么多年确实有不少伟大的创新创作，而且基本没有失败过，但并不意味着他不需要在“超级智能”这个问题上三思而后“谈”。
（以上。小标题为量子位添加）