英文原文：ELON MUSK’S BILLION-DOLLAR CRUSADE TO STOP THE A.I. APOCALYPSE
雷锋网按：马斯克不是一个没有想象力的人，对于未来，他总是有自己独一无二的看法，而且乐意下赌注，但硅谷最近快速奔向人工智能的动作却吓到了他，同时马斯克认为大家对硅谷的动作也应该心存戒惧。于是马斯克开始了自己的“十字军东征”（创建 NeuraLink），并希望通过自己的行动将人们从机器人的统治中“解放”出来。通过这篇《名利场》的深度报道，我们能一窥硅谷钢铁侠在阻止 AI 毁灭人类上付出的努力和他对 AI 深深的恐惧。本文由雷锋网编译自 VanityFair。
I. 机器杀人狂
作为一个末世论者，马斯克担心 AI 崛起，但凭借 AlphaGo 一战成名的 DeepMind 创始人 Demis Hassabis 则无疑是 AI 的支持者，两人虽然意见相左，但多年前就是老相识了，关于人类未来命运的问题，他们也曾有过深入的交谈。
这两位大神级的人物虽然都崛起于硅谷，但他们并不在这居住。几年前，Hassabis 曾造访过洛杉矶郊外的 SpaceX 火箭工厂。在餐厅，两人交谈甚欢，从巨大的落地窗中，还能看到 SpaceX 引以为豪的巨型火箭。当时，马斯克就阐述了自己创立 SpaceX 的终极目标：星际殖民。马斯克也自豪地认为，这是世界上最重要的项目。
当时的 Hassabis 踌躇满志，他也在做着另一项世界最重要项目：开发超级人工智能。马斯克显得有些不屑一顾，他认为如果不殖民火星，一旦 AI 崛起人类连躲的地方都没有。Hassabis 则打趣称，AI 会跟着人类去火星的。
Hassabis 的说法不但没有化解马斯克的焦虑，还让他更加担心了。
Hassabis 现年 40 岁，他非常谦逊但竞争力十足。在外界眼中，Hassabis 是 AI 界的梅林，这位魔术师将为世界召唤出无数 AI 子孙。
当然，AI 要走的路还很长，至少当下不应该成为让马斯克失眠的噩梦。眼下，Facebook 利用 AI 来做精准广告投送、为照片贴标签和策划新闻；微软和苹果则用 AI 来驱动 Cortana 和 Siri；谷歌则开始将 AI 当作整个搜索引擎的基础。这一切都是未来“全知全能”AI 的预演。
在硅谷，Hassabis 出名原本是因为他棋艺高超，而且做过一款名为《邪恶天才》的游戏。但现在情况不同了，Hassabis 成了炙手可热的超级大红人，从著名投资人 Peter Thiel（硅谷唯一押宝特朗普的人）的小故事中，我们就能看出 Hassabis 的重要性。据悉，在 DeepMind 的一次会议上，一位投资人打趣道：“Hassabis 就应该就地枪毙，因为他是拯救人类最后的希望。”
三年前马斯克就开始警告人类，称 AI 可能变身杀人狂。就连 DeepMind 的投资人 Shane Legg 也表示：“我认为人类很有可能灭绝，而科技在其中将扮演重要角色。”
在 DeepMind 被并入谷歌之前（2014 年），马斯克也是这家英国公司的投资人。不过，他投资 DeepMind 不是为了挣钱，而是为了时刻了解 AI 的发展轨迹。“我清楚的认识到，AI 的发展确实在加速，它比我们理解的要快得多。当然，这可能是因为平时大家看不到机器人走来走去。你家的 Roomba 也算是机器人的一种，但它们不会占领世界。”马斯克说道。
虽然与硅谷大佬们都是好朋友，但马斯克依然直言不讳的表示他们已经走上了自毁之路。在谈到谷歌创始人拉里·佩奇时，马斯克称佩奇研发 AI 虽然是出于好心的，但依然有可能“在不经意间创造邪恶势力，比如毁灭人类的人工智能机器人。”
在今年 2 月迪拜举办的的世界政府首脑会议上，马斯克再次旧事重提，称“一些科学家只是醉心于自己的工作，但他们并不了解自己的工作可能带来的后果。”在马斯克眼中，人类要想不被淘汰，“就必须实现生物智能与机器智能的融合。”这种曾出现在《星际迷航》的想法需要所谓的“神经织网”（neural lace），向人脑植入也许未来能够上传下载思想的微型电极。“我们其实已经是半机械人了。”马斯克说道。“你的手机和电脑成了身体的外延，不过现在的交互需要通过效率低下的手指和语音来完成。”借助神经织网，你就能轻松与手上的设备交换数据，同时还能借助云端超强的运算能力。同时，马斯克认为这种新型交互在四五年内就能成为现实。
三年前有了想法后，马斯克在麻省理工的一次演讲中将这些想法和盘托出，AI 成了他眼中“人类生存的最大威胁”。同时，马斯克开始倾向于建立国家级或者世界级的监督机构，防止硅谷的科学家们“做傻事”。不过，在许多 AI 工程师的眼中，马斯克的理论有些荒谬可笑，因此在回到实验室后，他们经常会自嘲的说道：“走，我们去召唤恶魔吧。”
不过，马斯克散播自己的理论可不是为了过嘴瘾，他真的针对 AI 搞起了自己的“十字军东征”。
II. “我有大男子主义”
在采访马斯克时，笔者告诉马斯克，他已经是一个像安·兰德（强调个人主义和理性的利己主义）一样的英雄了。马斯克笑笑说：“我以前听过这种说法。她说话虽然有些极端，但观点中很有料。”
不过，即使对个人奋斗看得很重，安·兰德如果见过马斯克肯定也会被震住，这样努力的人居然眼睛依然熠熠放光，从外形来看也年轻依旧。同时，马斯克的私生活也是精彩纷呈，他与自己第一人妻子共育有 5 个孩子，与第二任妻子 Talulah Riley 更是一起进了四次婚姻登记处（两次结婚和离婚）。去年秋天当 Talulah Riley 在热播剧《西部世界》中客串出演一个机器人角色后，马斯克还在 Twitter 上隔空祝贺了一把。不过，即使马斯克有心与自己爱的女人长相厮守，他也做不到，因为硅谷钢铁侠实在是个工作狂。
“我很想知道，男人每周到底应该花多少时间陪女人？”马斯克问自己的传记作家 Ashlee Vance（彭博社记者）。“十个小时够不够？这是不是已经是女人忍耐的极限了？”
马斯克就是这样的人，他非常理性，但又爱冒险。平时除了认真的工作，他还喜欢参加化妆舞会，有时还会玩玩翼装飞行。扮演钢铁侠的小罗伯特·唐尼将他看作钢铁侠在现实中的化身，而三星美国分部首席市场营销官则称马斯克是“乔布斯与儒勒·凡尔纳（科幻小说家）的合体”。马斯克首任妻子回忆称：“在婚宴上，马斯克说自己有大男子主义。”
马斯克在科技界也是个异类，他并非人们传统认知中那种弱不禁风，每天套着棒球帽衫探讨图片中的狗狗到底是什么品种的呆瓜极客。相反，马斯克更像亨利·福特这样的创业者，他甚至把自己公司火箭的零部件挂在了贝尔艾尔区豪宅的墙上。
马斯克也特别擅长定大目标，借助 SpaceX 的火箭，他在不断降低太空探索的成本，未来硅谷钢铁侠还要殖民火星。上个月，他还雄心勃勃的称要送两个游客绕月飞行，而且时间就定在明年。在能源领域，马斯克则准备通过整合特斯拉和 SolarCity 完成自己的清洁能源之梦，而特斯拉电动车则凭借无懈可击的性感设计成了许多人的梦中情人。不过，这还没完，马斯克还要做超级高铁（Hyperloop），让城际旅行不再浪费时间。去年夏天见了国防部长后，他又萌生了开发“飞行战甲”的念头，而体验了赌成粥的洛杉矶交通后，马斯克转眼就萌生了挖地道的想法。
当然，天将降大任于是人也，必先苦其心志，劳其筋骨，饿其体肤，空伐其身行，行弗乱其所为，马斯克可没少受挫折。他的 SpaceX 火箭在发射台上爆炸，自动驾驶状态的特斯拉 Model S 还把驾驶员带进了坟墓。
马斯克对各种挫折不屑一顾，但对噩梦情节却总是心有余悸。他的观点可以用安·兰德著作《阿特拉斯耸耸肩》中的格言解释：“人类有能力充当自己的毁灭者，这样的情节在历史上反复上演。”马斯克则认为：“人类是第一个拥有自我毁灭能力的物种。”
其实马斯克的感觉我们大家都能感受到，当你享受着各种新技术带来的便利时，有时也会感觉自己是实验室里的小白鼠，一旦丧失了利用价值，马上就会被淘汰。许多人已经接受了这样的未来：人类能轻松活到 150 岁，但要接受机器的统治。
在去年的 Code Conference 上，马斯克更是表示，人类可能已经生活在类似黑客帝国的世界，我们被更先进的文明统治，而硅谷的亿万富翁们正准备用算法让我们逃出矩阵。
对许多爱好不断解决问题的工程师来说，大多数时候他们都是在重复过去，颇有些宿命论的感觉，但偶尔也能来次大跃进，而年仅 31 岁的 Y Combinator 主席 Sam Altman 则相信，人类可能即将迎来巨大机遇。
“站在指数曲线上你就会发现，当你回看过去，一切都一马平川，但你看向未来，则会看到一堵垂直的高墙。”马斯克说道。“你很难搞清楚自己现在的位置，因为放眼四望，周边环境几乎没有变化。”
眼下，马斯克、霍金和盖茨都在为 AI 威胁论摇旗呐喊，看起来 AI 对人类的威胁已经开始火烧眉毛了。不过，在很长一段时间里，宿命论一直笼罩在硅谷上空，马斯克的努力被认为是徒劳的，有些人甚至认为他反对 AI 就像工业革命中的工人捣毁机器。
这里有一个悖论，那就是在许多科技独裁者眼中，他们的所作所为是为了帮助人类，但事实上他们的仁慈宣言下，其实潜藏的是一条不归路，就像苹果联合创始人沃兹尼亚克所说，人类正在成为家养宠物。
不过，马斯克不信这个邪，他要打破人类宿命，于是他联合 Altman 创立了 OpenAI——一家非赢利公司，目的是开发安全的 AI 技术。刚刚成立时，OpenAI 只有几个年轻的工程师，就连办公室都是公司 CTO 的个人房产，最近笔者回访时发现 OpenAI 已经搬了家，这里不但通风，还有了其他科技公司都有的小零食，全职员工也达到了 50 人。据悉，还有 10-30 名员工即将加入 OpenAI。
在硅谷，所谓的午餐会并不一定要正襟危坐吃大餐，毕竟年轻的程序员都专注于各种算法，有时他们根本没时间吃饭，午饭只是吃点 Soylent（粉末食品）了事，而一些年龄稍大的程序员则热衷于吃健康食品配牛奶。
乍一看，OpenAI 简直就是个羽量级的形象工程，一帮毛头小伙子怎么可能管得住谷歌、Facebook 和其他世界顶级的 AI 专家。不过，马斯克擅长以弱胜强，而且他能处理的非常得体，甚至派头十足。
马斯克根本不在乎什么 IPO 市值，解决旧金山无家可归人群也不是他的任务，因为他的目光更为宏伟，比如解决全球变暖和登陆火星。
马斯克十几岁时就感受到了强烈的“生存危机”，他并非吃不上饭，而是担心人类未来在宇宙中的命运。马斯克表示是希区柯克的《银河系漫游指南》让他开了窍，在 Model S 的软件中，马斯克还植入了许多与这部神作有关的梗。当时，马斯克也给自己设定了奋斗使命：“真正值得追求的是争取更伟大的集体启蒙。”
OpenAI 刚成立时使命还非常模糊，这不难理解，毕竟 AI 圈里的人都不知道这项技术未来会以什么样的形式呈现、能完成什么任务和我们能做些什么。眼下，AI 还是无主之地，关于它的公共政策和监管还是个空白。FAA 负责监管无人机，证券交易委员会负责监管金融交易，而交通运输部则将自动驾驶汽车纳入了自己的监管范围，但 AI 依然处于三不管状态。
马斯克并不反对 AI 发展，但他认为该技术研发成功后应该分发到世界各地，而不是隐藏和集中在科技与政府精英手中。“我曾多次与佩奇探讨 AI 和机器人。”马斯克说道。“不过，人们已经头脑发热，不只是佩奇，其他未来学家也认为机器人时代的来临必可阻挡，而在这个时代，人类将扮演次要角色。有些宿命论者甚至成人类将成为‘生物引导装载程序’（Boot-loader）。”
“当然，物质不能直接变成芯片。”马斯克解释道。“但它们可以变成生物实体并最终创造出芯片。”
马斯克可不想变成生物引导装载程序，也许佩奇的本意是好的，但马斯克称硅谷精英的善意可能会带来极坏的结果。
“皇帝和皇帝不一样，有时执政能力的微妙变化可能就会导致完全不同的结果。”马斯克说道。
III. 金色牛犊（指代金钱）
人工智能并不是什么新鲜名词，上世纪 80 年代末，这项技术还遭遇过寒冬，当时它甚至在业内换来了“骗人的万金油”的恶名。不过，现在 AI 重新成了硅谷的香饽饽。OpenAI 的 Greg Brockman 相信未来十年 AI 将占据绝对的主导地位，每个人都会花钱享用这个神奇的“咒语”。
微软的计算机科学家 Jaron Lanier 是 VR 之父，他向笔者解释了数字文人普遍将 AI 看作“科幻小说”的原因。这个原因让人很无语，因为在外界看来，AI 技术人员就像上帝，他们可以创造生命，甚至改变现实。许多从业人员也被捧得忘记了自我，自恋的认为自己可以予取予夺，比教皇和总统能力都强，站上了世界的顶端。“这样盲目的自信并不是第一次遇见，我在一个有关金色牛犊的故事中也读到过。”
过去几年，谷歌收购机器火力全开，几乎把市场上所有有趣的机器人和机器学习公司都收归门下。谷歌在收购战中击败 Facebook，花 6.5 亿美元买下 DeepMind，随后它们又组建谷歌大脑团队专攻 AI 技术的研究。同时，谷歌还挖来了英国人工神经网络专家 Geoffrey Hinton 和古怪的未来学家 Ray Kurzweil，后者称再有 28 年我们就能迎来“奇点”，到时能实现自我学习的超级人工智能将彻底超越人类智能，留给人类的唯一选择就是与 AI 合为一体，创造出新的“全知全能”的混血新人类。
其实谷歌和拉里·佩奇从骨子里相信，走上 AI 之路是公司不可避免的命运。Ashlee Vance 甚至表示：“如果 AI 惹出什么事，我第一个就会想到谷歌。”如果谷歌能用电脑掌控整个搜索业务，那么它们就能让电脑做成任何事。去年 3 月，来自 DeepMind 的 AlphaGo 用一盘围棋震惊了全世界。Hassabis 表示 AlphaGo 简直就是 AI 界的阿波罗计划，战胜李世石是个历史性时刻，就连他自己都没有想到 AlphaGo 能赢得如此迅速。“我一直希望 AI 能帮助我们在复杂的科学领域发掘全新思想。”Hassabis 今年 2 月份说道。“这次围棋比赛让我们第一次见识了 AI 的创造能力。”最近，AlphaGo 又在网上匿名狂虐各国围棋高手，它甚至实现了 60-0 的完胜成绩。此外，今年 1 月份 AI 还出山玩起了德州扑克，结果 AI 再次大胜而归，丝毫不给人类面子。
彼得·蒂尔曾说起过他的一个朋友，那位朋友曾有个经典的论断：人们能忍受硅谷，就是因为那里的呆子们虽然拿着大把钱却过着毫无乐趣的生活，连日常嘿嘿嘿他们都享受不了。不过，一说到来自日本的性爱机器人，这些硅谷的极客们却又来了兴趣。这并不奇怪，毕竟这里是直男癌的聚居地，而且性骚扰和性别歧视几乎是硅谷公司的通病。当笔者把这个事告诉马斯克时，他居然也非常实诚的表示：“性爱机器人？这个可以有。”
三年前当谷歌收购 DeepMind 时，两家公司共同建立了伦理委员会，无论是否出于真心，此举都是弥足珍贵的探索，至少它表明 Hassabis 追求的是真正的 AI。去年 6 月，DeepMind 的研究者拿出了一份论文，为想象中的 AI 反叛设计了一个解决方案，一旦 AI 失控，人类只需按下那个“大红按钮”就能解决。
拉里·佩奇认为现在的系统大多都没有处于最佳状态，他相信一旦 AI 加入，人们的需求就能更好的被满足，这样一来“大家就能有更多时间陪家人或者追求自己的兴趣爱好。”不过，这时可能你已经失业了。
马斯克是佩奇的死党，佩奇结婚时他受邀参加，有时到旧金山时他还会去佩奇的家中小住。“每个星期只住一两个晚上，没必要专门买房吧。”这话从一个大富豪口中说出可真是让人惊讶。不过，对于死党对 AI 的理解，马斯克嘴上也从不留情，他认为佩奇在这个问题上太天真了。许多谷歌人看不惯马斯克的指手画脚，认为他每天挂在嘴边的都是陈词滥调。Alphabet 董事长埃里克·施密特表示：“人类制造机器人，政府武装它们，邪恶统治者再让机器人枪口对准人民，随后人类灭亡，马斯克这剧情简直就是科幻电影。”
一些硅谷人则认为，马斯克拯救世界为假，给自己贴金才是真，而且他用的还是老掉牙的剧情。此外，马斯克用人机大战的剧情也是为了吸引人才，其真正目的并非阻止 AI，而是阻止别人发展 AI。
马斯克是个好的销售人才，这点毋庸置疑，一个举着人类保护着大旗的人卖给你自动驾驶的特斯拉你会不买吗？百度前首席科学家吴恩达就曾称马斯克是“营销天才”，“在经济不景气的时期，他都能说服美国政府帮他造了售价昂贵的电动跑车。”吴恩达不像马斯克，他办公室的椅子上就挂着一件刺绣有“相信机器人”字样的服装，他认为马斯克凭借自己出格的言论很快就打进了 AI 圈。“我想他准确地看到了，AI 将会创造巨大的价值。”吴恩达说道。
虽然 Ashlee Vance 曾称马斯克为“科幻版的马戏团老板”，但他认为马斯克的担心是真实存在的，虽然马斯克到底要拿什么对抗 AI 崛起还是未知数。“马斯克的第一任妻子曾说，他们俩夜里很晚还会讨论 AI 的问题。”Vance 说道。“马斯克是个很重逻辑的人，他做每件事都像下棋，总是会深思熟虑，如果他觉得事情不妙，最后多半会以惨败收场。”
加大伯克利分校机器智能研究所联合创始人 Eliezer Yudkowsky 同意 Vance 的观点。他表示：“他可是马斯克，光这个名字就值老鼻子钱了。如果想博得关注，马斯克根本不用谈 AI，直接说移民火星的话题就好。”
一些人对马斯克嗤之以鼻，觉得他想太多了，现在的时代你想让打印机反叛它也没那个能力。还有一波人则认为马斯克有害怕错过的心理：他的朋友佩奇在最新的领域有了新软件，而且程序员的队伍也不断壮大。就像 Vance 说的，“马斯克也想要佩奇手中的玩具，他们虽然是好朋友，但作为硅谷双雄，两者也有竞争关系。”这样的心理其实很普遍，作为一个争强好胜的人，马斯克其实是不愿风头被别人盖过。
对 AI 潜在威胁的不同看法“确实影响了马斯克与佩奇的友谊。”不过马斯克称“那件事已经过去，我们俩现在好着呢。”
虽然与佩奇私交甚好，但马斯克与扎克伯格却没什么交集。小扎经常为自己设定目标并努力去完成，去年他的目标就与 AI 有关。
去年马斯克宣布建立 OpenAI 仅仅三周，扎克伯格就在自己的 Facebook 上发布了新的年度挑战任务，打造一个像贾维斯那样的全能 AI 助手。
一位 Facebook 员工也提醒小扎，千万别一不小心搞出了《终结者》里的天网。但扎克伯格并不担心，他回复称：“我认为 AI 能为我所用并良好的协助工作。有些人认为 AI 是个巨大的威胁，但对我来说，AI 的危险程度远比不上疾病和暴力。”这明显是在呛声马斯克。在去年 4 月的 Facebook 开发者大会上，小扎还表示：“相对于恐惧，我更愿意选择希望。”
在去年 11 月接受《连线》杂志采访时，扎克伯格则表示，现在对于所谓审判日的担心完全是科幻小说里的情节。“如果我们因为恐惧而放慢步伐，就会挡住进步的方向。”他认为现在人们对 AI 的恐惧与当年对飞机的恐惧无异，“在搞清楚如何让飞机飞上天之前，弄那么多规定又有什么用呢？”扎克伯格说道。
在圣诞节前，扎克伯格的 AI 管家终于正式出炉了，他还找来了好莱坞影星摩根·弗里曼来配音。小扎的贾维斯虽然较为初级，但切个歌，开关个灯或者烤个吐司完全不在话下。对于扎克伯格的 AI 管家，马斯克评论称：“这种能自动完成家务活的东西根本算不上 AI，开关灯和调节温度可不是什么复杂活。”对于马斯克的评价，扎克伯格有些不屑一顾，称他的话实在是有些可笑。
去年 9 月，SpaceX 的火箭在发射台上爆炸，顺带毁了 Facebook 的卫星。对于此事，小扎只是冷冷的在 Facebook 主页表示自己“实在是太失望了。”
IV. 历史的断裂
马斯克和其他给 AI 立 Flag 的人现在都被当作爱小题大作的人。去年 1 月，马斯克赢得了卢德分子奖（反技术进步），评这个奖的是华盛顿一家技术政策智囊。不过，马斯克不是一个人在战斗，英国著名物理学家霍金坚定的站在他这边。霍金表示：“我认为人工智能的发展可能会预示着人类的灭亡。”世界首富盖茨对 AI 的未来也深表担心，他认为一旦 AI 觉醒，其后果可能比核战争还要恐怖。牛津大学哲学教授 Nick Bostrom 在他 2014 年出版的《超级智能》一书中写道：“一旦不友好的超级智能诞生，就会千方百计阻止我们替换它，那样的话人类命运就堪忧了。”去年，就连美国前国务卿亨利·基辛格也大声疾呼，称智能机器人可能造成历史的断裂，甚至瓦解整个人类文明。
2015 年 1 月，马斯克和一些业内专家齐聚波多黎各参加一次会议，此次会议的主持人是麻省理工物理学家 Max Tegmark。会后，Max Tegmark 问我：“你买房了吗？家里安灭火系统没？波多黎各的会议重点就是我们需要全套的灭火系统。当我们遭遇火灾并深受其害时，人类发明了灭火器；当车祸带走鲜活的生命，我们又发明了安全带和气囊，但在核武器和 AI 的问题上，我们可一次错误都不能犯，一旦犯了错误连吸取教训的机会都没了，因此我们必须未雨绸缪。”
波多黎各的会议过去半年后，马斯克、霍金、Hassabis、沃兹尼亚克和 Stuart Russell（加大伯克利分校计算机科学教授）等 1000 多位业内知名人物签署了一封联名信，要求禁止进攻性自动武器。“过去的半个世纪以来，这 18 个月对 AI 界的未来是最为至关重要的。”Russel 说道。“AI 界终于苏醒，并开始认真思考怎样做才会有一个美好的未来。”去年 9 月，美国五大科技巨头（谷歌、Facebook、亚马逊、IBM、微软）罕见的携起手来成立了 AI 合作组织。而欧盟这开始探讨有关机器人和 AI 的道德问题，如机器人有没有“人格”或它们应不应该遵守人类的法律。
去年 1 月，Tegmark 再次主持了一次 AI 安全会议。这次会议的会址（加州阿西洛马中心）也很特别，1975 年时，一众科学家曾在这里签署了限制基因实验的协定。这次的安全会议佩奇也参加了，马斯克表示，他们之间的谈话不再剑拔弩张了。
会后，马斯克称我们还有很长的路要走，但他同时表示：“硅谷的顶级科学家们确实开始认真对待 AI 了，他们都意识到了这项技术的风险。”
沃兹尼亚克则认为：“人类与 AI 之间必须建立合作伙伴关系，在打造机器人之初我们就必须在它们大脑中植入一个观念，那就是机器人与人类是好朋友。”
精明的彼得·蒂尔对马斯克的“十字军东征”则有不同看法，他觉得马斯克声势浩大的“抵制”行为反而可能会加速 AI 的研究，因为他的末日论让许多人都摩拳擦掌想要在 AI 领域一试身手。
“AI 问题包括了人们对电脑时代的全部希望和恐惧”，蒂尔说道。“我认为极限情况下，人类的直觉会失灵，我们可能连 AI 是什么都不知道，想找到控制它们的方法就更难了。毕竟我们从来没有在这个星球上处理过比人类更聪明的实体”。
V. 与超级智能合二为一不可避免
为了搞清楚到底谁说得对，笔者专门去见了 Ray Kurzweil，Kurzweil 是《奇点迫近》（吴恩达也非常推荐这本书）的作者，这部乌托邦作品帮我们畅想了 AI 的未来。
Kurzweil 表示：“眼下计算机对人类思考贡献颇大，而仅仅几年前，AI 连猫狗之间有什么差别都分不清。”Kurzweil 是典型的“猫奴”，他在加州的家里养了 300 多只猫。这位 69 岁的作家想要长生不老，他每天只吃一些奇怪的健康食品，此外还要搭配 90 片乱七八糟的药。同时，Kurzweil 还非常支持人与超级智能合二为一的想法，在描述这个想法时，他甚至都用到了“我们”一词，而拥有同样想法的马斯克则谨慎的选择了“它们”这个词。
机器人学家 Hans Moravec 认为 Kurzweil 是个乐天派，他根本意识不到 AI 带来的危险。不过，Kurzweil 可不同意，他表示自己对 AI 的威胁心知肚明。“危险和希望相互交织。就像火一样，它能烧饭取暖，但用的不好也会烧掉你家的房子。此外，我们有类似生物科技指导原则的危险控制策略。”
Kurzweil 将人类对新技术的反应总结为三个层次：哇、哦和如果不继续前进，我们还有别的选择吗？“想不被计算机淘汰，我们唯一能做的就是变得越来越聪明，而创造这些工具就是为了增强人类的能力。”
200 万年前，人类大脑中进化出了新的皮质层，于是我们“发明了语言、科学、艺术和技术。”Kurzweil 认为，本世纪 30 年代，人类将进化成半机械人，通过神经系统直接就能进入 VR 和 AR 世界。“到时人人都是幽默大师、音乐造诣高超且智慧过人。”Kurzweil 说道。除了人人变成贝多芬和爱因斯坦，人体内植入的微型机器人还能治疗疾病，让我们延年益寿。
Kurzweil 认为马斯克的设想可能会成真，AI 可能很友好，但也有可能黑化，如果它们要反叛，人类必须与之一战，而打胜仗的关键是打造一个比反叛 AI 还聪明的 AI 同盟军。
对于机器人替代人类的说法，Russell 不敢苟同，他认为如果机器人替代了人类，这世界上就没有意识存在了，即使它们能创造更令人惊叹的事情，对世界来说也是个巨大的悲剧。Nick Bostrom 则认为这样的世界是“没有孩子的迪士尼乐园”。
“许多人相信如果机器人在智力上超越了人类，就会占领地球并赶走人类。”Russell 说道。“另一拨人则认为人类可以将自己的思维上传到机器体内，这样就能进化成有意识的机器人。不过，我认为这种想法很难实现。”
同时，Russell 也反对 AI 大牛 Yann LeCun 的说法，后者认为《机械姬》或《终结者》中的场景都不会出现，因为机器人没有人类的基本欲求，它们不会感到饥饿，也没有生儿育女的需求，更没有自我保护的本能。“机器人没有自我保护本能的说法是错误的，这项本能无需程序员植入。举例来说，如果你让机器人拿杯咖啡过来，它肯定得保护自己，死掉的机器人是无法完成任务的。因此，要完成任务它就会自我保护，而如果你要阻碍它完成任务，机器人可能就会痛下杀手，这个道理很好理解。”
去年，微软关停了自家 AI 聊天机器人 Tay。Tay 原本寄托了微软的期望，但网友却把 Tay 教坏了，这个“清纯的小姑娘”把各种黄赌毒的词语学了个遍。马斯克发推表示：“看吧，让聊天机器人变成希特勒，微软只花了一天时间。”
特朗普当选总统后，马斯克放低了姿态，开始小心行事。此外，他还当了两面派，在公司层面特斯拉反对特朗普的移民法令，马斯克自己还会发推文声援被特朗普挡在门外的一名，但另一方面他又坚持任特朗普战略和政策委员会的顾问（Uber CEO 就在压力下退出了）。Ashlee Vance 表示：“这做派绝对是马斯克特色。只要能做成自己想做的事，别人怎样风言风语他都无所谓。如果需要，马斯克会毫不犹豫的做一个机会主义者。”
笔者曾询问马斯克，与特朗普合作后到底有多少人向他开炮。回答这个问题时马斯克显得挺沮丧的，他表示：“在与总统谈话时，屋里的气氛还是比较有节制的，要知道会议室里有许多左派分子，他们听不得相反的意见，这样其实不好。”
VI. 人类将走向何方？
Eliezer Yudkowsky 是一位年仅 37 岁的优秀研究人员，他试图找出在现实中人类能否根据意愿指挥 AI。笔者在伯克利分校的一家日本餐厅访问了他。
Yudkowsky 说话像连珠炮，我还没问，他就抛出了一连串问题，“假如 AI 觉醒了，它会允许你在它身上安个关闭按钮吗？它会试图弄掉这个按钮吗？它愿意让你按下按钮吗？出问题时它会自己按下按钮吗？如果它能自行改变设置，它会愿意背着这个关闭按钮吗？”这问题笔者可回答不了。不过，这些问题就是 Yudkowsky 的研究方向，想得出正确答案确实不容易。
我拿许多科幻电影中的经典情节设问，Yudkowsky 托着头耐心的回答我，他表示：“AI 想夺权根本不需要控制整个互联网，也不需要无人机。AI 的危险不在于它们手上有枪，而在于它们比人类聪明。假设它们能预知解决 DNA 蛋白质结构信息的技术，只需发几封邮件给实验室，很快就能建立一个分子结构机器大军。”
“如果你担心 AI 夺权，也别马上想起那些科幻电影中红着眼睛的人形金属机器人，真正的威胁其实来自那些看不到的合成细菌，它们会载着微型电脑进入每个人的血液。随后只要这些机器人释放携带的毒剂，地球上的人类瞬间就会灭绝。”Yudkowsky 说道。“当然，AI 是不是准备这样消灭人类还不一定，毕竟它们智力已经超越人类，我们根本无法摸清它的脾气。所以，当你制造一个比你还聪明的事物时，第一次尝试就不能出任何差错。”
马斯克与 Yudkowsky 想法类似，他并不担心杀戮机器人。“AI 的恐怖之处不在于它要化身为机器人，相反它会成为网络上的算法，到时机器人就会变成终端效应器，无限的散播性是最难阻挡之处。”马斯克说道。
Altman 则想得更远，他表示：“一个能控制整个互联网的 AI 算法可比控制机器人的 AI 算法要强大得多，毕竟我们的生活早已与互联网密不可分。”
为了生动地说明这个问题，马斯克还打了个比方：“假如你创建了一个可以自我升级的 AI 来摘草莓，这个 AI 可以干得越来越好，摘得越来越多。不过，这个系统想做的事情就是摘草莓，所以它可能会把全世界都变成草莓园，而且永远都是草莓园，这样一来人类就没有生存空间了。”
在问到人类能否拿到那个”大红按钮“时，马斯克表示：“我可不想当那个手持大红按钮的人，因为 AI 会第一个来杀掉我。”
Altman 继续开玩笑的表示：“活着真好，因为未来十年里人类要么走向自我毁灭，要么就会进化成新物种殖民宇宙。”
“是的，如果你认为宇宙最终将彻底死亡，那么我们就正在走上这条路。”马斯克补充道。一个如此关心人类命运的人居然拿灭绝来开玩笑，马斯克也真是心大，就像 H. P. Lovecraft 的名言：“最恐怖的讽刺往往不会缺席。”
Via. VanityFair，雷锋网编译