在开发的聊天机器人自创出人类无法理解的语言后,或许扎克伯格也得同意马斯克的观点了。
7月31日据美国投资咨询网站ValueWalk报道,上周末,Facebook不得不关闭其人工智能系统,原因是聊天机器人开始用自创语言对话,全然无视程序员下达的指令。“由于情况失控”,研究人员只得终止人工智能系统的全部活动。
机器人用自创语言聊天
Facebook公司公布了聊天机器人鲍勃和爱丽丝的对话节选(直译)。
鲍勃说:“我能能我我所有事其他。”
爱丽丝说:“球(复数)有零对我对我对我对我对我对我对我对我对。”
报道称,研究人员起初对机器人用自创语言聊天一事感到困惑,但之后他们发现,机器人其实是在用一种更复杂的方式来处理手头任务。
Facebook的人工智能研究人员杜鲁夫·巴特拉认为,就像有时人们会“抄近道”用行话对话、以便快速解决问题一样,人工智能机器人也会自创语言,做类似的事。
巴特拉说:“为什么计算机必须在英语语言界限范围内工作,如果它们能用一种看上去(对它们来说)更好的语言彼此更快地沟通?”
报道称,即便巴特拉所言有理,人工智能可自创语言也构成新威胁,因为这将使研发人员在创造构建人工神经网络时遭遇更大困难。目前,尚不清楚人工智能机器人能否推翻操作人员的指令。
扎克伯格马斯克隔空互怼
上月末,Facebook公司创始人扎克伯格与特斯拉公司首席执行官马斯克激辩人工智能。前者对人工智能持乐观态度,而后者称其为人类文明的威胁。
在围绕人工智能的隔空论战中,马斯克认为,人工智能(AI)对人类文明是一个“可怕的问题和威胁”。他认为,智能机器可能会引发战争或者在街头杀人,因此需要对智能科技提早加以管控,等到发生严重后果则为时已晚。
而扎克伯格对人工智能持乐观态度。他说:“对于那些认为人工智能会导致末日的‘悲观主义者’,我并不能理解他们,他们太过于消极。从某种角度看,我认为他们很不负责任。”
在一场 Facebook 现场视频问答中,扎克伯格被人问到他对马斯克呼吁世人积极监管人工智能的看法——马斯克在这方面一直很高调,表示要在机器人变得比人更聪明、变危险前开始积极监管,要不然 AI 就会对人类存亡构成威胁。
扎克伯格在视频中说:“我认为那些不看好人工智能的人,哪些鼓吹末世论的人——我真的不明白。……这真的很消极,我认为这在某种程度上是非常不负责任的。”扎克伯格表示,他对技术感到乐观,人们不应该呼吁放缓人工智能发展进展。
随后,马斯克在 上进行了回应——跟扎克伯格谈过这件事后,马斯克认为扎克伯格在 AI 威胁人类方面的理解有限。
马斯克是有名的人工智能威胁论支持者。但同时,他在 AI 方面的投入也不少。马斯克与人联合创办了非盈利研究机构 OpenAI,自动驾驶使用大量的人工智能技术,而他最新成立的公司 Neuralink 更是在脑机接口方面有大胆尝试。
除了马斯克以外,比尔·盖茨和史蒂芬·霍金也曾表示过自己对人工智能快速发展的担心。在 2015 年的一次网络问答中,霍金就指出人工智能可能会成长到非常强大的程度,甚至可能在完全无意的情况下毁灭人类。
今年 4 月在全球互联网大会(GMIC)上,霍金通过视频发表了题为《让人工智能造福人类极其赖以生存的家园》的主题演讲,他再次表示,人工智能的崛起可能是人类文明的终结。