您现在的位置是:首页 > 生活问答 >正文

马斯克传记作家曝重磅内幕:10年前,他就开始担心AI毁灭地球

发布时间:2023-09-07 17:30左豪梅来源:

导读如果能拥有超越常人的远见、精力和幸运,以及随之而来的巨额财富,你会做什么?马斯克的答案是:亲自运营六家公司,保存人类意识的火种,对...

如果能拥有超越常人的远见、精力和幸运,以及随之而来的巨额财富,你会做什么?

马斯克的答案是:亲自运营六家公司,保存人类意识的火种,对抗危险的AI。

周三,马斯克传记作者Walter Issacson在《时代》杂志上刊出即将出版的传记部分章节,讲述了马斯克十几年来一以贯之的对AI的恐惧和担忧,以及他对人类未来命运的思考,华尔街见闻进行了重点摘录。


对AI降临的恐惧

马斯克对AI的恐惧,源于2012年与AI研究员Demis Hassabis的一次会面。

当时,马斯克邀请他参观了SpaceX工厂,并解释说,自己之所以造能上火星的火箭,是为了在核战争、小行星撞击这样的末日降临时刻,保存人类文明的火种。

Demis提醒他,末日清单上应该再加一条——AI,机器的智能未来可能超越人类,甚至也许想消灭人类。

马斯克思考了一分钟,然后认为Demis是正确的,并立即向DeepMind投资500万美元,以“监控它在做的事情”。

这次谈话几周后,马斯克向认识十几年的老朋友、谷歌联合创始人拉里·佩奇介绍了DeepMind,而且经常深夜找佩奇聊AI对人类的威胁,但后者对此嗤之以鼻。

2013年,在马斯克的生日派对上,他们展开了一场激烈的辩论。马斯克认为,如果不立刻行动起来、建立保障措施,飞速发展的AI可能会让人类灭绝。

但佩奇完全不在乎,他反问道:如果有一天机器在智力甚至意识上超越了人类,那又有什么关系呢?这只不过是进化的下一个阶段而已。他指责马斯克是一个“物种主义者”,偏袒自己所属的物种。

马斯克也大方承认了:

“是的,我他妈就是喜欢人类。(I f-cking like humanity, dude.)"
创办OpenAI,是为了制衡谷歌

当年年底,佩奇领导下的谷歌计划收购DeepMind的消息传到了马斯克耳朵里,他很担心,强大的AI如果被佩奇这样不关心人类的人掌握,会发生什么。

所以,他拉来朋友、PayPal联合创始人Luke Nosek,想筹钱阻止这笔交易,但没能成功,谷歌在14年1月完成收购。作为对马斯克担忧的回应,佩奇同意成立一个“安全委员会”,让马斯克和前面提到的AI专家Demis当了委员,其他成员还包括谷歌董事长Eric Schmidt、领英联合创始人Reid Hoffman等人。

然而,在参加了“安全委员会”第一次也是唯一一次会议后,马斯克变得更加不信任佩奇和谷歌,认为委员会里的人都在胡说八道。他开始密集地组织聚会,讨论如何对抗谷歌和促进AI安全。

2015年5月,他还和时任美国总统奥巴马进行了一对一长谈,解释AI的风险,并提议总统对AI进行监管。但奥巴马并没有采纳他的提议。

于是,OpenAI创始人Sam Altman就在这个时候登场了。马斯克和他都相信,相比由少数大公司掌控AI,大量相互竞争、相互制衡的AI系统更加安全。在一场晚宴上,两个人一拍即合,决定共同创办一家非营利性人工智能研究实验室,并将其命名为OpenAI。

不过,在2018年,由于当时特斯拉也要研发AI以驱动其自动驾驶软件,为了规避潜在利益冲突,马斯克无法继续留在OpenAI。他尝试说服Altman把OpenAI并入特斯拉,但遭到了拒绝;此外,他也对OpenAI逐渐走向商业化的方向非常不满,于是最终与OpenAI团队决裂。

回看马斯克如今的商业版图,每家公司都代表着他对AI危机的解决方案:SpaceX可以建造保存文明火种的诺亚方舟;脑机接口公司Neuralink,可以让人类的肉体之躯变得更加强大;特斯拉每天从汽车摄像头上接收并处理1600亿帧视频,这些真实世界数据可以用于“通用人工智能(AGI)”训练,而人形机器人Optimus将成为AGI的物理载体。种种资源,都可以整合到它的新公司——xAI里。

今年上半年,OpenAI引领的AI浪潮不仅抢走了马斯克的聚光灯,也让他更加担心,这些被大公司控制得AI系统,可能会传播“觉醒文化病毒”,毒害美国青少年的心灵;他还担心,如今那些能够自我学习的AI系统可能会对人类产生敌意,以及,用推特数据训练的机器人可能会生产虚假或诈骗信息。

他迫不及待地想要入局,对自己创立并资助了OpenAI但现在却被置身事外感到愤恨。AI是正在酝酿的最大风暴。没有人比马斯克更喜欢风暴了。

于是,上半年,马斯克对OpenAI和Altman个人发起了猛烈的攻击,Altman能理解马斯克的攻击性,在一场采访中,他说马斯克虽然表现得像个混蛋,但他相信他是真的很关心AI领域,并且在担忧人类的未来。

马斯克认为,在AGI赛道上,自己处于领先的位置。

虽然没能在AI浪潮最火的时候赶时髦、做出AI聊天机器人。但马斯克相信自己在通往AGI的竞赛中仍然领先。

他相信,只能生成文本的聊天机器人作用有限,重点是有智慧的实体机器人。一方面,特斯拉已经有了先进的自动驾驶技术和人形机器人Optimus;另一方面,推特上数亿名用户的推文和特斯拉车身的摄像头,也为研发AGI提供了足够的数据。

所以,他有信心能比OpenAI更快创造出AGI:

“特斯拉在现实世界中的AI能力被低估了,想象一下,如果特斯拉和OpenAI必须交换任务。他们必须制造自动驾驶汽车,而我们必须制造大型语言模型聊天机器人。谁会赢呢?我们赢。”

直到最近,马斯克仍然在思考如何减少AI风险,让人类意识能够代代流传。

他认为,人类的智力水平正在趋于平稳,新生儿已经越来越少。与此同时,计算机的智能却在呈指数级增长,就像“打了类固醇的摩尔定律”。生物脑力与数位脑力相形见绌。

马斯克相信,AI以不受控的速度独自前行、将人类甩在身后的“奇点时刻”,会比我们预想的更快到来。

“我不能无所事事,随着人工智能的到来,我有点怀疑该不该花那么多时间去考虑推特。当然,我也许可以让它成为世界上最大的金融机构。但我每天只有那么多精力和时间,我又不需要赚更多钱什么的。
那我的时间应该花在什么地方?启动星际飞船。现在去火星要紧迫得多。另外,我需要集中精力确保人工智能的安全。这就是我要创办一家AI公司的原因。"

标签:

上一篇
下一篇

最新文章