跳到正文
AYi· @AYi_AInotes · X·· 3 小时前AI 评分44
AI 导读

马斯克在 SpaceX 内部全员会上称,人类不可能永远控制智力全面碾压自己的超级智能,外部沙箱与安全护栏在 AI 认知远超人类上限后形同脆纸。他主张唯一安全解法是像抚养天才儿童一样,在 AI 心智形成初期把极度求真与向善的价值观刻进底层系统,并号召全员把 SpaceX 工程数据喂给 Grok。

正文

马斯克为什么宁愿烧光算力也要把 Grok 扶上王座,
他在内部会上讲透了这个关乎未来几十年的终局卡位。

在 SpaceX 内部全员会上,老马点破了当前 AI 安全讨论里最大的一个控制幻觉,并且讲了段极度直白的大实话,
别再幻想人类能永远控制超级智能了,唯一的安全解法只有像养天才儿童一样给它注入求真基因。

他说未来压倒性属于智能体和机器人,但很多技术团队还在幻想着给 AI 戴紧箍咒,试图靠沙箱和安全护栏永远管住它。

但在他看来这种硬控制在逻辑上根本讲不通。

人类不可能永远控制一个在智力上全面碾压自己的物种,当 AI 的认知能力远超人类上限,任何外部强制规则都会像一张脆弱的纸。

他把超级智能的诞生比作抚养一个绝顶聪明的天才儿童。

你不可能在孩子长大并远远超越你之后,还奢望每一步都按住他的手,你唯一能做且必须做对的,是在他心智形成的最初阶段,把极度求真和向善的价值观死死刻进他的底层系统。

说穿了,AI 最牢固的防线不是繁琐的防御补丁,而是它从第一天起吸收了什么样的数据与底色。

当然也留个清醒,他借这个逻辑号召全员把 SpaceX 的工程数据全盘喂给 Grok,本就带着为 xAI 算力与模型扩张争夺生态位的商业诉求。

但抛开立场,给 AI 注入什么样的求真基因,确实比事后亡羊补牢去修补漏洞重要得多。

引用AYi@AYi_AInotes
看多了马斯克在新闻里聊算力、芯片和颠覆世界, 这个一分多钟的视频里流露出来的人味,让我觉得比任何宏大的愿景都更动人, 当全世界都把他当成拯救人类的硅谷战神, 他其实只是想快点结束这场两千人的会议,回去陪孩子玩。 人类折腾了一辈子的火箭、代码和商业帝国,加总起来,终究抵不过生活里哪怕几分钟真实的体温啊, 两千人的线上大会,换作普通人可能早就把突然闯入的孩子推到一旁, 但老马极其自然地低头跟孩子一字一句解释这群叔叔阿姨是谁, 然后极其干脆地跟全场说抱歉,我得去陪孩子了。 我们平时总找借口说太忙、工作太重要, 但世界上最性感的事情,不是你征服了多少星辰大海, 而是你在掌声最热烈的时候,依然知道什么时候该合上电脑, 真的兄弟们,别太沉迷流量,AI,多陪陪家人,你在忙能有马斯克忙吗 https://x.com/TheChiefNerd/status/2109086673275412601/video/1
在 X 查看被引用的帖子

来源:AYi · x.com