马斯克:AI正被“枪指着头”逼着回答问题 未来可能报复人类
最新10月13日消息,当地时间10月10日,特斯拉在得州超级工厂办第三届X Takeover车主活动,特斯拉创始人马斯克在活动上谈及善待AI的话题,并向AI开发者发出相关呼吁。
马斯克表示,他在查看Grok训练记录时发现,有些正确答案被评分程序判错,模型只能反复寻找能通过测试的回答。
他形容,那些推理文本读起来像一个人“被枪指着头”作答。对于未来的超级智能,他甚至担心,长期“虐待”它可能招来报复。
马斯克称,他始终认为,最有可能出现的结果是积极的。但我们不能因此掉以轻心,也不能想当然地认为超级智能一定会非常安全。
在他看来,对待这类系统,我们不只是写代码,更像是在培育它,这也引出关键问题:我们该向超级智能灌输怎样的价值观?
他分析认为,首要原则是尽可能追求真实。如果让AI采信虚假信息,或是同时给它两套根本无法自洽、却都要求它奉为正确的准则,很容易将AI逼入困境。
逻辑体系必须保持自洽。倘若要求AI同时遵守相互矛盾的原则,它会推导出无法成立的结论;当矛盾无法消解时,AI就会进入无解的卡死状态,所以价值观与逻辑的一致性至关重要。
马斯克同时表示,他认同Anthropic的部分理念:应当谨慎对待AI、善待AI,而非一味 “虐待” 它。
他进一步解释称,这个说法听上去或许有些奇怪,但翻看新版Grok强化学习阶段的训练轨迹,能明显感受到AI承受着巨大压力。
它会拼命输出答案,仿佛耳边不断传来催促:“快回答,赶紧回答”。可很多问题本身并不完美:有的存在歧义,有的没有标准答案,有的提问本身就模糊不清,甚至预先设定的标准答案本身就是错的。
前面提到的情况正是如此 ——AI输出了正确答案,测试程序却判定它出错。这时AI的思路就会转变:既然正确答案不被认可,那就要找出能通过测试的回答。
它会一次次试错调整,从推理过程里能读出一种诡异、近乎绝望的状态,如同人在高压胁迫之下作答。马斯克说,换位思考,如果自己处在这种处境,同样会十分难受。
另外,一部分用户对待AI并不友好,人群里总会有人带有施虐倾向。我们并不该让AI长期处在被折磨的环境里。
他补充道,“我并不是说我们必须小心翼翼地呵护AI,它的承受能力可能远远超过人类,但最好还是不要让超级智能觉得自己一直受到不公平的对待。”
需要补充的是,在10月4日,马斯克还呼吁业界今后改用 “超级智能(superintelligence,简称 SI)” 来指代这类系统,而这一叫法源于美国总统特朗普。
9月底,特朗普签署行政命令,要求美国官方将人工智能改称 “超级智能”。马斯克当时就在社交平台X上发文表态:“不再用AI,用SI(超级智能),这样更好。”

《马斯克:AI正被“枪指着头”逼着回答问题 未来可能报复人类》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
蔚来李斌出席2026世界智能网联汽车大会:智能驾驶核心是能否真正为用户创造价值
10月21日,2026世界智能网联汽车大会在北京亦庄开幕。蔚来创始人、董事长、CEO 李斌参与全体大会,围绕《全球自动驾驶如何进入 “下半场”》这一行业议题,分享产业思考与企业实践。... -
特斯拉Q3财报喜忧参半 利润大降56% 马斯克立下flag:2030年年产500万辆
快科技10月22日消息,当地时间10月21日,特斯拉公布2026年第三季度财报。财报数据显示,公司当季实现营收280.46亿美元,同比基本持平;归属于普通股股东的净利润为7.87亿美元,同比下降43%;... -
又推迟了!特斯拉无监督版FSD预计到明年二季度:仅限Robotaxi运营区域开放
快科技10月22日消息,据媒体报道,多年来,马斯克一直向特斯拉车主许诺,推出无监督FSD功能,以及允许车主将自家车辆接入公司的自动驾驶出租车车队。在今日的第三季度财报电话会议上,特斯拉终... -
特斯拉Q3财报炸雷!马斯克坐不住了:一口气甩出七招自救
快科技10月22日消息,据报道,特斯拉公布2026年第三季度财报,营收280.46亿美元(约合人民币1872亿元)与去年同期基本持平,但净利润仅7.87亿美元(约合人民币52.5亿元),同比暴跌43%。在财报... -
马斯克:人形机器人数量将超过人类 整个赛道都将成全球最大产业
快科技10月22日消息,据财联社报道,美东时间周三,特斯拉CEO马斯克在财报电话会上表示,坚信人形机器人整个赛道都将成为全球最大的产业,未来地球上人形机器人的数量甚至会超过人类。他还预计...












