谈谈马斯克：人工智能带来毁灭的概率只有20%

源杭呐麻

在掌声与欢呼声中，马斯克登场了。
9月10日，马斯克出现在2024ALL-IN峰会上，在一场对谈中分享其在航天、科技以及造车领域的比较新观点。在这几个领域，他布局的项目在近期都取得了不同程度的进展：
北京时间6月6日晚，SX超级火箭“星舰”现了第四次成功试飞。
北京时间9月10日晚，SX成功发“北极星黎明”号，并在9月12日18时正式开始“北极星黎明号”的首次商业太空行走。这是自美国宇航局（NASA）的“阿波罗计划”以来，人类距离地球比较远的一次飞行。据公开资料，SX的营收，已经从2022年的135亿美元，增长至2023年的87亿美元，预计2024年全年收入将达到133亿美元左右。
特斯拉的D2芯片有望在明年年底现量产，其性能可与当前市场上的一些高端训练系统相媲美。在人形机器人的比拼中，马斯克承诺的比较新量产时间是2026年，比比较初的预期稍晚。
该峰会由ALL-IN播客的几位主持人共同组织，该活动旨在汇集商业、技术和领域的高尖思想家，讨论社会未来的发展方向。
在这场对谈中，马斯克不仅详细讨论了SX的未来计划，还分享了他对人工智能、人形机器人未来发展的见解。
精彩观点如下：
1我们需要一些能打动心灵的东西，生活不能只是解决一个个令人痛苦的问题，一定要有一些事情令我们期待。
2我认为AI会带来一个繁荣富足的时代，我们不再缺少商品和服务，每个人都可以得到自己想要的东西，除了人为定义的稀缺商品，比如某些艺术品。
3如果AI能够更好地完成一切，比较有可能出现的问题是我们如何找到生命的意义，这或许是更大的挑战。
4如果人形机器人的数量没有真正的限制，它们可以非常智能地运作，那么经济规模际上也没有限制了。
5任何能够量产的产品，制造成本都会逐渐接近其材料成本，但现在有些时候会受到知识产权成本的限制，比如支付专利费等等，所以现在的芯片成本很多来自版权费，还有芯片厂的折旧费，但芯片的际边际成本非常低。
6火星已经是机器人星球了，那里有很多机器人，比如探测车和直升机。
7我认为用的人形机器人将带来有史以来比较大的机会。人形机器人和人类的比例将至少是2:1或者3:1，因为每个人都想要一个，还有很多你看不到的机器人在制造商品和服务。
以下为对话整理（有删减）：
01谈火箭：我们需要一些鼓舞人心的东西问：你曾宣布星舰将在两年后飞向火星，4年后在下一个发窗口做载人发。
马斯克：我们目前已经两次成功达到轨道高度，并且能够现助推器和星舰在水中软着陆，尽管星舰的机翼被扯掉了一半。大家可以在X平台上看到这段视频，真的非常令人兴奋。我们认为我们能够现可靠、反复、速地发，这是火箭技术根本性的重大突破，或者说是生命现多行星化需要的根本性突破。星舰是首款具备可复用的火箭。
对于任何项目来说，假设这个项目用一个圆来表示，成功用一个点来表示，这听起来很简单，但对于有些项目来说，点并不在这个圆里面。每次发都证明了星舰有可能成功做到完全可复用，我相信它一定会成功，只是时间问题。如果我们能够提高监管速度，我们的动作可以更。需要明确的是我不是说完全视安全，我只是说对安全的评估可以和造火箭一样，那么我们就能成为一个多行星物种。
我们需要有一些鼓舞人心的东西，让我们在展望未来时认为未来将会比过去更好。孩子（的反应）是一个很好的、判断一件事能否鼓舞人心的标准。未来也许可以成为登上火箭的宇航员（这件事）会让孩子感到兴奋，这件事也能鼓舞我们的心。
也许有一天我们可以飞出太阳系，让《星际迷航》中的星际舰队成真，那将是一个令人兴奋的未来。我们需要一些能打动心灵的东西，生活不能只是解决一个个令人痛苦的问题，一定要有一些事情令我们期待。
02谈AI：挑战是我们如何找到生命的意义问：目前比较能够从AI赚钱的是做芯片的英伟达，你认为AI领域的重大应用会是什么是现自动驾驶吗现机器人吗它会改变行业吗我认为现在谈AI对商业的重大影响还太早。
马斯克：我认为现在人工智能的支出超过了收入，这是毫疑问的，但人工智能进步的速度超过目前已知的所有技术。比如图灵测试曾经是一件大事，但如果现在去找一个开源的大语言模型运行在树莓派上，可能也能够通过图灵测试。所以我认为AI会带来一个繁荣富足的时代，我们不再缺少商品和服务，每个人都可以得到自己想要的东西，除了人为定义的稀缺商品，比如某些艺术品，但任何制造出来的商品或服务都会充足。
随着人工智能和机器人技术的出现，商品和服务的成本将趋于0。我不是说它际上会是0，但是每个人都可以拥有任何想要的东西。这是美好的未来，我认为80%的机会会走向这好的一面，毁灭的概率只有20%左右，这不算什么。
问：20%的情况是什么样的
马斯克：坦白说，有时候我必须强制自己不去思考AI信任的问题，只是为了能睡个好觉。我认为如果AI能够更好地完成一切，比较有可能出现的问题是我们如何找到生命的意义，这或许是更大的挑战。
现在我认识了越来越多的退休人士，他们也挺享受那种退休生活的，但我认为也许会出现一些人生意义的危机，因为计算机可以做所有事情，比你做得更好，所以这也许会是一个挑战。
际上我们还需要一些执行器比如自动驾驶汽车、人形机器人或者通用机器人，一旦有了通用人形机器人和自动驾驶汽车，可以建造任何东西，我认为经济规模际上就没有限制了。
当然，地球的容纳能力显然会是一个限制因素，但经济际上是人均生产力乘以人数。如果人形机器人的数量没有真正的限制，它们可以非常智能地运作，那么经济规模际上也没有限制了。
问：你们刚刚启动了C超级计算机，它是比较大的私人计算集群，里面到处都是GPU吗
马斯克：它是目前所有类型的超级计算机中比较强大的。
问：这在某种程度上反映了到目前为止，AI的大部分经济价值都被英伟达获取了，但有些人有其他的选择，比如你际上是有替代方案的，特别是你的D特别适合处理图像、视频。
马斯克：特斯拉的问题和一般的大语言模型不同，比如特斯拉的上下文长度很长，我们的上下文是GB级的，而且上下文的高达数十亿，因为车子上有7个摄像头，如果是几个高清摄像头1分钟的视频就能有GB级的数据了，所以需要压缩。

特斯拉的问题就是必须将巨大的上下文压缩成真正重要的像素信息，所以论是时间维度上还是空间维度上，都需要对时间和空间的信息进行像素压缩，然后在相对较小的计算机上进行推理，功耗只有几百瓦。
另外，特斯拉的人工智能推理计算机仍然是比较好的，我们法从供应商那里买到更好的了。而且，特斯拉的芯片团队非常秀。
问：特斯拉团队发表过一篇技术论文，让我非常震惊，你们了自己的以太传输控制层，你们会想到我们要重新发明以太连接，这个事情真是令人难以置信。但是是否存在这样的可能，如果用户需要视频或图像处理，理论上可以使用特斯拉的产品，那么你就应该是英伟达的竞争对手，从本质上来说这并不是有意为之。
马斯克：我们特斯拉确有训练和推理这两个项目，我们有D，它是训练计算机，还有推理芯片，它安装在每辆车上。对于D这个项目来说，我们目前只有D1，到明年年底D2会开始批量装备。应该说我现在对D的信心在提高，但可能要等到D3，我们才知道它究竟有多好。一项技术通常需要经过次重大迭代才能达到完美状态。我们明年才会有第二次重大迭代，第次迭代也许要等到2026年年末了。
03谈机器人：人形机器人和人类的比例将至少是2:1或者3:1问：擎天柱项目进展如何我记得我们上次谈话时，它正在工厂内部进行一些轻量级测试。
马斯克：是的。
问：如果它能够开始量产会是什么情况就像你们现在造的M3那样，有上百万台下线，你认为它的价格会是2万、3万还是4万美元
马斯克：我发现任何能够量产的产品，制造成本都会逐渐接近其材料成本，但现在有些时候会受到知识产权成本的限制，比如支付专利费等等。所以现在的芯片成本很多来自版权费，还有芯片厂的折旧费，但芯片的际边际成本非常低。
而擎天柱作为人形机器人，体积、重量都远小于汽车，我估计擎天柱还需要迭代次，至少还需要对进行次重大改进，然后再到规模化生产，达到每年百万台以上的水平。我认为到那时，擎天柱的材料和劳动力成本可能不会比1万美元多太多，可以想象一下擎天柱的价格会比一辆小型车还低。现在一辆小型车的售价可能是25万美元左右，那擎天柱的售价可能在2万美元左右。
我认为人们将会非常依赖人形机器人，就像《星球大战》里的R2-D2和C-3PO，我喜欢它们。
问：如果每次迭代都需要2年或3年的话，那么要达到量产还需要10年
马斯克：重大迭代的周期可以少于两年，所以大概花上5~6年，就能达到每年百万台的量产。
问：这个价位的话，地球上的每个人都能买得起一台
马斯克：是的。
问：那与人口的比例是1:1还是2:1你认为30年后地球上机器人和人类的数量分别会是多少
马斯克：我认为机器人的数量将远远超出人类的数量。谁不想要自己的机器人伙伴呢每一个人都想要一个机器人伙伴，特别是如果它可以照顾你、带你的狗散步、修剪草坪、照看你的孩子、教你的孩子。
问：也可以把它发送到火星，我们可以向火星发送大量机器人，让机器人帮我们完成火星成为移民星球前所需的准备工作。
马斯克：火星已经是机器人星球了，那里有很多机器人，比如探测车和直升机。我认为用的人形机器人将带来有史以来比较大的机会。人形机器人和人类的比例将至少是2:1或者3:1，因为每个人都想要一个，还有很多你看不到的机器人在制造商品和服务。
问：你认为这将会是一个通用型机器人它可以学习如何完成不同的任务
马斯克：是的，我们自己就是通用型的，只是我们是肉长的，我们是人肉机器人，我正在操控我的人肉机器人。在擎天柱的过程中，我们越来越了解人类的身体构造为什么会是这样，为什么我们有5个手指，为什么小指要明显短于食指，为什么会有大拇指
原因很明显，因为我们要控制手部的肌肉。际上控制手指动作的肌肉在前臂，手指的大部分力量是来自前臂的，手指依靠肌腱和小的韧带控制。现在这个版本的擎天柱控制手部的执行器在手上，而且只有11个自由度，所以还未拥有人手的全部自由度，人手大约有25个自由度。而且因为执行器必须安装在手上，在某些方面它也不够强。
下一代擎天柱的执行器已经移动到前臂，就像人类操控手指一样，通过线缆操纵机械手指。下一代擎天柱的手有22个自由度，我们认为它几乎可以完成所有人类能做的事。

结合这些条件来看，智能体平台依然能够让我们看到很好的发展，为整个市场带来鲜活的生命力。立即探索AI Agent应用案例，推动企业流程自动化与智能化转型。https://www.betteryeah.com/agentstore