SF Compute CEO Evan Conrad 谈可编程数据中心与算力市场
The Programmable Data Center — Evan Conrad, SF Compute
SF Compute CEO Evan Conrad 在 Latent Space 播客中表示,算力市场必须先做物理交割,即真正交付可用的 GPU 算力,再谈金融化,否则容易出现市场操纵和基差风险。他称 SF Compute 已把 5% 的容量放上订单簿,客户花 100 美元买入容量后平均能靠转卖收回 25 美元,并已成交数亿美元规模。他还表示公司不持有硬件以保持中立,并已支持客户自行在线切分 InfiniBand fabric。
正文 · AI 翻译
可编程数据中心——Evan Conrad,SF Compute 从 GPU 交易到物理交割、独立市场与可编程算力2026年10月20日
本场录制于 AIE NYC 全新“算力交易”分论坛的场边。下一站请关注 AIE CODE,这是我们为全球顶尖智能体工程师举办的最后一场旗舰活动。
在云计算的早期,曾经的嘉宾 Martin Casado 做出了一项极具颠覆性的技术,以至于思科感受到足够威胁,愿意为此支付 6 亿美元,而 VMware 则以 13 亿美元出价竞得:Charlie Wiser@wisercharlie一堂并购课:
思科出价 6 亿美元收购 Nicira。@bhorowitz 对 @martin_casado 说:“高报价是一个信号,说明环境中的某些东西已经变了。收购方给出高报价,意味着你不应该接受它!”
“不要只卖给思科。要走一个流程。”
Martin 停下了……2026年9月20日下午3:42 · 3.71万次浏览
4条回复 · 1次转发 · 29次点赞
那个概念就是软件定义网络,它通过将控制平面与数据平面分离,实现了路由网络的虚拟化。这场革命如今正降临到 GPU 上——过去,运行自己的超级计算集群需要预先投入 5000 万至 1 亿美元来获得承诺,并完成从硬件到固件再到内核的整个技术栈,而 SF Compute 如今让你不仅能现在和未来买卖 GPU 小时,还能以编程方式控制从网络到内存的一切。
我们上次与 Evan 聊的是算力商品化。在 AI Engineer New York,我们聊得更深入:物理交付一份 GPU 合同需要什么,以及算力市场要变得具有流动性,必须先满足哪些条件?
从卖一间房到经营一家酒店
Evan 用酒店类比来描述 SF Compute 的扩张。一位客户想要一间房,接着又要求清洁、客房送餐和安保服务。最终你会发现,交付这间房意味着要经营整家酒店。SF Compute 最初试图转租一个集群;此后,公司已构建起云服务的大部分运营能力,以交付在其市场上交易的算力。
这项工作就是物理交割:买方获得可用的算力,而不是简单地按指数获得一笔现金支付。它把集群的物理约束带入了市场本身。工作负载能否被中断?从存储恢复需要多快?它需要哪一代 GPU、什么样的网络和软件配置?这些细节既影响合同,也影响价格。
让算力变得可交易
SF Compute 没有等待每个 GPU 集群都变得可互换,而是将约束条件不同的订单进行匹配。Evan 认为,这让交易在技术不断变化的过程中成为可能,代价是流动性分散在更多变体上。我们还讨论了现货与远期定价、批处理与实时推理,以及为什么某个指数可能会与实际购买算力的成本脱节。
独立性是 Evan 主张需要市场运营方的核心。他认为,拥有庞大硬件或推理业务的公司,其自身激励会使其更难运营一个中立的交易所。我们还谈到了那些不那么光鲜的工程工作:实地考察站点、设计集群、运行背板,以及让基础设施变得可编程。接近尾声时,他以能够动态切分 InfiniBand fabric 为例说明了这一点。
嘉宾:Evan Conrad,SF Compute 首席执行官。
节目笔记
我们此前与 SF Compute 的对话
2020年石油期货为何跌为负值——EIA
SF Compute 客户如何转售未使用的 GPU 容量
SF Compute 的 2.45 亿美元算力销售
Abel:SF Compute 的交割账本
CFTC:巴克莱与 LIBOR 操纵案
弹性 InfiniBand 分区
时间戳
0:00 — 为什么 NVIDIA 不能做这件事?
0:25 — 欢迎回到 Latent Space
2:23 — 从卖一间房到经营一家酒店
3:47 — 物理交割:真正交付算力
6:00 — 流动性与 GPU 订单簿
8:42 — 交易非标准算力
10:00 — 中断和迁移工作负载
12:20 — 为什么硬件批次很重要
14:32 — 算力合同能延伸到多远?
16:19 — 批处理与实时推理租约
17:58 — 算力价格的形态
20:33 — GPU 代际、规格与 SKU
23:30 — 物理交割与现金交割
27:00 — 新兴的算力市场生态
29:03 — 交付一个 GPU 集群需要什么
32:24 — 主权算力
33:26 — 为什么 NVIDIA 无法建立这个市场
34:48 — 可编程数据中心
文字记录
自动转录,经过轻度排版;发言者标签尚未核实。
00:00 NVIDIA 显然是房间里那个 800 磅的大猩猩。他们为什么没有做 SF Compute?我们的印象是,NVIDIA 做不了这件事,但却能从它的存在中极大受益。他们做不了的原因在于,那样的话他们就不够独立,人们无法在其上交易。
00:25 总之,Evan,欢迎回到 Latent Space。谢谢。欢迎回到 AIE。其实是第一次来 AIE。我想是的,对。这一期非常特别,因为我觉得你研究算力交易、算力市场已经有一段时间了。现在正是风口。对。Jump 基本宣布他们要进军算力市场,所以我很兴奋能把大家聚在一起。你见了 SemiAnalysis 的 Oliver,按我的理解,他基本是在启动对算力市场的覆盖研究。所以大家会去看你的演讲。
01:00 我觉得你把你的起源故事、你为什么必须存在,以及你解决的所有难题都解释得非常好。对。用非常简单、引人入胜的方式讲出来。我很嫉妒你的写作能力,因为你展示了你在 New Reps 上展示的那张传单。对。我当时想,这挺直白简单的,很好。对。总之,恭喜。谢谢。我很感激。也恭喜 AIE。看起来你们在滚动前进。我们在滚动前进。我刚从明年 AIE 的场地考察回来。然后你……有什么提示吗?在 Javits Center。就是他们办 Comic Con 的同一个地方。好。哇。
01:35 哇。哇。天哪。但我觉得金融这个重点确实打动了大家。对。所以我们会试着拆分出来。就像这里,我们把所有东西都归到金融里。你的金融、他们的金融,保险也算金融,但它们都超级不同。对。所以未来我们可能会更细致地拆分,因为人们想深入了解对冲基金、银行或个人财富。对。尤其是在纽约。对。Anthropic 就说,对,我们现在全在做 RIA。对。RIA 就是注册投资顾问。是的。跟你很不一样。
02:10 不,不,不。我知道这个。对。对。好。所以对不了解的听众说,我们两年前做过一期播客,你谈过你的,你知道,SF Compute 当时的情况。嗯,今天你更多是在做一种物理交割。你在谈你的,你的 back fabric 还是叫什么?嗯,backplane。Backplane。对。这显然需要大量硬核工程。对。嗯,你能不能给个状态更新,比如,对于两年前最后一次在播客上听到你的听众来说,SF Compute 现在是什么情况?所以,嗯,我们开始时,我们是一家叫 Junark 的公司,然后我们只是想转租我们的集群。
02:45 嗯,我们从技术栈的那个位置开始。嗯,可以这样想:就像你在一家酒店里,你想卖掉那个酒店房间。然后有人问你,嘿,你会帮我打扫房间吗?嗯,然后你说,哦,我大概也需要酒店房间。或者我需要,嗯,清洁储物间。于是你去获得清洁储物间的使用权,然后他们想要客房服务。于是你去获得厨房的使用权,然后,你知道,他们想要,嗯,安保。于是你去获得安保储物间的使用权,你做这个做那个。到某个时候,你就在经营整家酒店了。嗯,而当你经营整家酒店的那一刻,你说,哦,等等。
03:21 嗯,相反,我在这个市场上的供应商,嗯,是看起来更像一家基金,嗯,或者一朵云,在我们这里是一朵能接入数据中心的云。而我们要升级了。所以我们过去几年所做的是,构建一朵云的完整运营能力,嗯,为了提供,为了真正以可靠的水平交付,嗯,算力。嗯,我们称之为物理交割。我们借用了期货市场、其他市场的一个术语,嗯,在那里,你知道,
03:57 石油或大豆之类的,物理交割意味着你收到石油和大豆。是的。嗯,但是,嗯,在一些市场,嗯,比如石油,还有电力,嗯,石油有一个交付网络。你必须有管道。如果你想让石油交付给你,就必须有办法把它送到你那里。是的。嗯,在金融方面,对金融历史感兴趣的人知道,新冠期间石油价格变成负值,因为,嗯,比如我会付钱让你把石油从我这里拿走,因为它就堆在港口。嗯,而我付不起这个。
04:32 是的。所以我会付钱让你拿走我的石油。是的。这就是物理交割的怪异之处。是的。其他市场也有很多这样的怪异之处。所以在电力市场和电网中,嗯,你填写的订单里有一部分,买单和卖单,嗯,它们存在是因为锅炉需要一段时间冷却。嗯,你可以,你知道,停掉锅炉,然后它会在某个时间段内,你可以重新启动它。所以这必须被纳入订单簿。嗯,这种类型的事情在算力市场也会发生。所以我们同时设计了物理交割和订单簿,在
05:10 同一时间。这意味着我们实际上必须处理算力的真实约束,其中可能包括类似这样的情况:哦,我可以接受被中断,但前提是那东西上有存储,能让我很快恢复。嗯,非常相似类型的问题。是的。所以,呃,人们可以参考你的演讲,而且你已经做过几个其他播客了。嗯,所以我想做的是那种201级别而不是101级别的内容。当然。呃,也因为,我,我曾经是一名衍生品交易员,所以我可以给大家提供一些你通常不会涉及的更多细节。嗯,比如,嗯,今天的算力市场有多成熟、多深、多有流动性?
05:45 呃,不是很成熟,也不是很深,流动性也不高。好。所以我们一直在做的是,首先我们得先让大量供给上线,这本身就需要一段时间。然后我们还得构建整个平台才能做到这一点。嗯,我们刚刚才让它运转起来。所以现在我们就把,嗯,容量转移到订单簿上,嗯,这使它具有流动性。嗯,所以我们总容量的5%在订单簿上,而且我们在持续不断地转移更多。然后我们还在引入更多容量。这些全都在订单簿上。嗯,好的一面是,嗯,也许我该说的是,实际订单簿上的,嗯,成交量很小,但,
06:21 嗯,订单簿上的流动性很高。所以对于你拥有的那一小部分容量,嗯,你拥有,嗯,非常集中的流动性。所以,嗯,一个标准指标,我会说,对于使用这个的人来说,就是一位从我们这里购买容量的客户,他们花100美元购买该容量。我们平均能通过把它转卖给其他人收回25美元。嗯,这就是我们,或者说这是我们试图追踪的指标之一,因为,我们希望流动性对商业参与者有用,而你可以用很多不同的方式来衡量流动性。你可以说,比如,我只想要大量的做市商之类的。
06:56 嗯,你也可以用很高深的方式来衡量它。我们试图通过这样的方式来衡量:这是否解决了,嗯,客户的问题?是的。明白了。所以,呃,我们上次谈话时也提到,有很多关于合约的,呃,关于标准化合约的讨论。是的。和,呃,CFTC之类的机构谈过,那些事情的进展如何?嗯,所以我认为合约标准化总体上仍然相当遥远。嗯,而,我们当时试图做的,嗯,或者说基本上我们在过去几年里学到的是,我们只需要
07:31 运营整个系统。否则你就无法标准化这个东西。所以,要更接近可以标准化的状态,你首先需要让这个东西的所有操作都变得一致。对。举个例子说明什么可能不同:单个运营商可以提供两种不同类型的虚拟机。一种类型的虚拟机,嗯,性能可能比另一种类型的虚拟机下降40%。而40%是很大的降幅。你说性能下降,是指MFU之类的东西,还是你经历过的燃烧量之类的,还是什么?它会有影响。所以在这个特定情况下,我说的是GPU内核启动以及它需要多长时间。
08:07 嗯,这是一个在你进行训练或推理时相当频繁发生的过程。嗯,那个,嗯,呃,基本上,最终结果是你会得到更差的MFU,但是,嗯,就像中间层面。基本上是中间层面。是的。是的。所以,所以我想说的是,所以对于任何以前交易过大宗商品的人来说,商品有不同的等级。是的。对。就像,不是石油。是轻质低硫原油对比轻质低硫原油的反面之类的,或者就像,你知道,呃,A级玉米或B级玉米之类的。呃,所以就像人们试图,嗯,你必须建立这些东西的等价物。正确。是的。我想知道它们是否已经建立起来了。
08:42 所以我们取而代之的做法,嗯,是我们创建了一个订单簿,它带有多个不同的约束条件,你可以说,我想要,嗯,你知道,介于这个和那个之间的东西。嗯,它从某个时间运行到某个时间。嗯,就像,呃,X到Y,你可以给你的订单附加一堆不同的属性。然后我们在一个大型匹配引擎中,将其与具有这些属性的卖单进行匹配。嗯,我们这样做的原因是,它允许我们在不必事先标准化、知道技术能做什么的情况下生成流动性。嗯,而且因为技术变化如此之快,嗯,我们基本上希望能够做到这一点。这样做的代价是流动性不那么集中。
09:18 因此价格会有,买卖之间会有更大的价差。是的。嗯,这很糟糕。是的。但另一方面,这意味着如果你能正确操作,就有很多套利机会可做。所以如果你有一个可以使用多种不同类型容量的产品,嗯,那么你可能会非常喜欢SF Compute,因为你将能够使用多种不同类型的容量,而且你会赚更多钱。嗯,你可以赚取价差。好。在这个网格中,哪些维度重要?嗯,有很多不同的东西。嗯,一个是维度类别,我会说比如,是否存在一个
09:53 它上面现在正在运行的工作负载,还是未来的容量?当然。是现在的容量吗?嗯,现在的容量,为了把它卖出去,嗯,你必须中断你当前的工作负载。所以你必须想,我在不在乎我当前的工作负载被中断?从现在起一个月后才开始的容量,嗯,你可以随时买卖。所以你能,嗯,非常容易地获得流动性。嗯,确实有一些担忧,比如,哦不,我下个月有容量,但这和现在中断一个工作负载非常不同。嗯,中断发生的方式很重要。举个例子,如果你在一个集群上,而这个集群的存储没有你希望的那么好。嗯,举个例子,你底层是不是有Weco或Vast系统?
10:31 嗯,你们提供那个吗?还有,它的规模有多大?嗯,这会改变你应对,嗯,被抢占或被移出集群的方式。同时,那个存储的位置也很重要。所以,嗯,如果你能把数据从一个集群快速转移到另一个集群,嗯,那么也许你就能分散到多个不同的集群上。嗯,你可以在这边被中断,然后在那边重新启动。嗯,要实现这一点,你还需要,比如,一个集群到另一个集群之间的快速传输路径。通常这是用WAN实现的,但大多数这类集群并不
11:06 一定拥有,嗯,比如广域网。是的。广域网。所以,基本上就是用线缆把集群连接起来。私有互联网是另一种理解方式。呃,今天正在搭建的很多集群,它们并不像传统CPU集群那样,嗯,出于延迟原因而靠近客户。对于GPU来说,它们靠近电力,嗯,也就是,你知道,你把数据中心建在电力旁边,而不是客户旁边。嗯,这意味着很多东西正被放到以前人们并不预期那里会有数据中心的地方。
11:41 所以你可能没有,嗯,那么,嗯,优良的传输路径,嗯,从一个集群到另一个集群。所以这,这开始变得重要了。嗯,其他例子是,嗯,一些奇怪的东西,我们理论上支持,但实际上并不支持,嗯,呃,比如这是我们正在考虑但基本上还没做的事情。嗯,早期的GB 200坏了。早期的H 100坏了。嗯,所以如果你买H 100或买GB 200,你可能真的很想要某个时间之后部署的那些,因为你不会拿到第一批烂货。
12:16 所以,如果你是一个非常精明的客户,你可能会愿意多付一些钱,嗯,因为那个原因。哦,所以这跟它们属于哪一批次有关,它们会随着时间推移变得更好。所以比如,嗯,第一批下线的可能有一些缺陷或问题。对吧。所以如果你是拿到第一批的人,嗯,或者,你是从,嗯,第一批次发货中拿到的人,嗯,那没错,它们会坏掉,或者,嗯,以某种方式出问题。我猜这个过程大概是这样的:你看,到处都有缺陷。就是,就是会发生。对吧。完全正确。所以比如你收到台积电或别的谁发来的新一批货,你就跑一下测试,然后你,你找出
12:53 哪些,哪些是坏的,然后把它们扔掉。不就是这么运作的吗?而我,我之前不知道还有这种批次效应,比如,假设2026年第四季度,呃,B300比2027年的B300差多了。是的。所以,嗯,我举个例子。嗯,你描述的是老化测试。对。所以当你拿到一个集群,嗯,一个好的云服务商,它会做什么呢。它会试图把所有GPU都弄坏,嗯,在它们到客户手里之前。嗯,然后,嗯,坏掉的GPU或坏掉的节点,嗯,你会走RMA。你基本上就是去申请。对。你把它退回去,拿到一个新的,这中间有交付周期,但
13:30 不管怎样,你会,你会拿回一些。嗯,然后客户就永远不用经历这些。嗯,我,嗯,我说的那个情况是,嗯,比如早期的H100,有一些固件bug,可能甚至跟具体的,比如可能不是英伟达的问题。可能是像Supermicro在你买的,嗯,那个机器里有个固件bug。嗯,而且它适用于所有机器,这没办法。比如,嗯,解决办法是你得让他们更新固件。嗯,或者他们得在每个新机器里,嗯,发个新东西。
14:07 是的。我们拿到的,那个,B300就遇到过这种情况。嗯,IQ那边不得不用Devin去修。是的。太好了。所以像这类不同类型的问题都可能发生。有意思。好。所以我想,好吧,你看,跟整体比起来这似乎很小。我只是想,比如,我想让人们理解这个市场的形态,嗯,你提到了抢占,你知道,还有,我们谈到了现货实例,以及那,那个类比是怎样的。是的。然后还有,你知道,提前一个月预订。这些市场能延伸到多远?以及,实时或者那种抢占对你来说更有意思,还是,
14:42 再往远,再往远推?嗯,回答你的第一个问题,三到五年。嗯,哇。我们开始看到了。是按月还是按季度,还是怎么说?你是在问现金流怎么运作吗?比如,那些合同,比如,那些期货合约,对吧?就像,再说一次,我以前是合同、呃,衍生品交易员。在,在市场本身,嗯,比如在更广泛的市场里。是的。集群的融资周期是三到五年。好。嗯,所以,那,那,那些付款完全是在那段时间内完成的。是的。我们的订单簿里也有,比如成块的容量,嗯,可以延长到任意时间。是的。有些事我们得做,嗯,为了,嗯,那方面的现金流
15:18 现在。我们现在做的就是直接要求人们为一块容量全额预付。嗯,对于租约或更长期合同,我们不会要求他们这么做。这就涉及到一些我绝对需要白板才能解释的东西了。嗯,不过,嗯,你还有一个问题我正要回答。我忘了。你想要实时还是想要,比如,你想要更,呃,什么对你更有意思?实时还是更远、更远的未来?所以我们更关心更远的未来,因为我们正试图构建一条有大量流动性的远期曲线。嗯,那,嗯,这些算是同一回事,也算不是。嗯,所以我们做的是,既然
15:54 啊,你可以买断一小时,也可以现在就买到下一个小时,或者现在就买到未来三年,以及两者之间的任意时长。这太疯狂了。我知道。嗯,所以,嗯,你知道,或者如果我,你从技术上讲,嗯,每个客户都会遇到某种不同的差异。基本上就像,如果我有一个工作负载,嗯,呃,基本上是批处理推理,我随时都可能被打断。我根本不在乎。嗯,那么我被
16:29 切断的能力,嗯,大概就像,我需要提前一小时知道,嗯,我将会被切断,然后就没问题了。或者甚至可以提前,你知道,一两分钟通知我。嗯,但如果我有,嗯,实时推理客户,他们期望我保持在线,嗯,那么你可以打断我,但要在一个月后,也许两个月,也许三个月后。嗯,然后我可以在这段时间内适应那个容量。嗯,但你不能在一分钟内打断我。嗯,所以这两件事的定价不同。它们定价不同的原因是,为了打断你的批处理任务,你愿意支付的价格
17:05 与为了打断你的,嗯,实时任务而愿意支付的价格非常不同。如果你有实时任务,你很可能在向客户中断服务时要支付SLA罚金。嗯,这说得通吗?是的,我明白了。所以这实际上是违约租赁的市场。这些是违约租赁的市场。我的天。然后还有未来租赁的市场,或者像是,嗯,租赁的市场。哦,我以为这是某种转租的情况。这是租约违约。所以一种理解方式是,嗯,在电力市场里,实际上有两个市场。嗯,有日前市场,还有
17:40 这就是实时市场。算力市场也差不多,嗯,它有即将上线的容量,嗯,或者即将,嗯,交付给你的容量。嗯,然后还有目前正在使用中的容量。而这些有不同的价格动态。好。有意思。是现货贴水还是期货升水?现货贴水还是期货升水?对。那么,嗯,算力的远期价格是高于现货还是低于现货?嗯,算力的远期价格?它,它是这样走吗?它是那样走吗,在,呃,你知道,在大概一年、一年后、两年后的时间跨度上?
18:16 会。哦,这,呃,在不同时间两者都有。我觉得很有意思,你居然不知道。对。我是说,两者都有。这取决于你是谁。嗯,好。那么,呃,我来论证一下。嗯,等等,所以你问的是算力现在卖的价格吗?今天同一单位的算力。对。呃,也许不是今天,也许是提前一个月,对比提前一年、对比提前两年。那条曲线是往上走还是往下走?我们看到的是,像是一个驼峰。我的天。好。那解释一下,嗯,我觉得这从直觉上说得通,基本上就像,如果我有牛奶,而且它快过期了,我就会给它降价。对。嗯,所以这基本上就是我们看到的情况。
18:52 这基本上就像英伟达的发布周期,对吧?呃,嗯,我们更多是在说,如果有一块算力,而且现在快到期了,嗯,它就不能在过去被卖掉。所以它必须降价,才能以某个价格清掉。对。所以一开始你会看到这种下跌,嗯,现在正在卖的东西,任何现在在市场上的东西,嗯,都是还没卖出去的东西。所以价格会下跌。嗯,然后它又会涨回去,嗯,涨到它想去的位置。嗯,然后也许未来的算力价值更低,嗯,因为人们不想要,比如人们更想要现在的算力。所以他们算是在为更短的交货周期付钱。嗯,而他们对远在未来的算力付得更少。
19:28 这就是我认为一条正常健康的曲线该有的样子。对。让我觉得,哦天哪,不是吧的地方,嗯,是,嗯,现在如果你拿一块B300去跑推理,嗯,你大概每小时能赚40美元,嗯,把它作为推理卖出去。基本上任何模型都行。嗯,所以那是假设你百分之百利用它,也许如果你只有50%左右的利用率,那就是每小时25美元左右。对。所以每小时25美元。与此同时,你可以以每小时5到6美元的价格买到B300。这两个数字里总得有一个变。对。这是巨大的套利。这是巨大的套利。你在演讲里经常讲这个。
20:04 对。所以,嗯,基本上有一堆人都在看这件事,然后想,嗯,如果我觉得价格会涨,那我可能愿意在未来付出比之前预想更高的价格。嗯,因为我可能会想,好吧,我现在可以买五份,但如果以后买不到了,那也许我愿意在未来买更多,只为了把它锁定下来,如果它以后才上线的话。所以我们也能看到另一面。嗯,这多少取决于你是谁。好。那么,这样可以吗?还有,我,我真的想在这点上说得非常清楚。当然。你关心的是不同代的芯片,还是只关心总的flops,然后你想把它分摊到随便哪些芯片上都行?
20:40 呃,我们关心不同代的芯片,因为……你关心。我想,我,我猜,你的客户关心吗?关心。对吧。哦,等等。你说不同代的芯片,是指像……比如B300、B300。没错。对。或者甚至AMD之类的。对。呃,是的。我觉得人们完全在意芯片的代际。嗯,呃,我觉得一部分是因为VRAM之类的东西。嗯,还有一部分是因为,嗯,更大的NVLink域。对。诸如此类。所以根本没办法把这一切抽象成某种泛化的算力单位,然后随便揉来揉去。我觉得就像你刚才说石油,连石油都不是铁板一块的石油。石油实际上就是一大堆不同类型的油。
21:16 对。就像航空燃油或者汽车燃油,随便什么。我觉得是一回事。嗯,你会得到一堆不同的类型。确实如此,但你有炼油厂。对。可以有效地拥有黑箱。你可以把油放进去,然后得到随便什么东西出来。嗯,如果是算力,它就是如此异构,我猜这就是那个词。就是你必须把底层的复杂性暴露给终端客户,这对你作为做市商来说是不利的。也许吧。就像你想找出那个瓶颈点,或者,我不知道瓶颈点更好的说法是什么,就像谢林点,所有人都同意,好吧,这算是标准,我们都同意这个标准,呃,你知道,它会
21:53 有点低效。是的。呃,所以我们能够把,嗯,把问题降低到一定程度,但是,对。就像你的工作就是降维。是的。我们减少了很多维度,但尽管如此,仍然有维度。对。它仍然会存在。你,你知道你有多少个SKU吗?所以,嗯,就像5乘100乘,比如5,000等于,我不知道。就像,是什么,我们实际上把SKU做成了一个概念,嗯,那个,目标是让其他人可以做出他们自己的SKU。所以如果我想买Blackwells,我可以说我愿意
22:31 以每小时6美元或更低的价格买入Blackwells。你可以拿GB300s来跟我匹配,也可以拿B300s来跟我匹配,我不在乎是哪种Blackwell,只要低于每小时6美元就行。但你刚才说你在意内存和其他东西。完全没错。但不是每个客户都在意。所以有些客户,嗯,就是能用Blackwells就行,不管具体是什么。有些客户则极其挑剔,他们需要完全特定的东西,并且愿意为此多付钱,因为市场会向他们收取更高的费用。好。嗯,这就是我们做的事。所以,人们用你们的API以编程方式定义他们想要什么,然后你们把它与任意组合的卖家进行匹配,呃,他们可能、可能、可能能够满足需求。
23:08 是的。嗯,有一个前提,就是命名查询是我们正在做的一件新事情。嗯,但查询系统作为一个概念,就是目前订单簿的运作方式。好。有意思。嗯,好吧。所以,呃,你知道,我、我觉得这算是很多,我想,细节层面的东西。有没有什么,我想,是你想教育人们的,不管是金融人士还是工程师,关于算力交易市场的现状,按照你们所发展的那样?因为实际上你们正在定义它。嗯,主要就是关于实物交割的要求。是的。嗯,我们认为,如果你,我们、我们花了三年时间弄清楚为什么你需要
23:44 实物交割。嗯,而且,嗯,我们今天整个对话的核心就是,嗯,这些东西并不像你以为的那么可替代,而我们会试图让它们变得可替代。这是行业该做的事。嗯,但如果没有这一点,你就会面临很多风险。嗯,如果你试图在行业还没来得及建立起,嗯,实物交割之前,就构建,嗯,过多的金融化。嗯,我认为你得到的是,嗯,一个非常容易被操纵的市场,以及一个存在大量基差风险的市场,在那里,嗯,你可能用来对冲的价格实际上与
24:22 与,嗯,你实际能够买到容量的那个市场价格毫无关系。是的。所以,对听众来说,呃,我们,我们上次简单谈过这个,但是,嗯,人们常常震惊地发现,比如说信用违约互换市场的规模是它们所承保债券规模的12倍,呃,差不多是这样,或者像,呃,抵押贷款,嗯,某种再保险的市场,或者,呃,所有这些的规模都大于标的实物交割。所以这就是为什么实物交割与现金交割的区别。是的。而且,基本上现金交割就像,呃,你在《大空头》里看到的那种侧注,嗯,在那里,呃,他们,
24:59 它们可能、也可能与底层事物本身毫无关系。而且它可能被用作其他整体事物的代理指标。是的。而且你不想让那个失控。是的。所以明确一下,我们认为,嗯,现金结算作为一个未来概念是个很棒的想法。是的。嗯,我们只是认为它应该从实物结算中衍生出来。是的。因为正如你所说,它是一种侧注。嗯,而且这有点像,我是说,有点像你在做实物结算之前就先做了现金的未来,嗯,我觉得人们已经在这么做了。是的。完全对。人们在实物结算之前就试图从中赚现金。而且人们为各种各样的事情都这么做,包括
25:34 创业公司的股票。是的。对。就像你可以买卖OpenAI的虚构股份,但它和实际股份毫无关系。是的。嗯,其中很多都搞得很糟。嗯,就像如果你做了一个,嗯,如果你开始卖一个尚不存在的股票的,嗯,衍生品,那会很糟糕。嗯,是的。是的。嗯,所以我是说,我们做的一件事,我以前是个外汇交易员,对吧。是的。还有利率也是。而且,我们做的一件事就是有一个委员会聚在一起说,比如,这是伦敦银行间同业拆借利率LIBOR。是的。我们都同意这是,那个,那个月度定盘价,我们都
26:12 交易到那个定盘价。是的。呃,三年之后,这还有意义吗?所以关键在于,LIBOR 确实被操纵了。是的。我们目前担心的是。有 12 家银行?对。是的。呃,嗯,我们担心的是存在一个非常类似的问题,嗯,就是你可以操纵一个指数。嗯,我们的印象是,为什么你能操纵那个指数,是因为很多指数都基于非常少量的数据,而这些数据,嗯,呃,与购买一份新储备合约的实际价格相关性不高。嗯,这就是我们担心的。好。
26:47 有意思。嗯,好吧。我想,我想这就是,大致的现状了。呃,嗯,我想今天另一个部分就是,呃,你,你,你,你谈到了一个与 Jump 有关的事件,而且你,你和 Silicon Data 是朋友。呃,你从所有这些其他参与者身上学到了什么?比如,哪些主要参与者你会想点名说他们在做有意思的事情?哦。嗯,所以我们非常欣赏 Silicon Data 和 Compute Exchange。嗯,我想他们也很早就进入了这个领域。嗯,而且我认为他们在一条我们认为,嗯,我们很可能最终会成为合作伙伴的路径上,做出了相当合理的尝试。
27:58 我对这个行业的格局了解得不如你清楚。是的。所以,嗯,我们看到的几类参与者是这样的:有些人在努力制定更好的标准。所以我认为 SemiAnalysis 正在努力尝试建立更好的标准。嗯,有些人在尝试做,嗯,残值保险之类的。嗯,这个领域里有不少不同的公司。我对它们中的任何一个都不是特别了解,但是,嗯,我知道,知道这是一个概念,而且我认为这很重要。嗯,有些人在尝试做,嗯,呃,存款,嗯,贷款,比如他们会为你的云信用风险垫付资金。围绕如何解决算力的财务瓶颈,正在形成一个公司生态系统。
28:34 嗯,看到这些很酷。我认为在这个生态系统中,你真正想要的是买家和卖家。你想要一个分析师。你想要,呃,我们说过保险,或者,呃,那个是什么来着,呃,残值。是的。是的。而且你,我们想要这种健康的生态系统存在。嗯,但显然你们在负责物理交割这个问题,这,这真的很有意思。嗯,好的。所以,我是说,我们可以聊聊硬科技那一面,因为显然你们也在招聘,呃,极其顶尖的工程师。是的。描述一下你们的技术栈。嗯,我们做云所做的一切事情,但不是作为一家
29:10 云。嗯,也就是说,我们不拥有硬件。我们不拥有硬件的原因是,如果我们拥有硬件,我们就能操纵远期市场。所以我们必须做瑞士。我们必须保持独立。嗯,这给公司带来了很多奇怪的事情。嗯,但为了进行物理交割,你必须做现场考察。必须去数据中心实地查看。嗯,你必须,嗯,你必须设计物料清单并确保,嗯,你基本上得做供应链咨询,嗯,也就是你要与不同的 OEM 建立关系,嗯,确保东西按时交付
29:46。嗯,然后你必须,嗯,做集群架构。嗯,呃,所以你要设计集群本身。嗯,然后你要,嗯,部署机架,或者与合作伙伴一起部署机架并监督这个过程。嗯,然后你要做,呃,背板管理。所以你要接管,嗯,呃,PDU、交换机、DPU,还有,嗯,UFM 和 BMC,你要运营,嗯,你所出售节点周围的整套,嗯,线束。你说的是你们 SF Compute 的员工。是的。哇。嗯,所以,呃,当你从云厂商那里买一个节点时,嗯,有裸金属,但裸金属周围还有一大堆
30:23 东西。是的。嗯,而为了让那个裸金属节点工作,你必须运营其他所有东西。然后我们。因为我就像传统上数据中心的工作就是把其中一些东西从你那里抽走。是的。我们就是做这件事的人。好的。对。嗯,但你们不是,你们不是在做数据中心业务。你们不是那种 Equinix 之类的公司。我们,我们不是在做数据中心业务,嗯,我们合作的对象是,我们提供超级计算即服务。嗯,这意味着人们来找我们说,你知道,
30:58 我手里有X,X在哪里,我有,你知道,这里有X兆瓦。也许有时候他们的意思是,我有一个数据中心。嗯,那就像是,嗯,想把它变成一个GPU集群。比如我的选择是,我可以卖掉GPU集群,或者我可以把数据中心卖给某个人,或者我可以成为云。然后我们去找他们说,太好了。嗯,我们会把你变成云。我们是超级计算那一部分。你是数据中心。我们合作吧。然后我们来卖,我就能赚钱。嗯,有时候是那些手里有东西可以变成数据中心的人,这种情况下我们基本上会把这个项目一直管理到那一层。
31:33 嗯,然后我们会和那些远方的,我们会和那些人合作,把他们的带电土地,嗯,或者他们拥有的任何东西,嗯,通过与合作伙伴合作变成一个数据中心。嗯,然后我们在超级计算那一部分接手。好的。这要求我们在内部具备某种数据中心专业知识,但我们不自己施工建设。嗯,所以是的。是的。所以它是,呃,某种程度上是模块化的,因为你有不同的场景需要应对。是的。呃,有人曾经把我们描述成,嗯,呃,就像算力界的Palantir,嗯,因为就像这些,每一次都是全新的挑战。
32:10 嗯,呃,但是,而且我们喜欢,我们,我们与人们深度合作。在两边。是的。呃,而且主要是在美国,主要是在美国,但我们在世界各地运营。是的。到了某个时候,SF Compute 会不会变成一个名不副实的名字?呃,所以当,所以我们在世界各地部署集群。是的。当我们这样做的时候,我们是在与那些自己也想在世界各地成为云服务商的人合作。嗯,他们看起来像是主权算力参与者。嗯,而我们向主权算力方的推介非常棒。呃,让我们帮你在你自己的国家建立一个云。嗯,而我们会带来旧金山的承购。我们会带来旧金山的专业能力。
32:45 我们会搭建集群。嗯,这就是我们的全部业务。啊,嗯,我们会把它做成的。你们主要的,呃,你们能说出名字的最大的已公布合作伙伴是谁?嗯,没有我能说出名字的。真的吗?哇。呃,我们会在一两周内,嗯,有一些公告,嗯,我们预计会公布。是的。各种事情吧。当然。当然。祝好运。是的。不,我是说,呃,我,我觉得这对每个国家来说都真的很有意思,比如,谁,谁在投资主权 AI 来搞清楚这件事。嗯,而且有意思的是,旧金山仍然算是那个品牌名,呃,那,那,那非常有市场吸引力。
33:20 所以我觉得有意思的一点就是,把整个市场想清楚。NVIDIA 显然是房间里那头八百磅重的大猩猩。他们为什么不做 SF Compute?答案同样会是市场操纵。但让我们真正深入看看多方参与者的动机。对。所以我们的印象是,NVIDIA 做不了这件事,但它从这件事的存在中获益巨大。他们做不了的原因是,那样他们就不够独立,人们无法在其上进行交易。如果你不在上面交易,你就没有足够的流动性让贷款方基于远期市场进行融资。
33:55 这也是为什么 Crusoe、CoreWeave 和 Lambda 做不了,为什么超大规模云厂商做不了,为什么 Base 10、Fireworks 和 Modal 做不了,因为他们在那一边的需求太大了。这件事对整个行业都有利,因为它降低了融资成本。但没人能做这件事,除非他们放弃赚取所有大额推理收入和所有大额云交易的能力。你必须扼杀自己的业务才能做成这件事。这就是为什么没人做。从结构上讲,他们就不是为了做这件事而设立的。而你基本上是在减少摩擦,那就是你的全部收入。
34:30 你们已经公布了一些里程碑。其实我前面忘了说。你能重复一下它们是什么,并稍微来个胜利巡礼吗?我们已经完成了数亿美元的交易量。我们还有大量新集群即将上线。然后我觉得我最兴奋的是,我们已经发布了一大堆新功能,让 SF Compute 对平台即服务公司来说非常可行。一个例子是我们允许客户细分
35:06 他们的InfiniBand网络架构,而无需询问我们。很多云厂商,当你去购买时,他们会给你一套InfiniBand网络架构。然后如果你想重新划分那套InfiniBand网络架构的线路,你需要联系他们,他们才会为你做些什么。我们现在可以为客户即时完成这件事,我觉得这真的很棒,因为它与市场对接得非常好——你希望能够重新划分资源,以便扩展或缩减你的集群。你会把这描述为像是在虚拟化数据中心并使其可编程吗?是的,我们正在虚拟化数据中心并使其可编程。所以,如果你拥有硬件本来能得到的所有东西,我们都在尝试将其虚拟化,我觉得这让我们很兴奋。有意思的是,上一次发生这种事就像是云计算,那真的很酷。最后,你知道,我想你对人们的行动号召是什么?是工程师吗?是像,把你的供应给我?像,到底是什么?如果你想要拥有一个GPU集群,并想从中获得剩余价值,你想把它纳入你的投资组合,我们很乐意与你合作来构建那个GPU集群。我们会接手,我们会完成其中的超级计算部分,并
36:18 确保一切顺利进行。我们承担SLA。然后如果事实证明那是个坏主意,你需要退出那个集群,我们可以立即把那个集群卖给其他人,这样它就不会冲击你的资产负债表。非常简单的推介。好的,非常感谢你抽出时间。你为这个行业做出了巨大贡献,我很高兴能成为你的朋友。我很感激。好的。谢谢。就是这样。
关于本集的讨论
准备好了解更多了吗?