- Lakebase 的 LTAP 设计让湖成为数据库的存储,而不是副本:一张 Delta 或 Iceberg 表、一个目录,前面由 Postgres 缓存和 pageserver 提供速度。
- 点查读取 Postgres 堆页,扫描读取 Parquet,每个分析查询都能看到一致的快照,包括尚未进入湖中的提交。
- 逻辑复制通过一条必须跟得上的管道重放每一次变更,这使得它成为构建湖副本的一种昂贵方式。
Reynold Xin 的文章《从单体到 Lakebase 再到 LTAP》 解释了 LTAP 是什么,以及 Lakebase 架构如何使其成为可能:一份受治理的运营数据副本,同时服务 Postgres 和分析,无需 CDC 管道,也无需第二个数据库。
随后的许多评论都是通过人们已经熟悉的系统来解读这一主张的。有四种解读经常出现:
- “LTAP 只是换了个名字的 CDC”
- “数据的单一副本只能有一种物理布局,因此要么点查慢,要么扫描慢”
- “对象存储上的 Iceberg 或 Delta 表天生就是过时的”
- “Postgres 已经提供了抽取路径:逻辑复制”
这些误解都建立在关于 Lakebase 如何存储数据的错误假设之上。让我们逐一来看。
误解 1:“LTAP 是复制”
实际情况是: LTAP 在湖中为每张表保留一份持久副本。它前面的各层持有部分相同的字节,以使该表持久且快速,但它们都不是第二个数据库。
从外部看,LTAP 可能像一条熟悉的管道。Postgres 写入行,一个进程跟踪日志,变更落入 Iceberg 表,分析读取 Iceberg。那条管道就是 CDC。它也是逻辑复制、镜像以及大多数零 ETL 产品的结构。因此很容易将 LTAP 归类为同样的设计。
要理解为什么它不是,需要精确界定什么才算第二份副本。系统最终在多个位置持有相同数据有两种不同的方式:
- 复制通过将变更从一个数据库传送到另一个数据库来保持两个数据库对齐。每一侧都有自己的目录和自己的时间线,任何一侧都可以作为事实来源被查询。如果传送停滞,两份副本就会逐渐偏离,而且没有任何机制强制它们重新一致。
- 分层保持一个数据库,并在其前面放置一组缓存。缓存持有部分相同的字节,以便读取快速。如果读取未命中缓存,就向下一层查找,付出一些延迟。它从不创建第二个目录,而且如果缓存丢失,表不会丢失。
所以测试很简单:这一层能否作为自己的数据库被查询或故障转移?如果能,它就是副本。如果不能,它就是一层。
按照这个测试,Postgres 一直是分层的。WAL、缓冲区缓存和索引都存储与堆重叠的字节。没有人把索引称为表的副本,因为它没有自己的目录或时间线。
LTAP 保持同样的层次结构。它将其移到对象存储上,并让湖仓引擎读取底部的持久层。
以下是 Lakebase 中该层次结构的样子,跟随一次写入然后一次读取:
- 当写入的 WAL 到达法定数量的 safekeeper 时,该写入就是持久的。然后 pageserver 应用日志,将热页保留在内存和本地磁盘上,并将数据物化到对象存储中。
- 读取从计算节点开始,该节点保留缓冲区缓存和本地文件缓存。索引、TOAST 和可见性映射位于同一热路径上。那里未缓存的页来自 pageserver。
对象存储本身也是同样的工作方式。当你将对象 PUT 到 S3 时,它会被存储多次,通常使用纠删码跨可用区存储。API 仍然命名一个对象,副本之间没有同步作业运行。Lakebase 将同样的理念堆叠在湖前面:日志、缓存、pageserver、对象存储。额外的文件是一张表变得持久且快速的方式。
CDC 确实会创建第二个数据库。它将逻辑变更流解码为外部模式,通常以主键为键,并 upsert 到源从不回读的表中。那张第二张表可以单独查询,而且它可能与源脱节:类型可能漂移,DDL 可能丢失,复制槽可能丢弃行,而没有人选择的表永远不会出现。结果是两个目录。
LTAP 没有需要保持同步的第二张表。没有需要选择加入的表列表。Postgres 中存在的表在湖中也存在,而主库提供的页是该存储的缓存。
误解 2:“单一副本意味着慢查找或慢扫描”
实际情况是:同一批行的两种无损编码可以服务不同的访问路径——堆页用于点查,Parquet 用于扫描。每个查询读取对它来说快速的布局。
即使额外文件是一个层次结构,布局仍然是一个独立的问题。点查在行上高效,扫描在列上高效。如果磁盘上只有一种编码,那么其中一种访问模式就要在 I/O 上付出代价。将表称为单一逻辑副本并不能改变这一点。
这个推理是正确的,但它建立在一个假设之上——一份副本意味着一种编码。事实并非如此,只要两种格式能够无损地表示相同的行。
所以问题是 LTAP 的两种格式是否无损:
- 主要格式是 Postgres 堆页,它非常适合点查和更新。
- 第二种格式为分析访问而构建:Delta 或 Iceberg 背后的 Parquet。值被保留,文件携带足够的物理元数据(堆块、偏移量和 MVCC 版本),以便可以重建原始页。Parquet 无法无损表示的值不会被强制转换或丢弃;它们在同一张表的溢出字段中传输。
由于没有任何数据丢失,列式副本可以作为湖中的持久存储,而堆页则成为它的缓存。这样,每条访问路径都会读取适合它的格式。点查会命中计算节点、本地磁盘和 pageserver 上的 8 KB 页。扫描则通过 OLAP 引擎读取 Parquet。索引仍保留在热层中;它们不会被转码为 Parquet。
Postgres 已经是这样工作的。它为不同的访问路径在同一批行上维护两种物理结构:堆和覆盖索引。没有人会把索引当作 customer 的 CDC 副本。 SELECT * FROM t WHERE id = 1 和 SELECT count(*) FROM t 是同一张表上的两条访问路径。
一个更窄的观察是成立的。来自 Postgres 的列式文件按堆顺序排列:行按页号顺序存放,因为页是每次压缩时重写的单位。这种布局对于重建页以及仅重写脏页是高效的。但作为 WHERE order_date >= …的聚簇键,它效果很差。如果仓库查询需要那种聚簇,可以按照 silver 表 已经源自任何操作数据源。不再需要的是一个以创建湖副本为目的的 CDC 管道。
误解 3:“开放表格式意味着最终一致性”
事实是:每个分析查询读取的都是一个一致的快照。尚未到达湖的提交会从 pageserver 读取,因此查询开始前已提交的内容都不会被遗漏。
Iceberg 和 Delta 在对象存储上提供快照隔离,而对象存储具有高延迟。因此,人们自然会得出这样的结论:分析总是滞后的,许多小表无法保持新鲜,跨表连接也无法保持一致。这种描述符合将 CDC 摄取到湖中的情况。
这取决于一个假设:查询只能看到已经落入对象存储的内容。在 LTAP 中,查询还可以看到尚未进入对象存储的页。这改变了答案,而跟随一个查询的过程最容易看清这一点。
当分析查询开始时,
- 它会向 Postgres 询问当前的 LSN。这是一次元数据查找。
- 它从对象存储读取几乎全部数据:所有截至该 LSN 已经物化的内容。不与 OLTP 节点共享 CPU 的引擎会执行这次读取。
- 它从 pageserver 合并其余部分。在上次物化之后提交的页来自 pageserver,并被合并到最上层。
Postgres 不承担任何批量读取流量——它只返回一个数字,最多再加上那些最近的页。湖不需要包含最新提交,该提交也能可见。它需要包含几乎所有内容,外加一种获取在上次物化之后提交的页的方法。LSN 就是截止点:它告诉引擎合并需要推进到多远。
同一个 LSN 也让连接保持一致。CDC 逐表应用,因此一个关系可能比另一个处于更晚的槽位,连接就会混合两个时间点。LTAP 在单个 LSN 上读取每张表,这与 Postgres 用于 REPEATABLE READ 的同类截止点相同,而不是在各管道最后刷新的位置读取。该 LSN 是一个共享水位线。用于读取自某个水位线以来最近变更的 API 正在开发中,既有 Lakebase 的原生实现,也有面向上游 Postgres 的扩展。
小表是元数据成本,而不是新鲜度限制。Iceberg 的开销在于文件和快照。对于只有几行的关系,这种簿记的成本超过其收益,而且布局对扫描性能无关紧要。这些表留在页缓存中,参与 LSN 一致性读取,并跳过 Iceberg 提交。
这就留下两个听起来相似但实则不然的说法:
- “长查询看不到新提交”——这是真的,而且正确。从 LSN X 开始的查询不会看到 X 之后的提交。这是快照隔离,与 REPEATABLE READ 相同的契约,而不是副本延迟。
- “查询遗漏了已提交的数据”——这会是错误的结果:一个从 X 开始的查询遗漏了在 X 时已经持久化的提交,因为它仍停留在 CDC 缓冲区中。按该 LSN 合并最近的页,正是 LTAP 避免这种情况的方式。
物化后的列式快照可能比主库落后最近一个压缩间隔,但查询本身不会。Parquet 文件可能落后几分钟,这并不意味着读取方无法看到已提交的数据。
误解四:“我们只需要 Postgres 复制”
现实情况:逻辑复制是一种代价高昂的方式,用来让湖与数据库保持同步。它会逐行重放每一次变更,并且需要一条必须跟得上的管道。并行解码 WAL 并不能绕开这一点,因为日志记录无法被独立处理。
获取新鲜 Postgres 分析数据的标准做法是启用逻辑复制。Debezium、PeerDB、pgoutput 以及类似工具都从这样一个观察出发:数据库本身已经在发出变更流,然后追问除此之外还需要什么存储格式。
问题在于,变更流是否是在湖中构建表的好方法。该流的两个特性表明并非如此:它需要读取多少数据,以及它需要携带多少状态。
逻辑复制会读取每一次变更
WAL 是页编辑的物理日志,其写入是为了让 Postgres 能够崩溃恢复。逻辑解码将其转换为按提交顺序排列的行事件。这种转换无法将同一页面的多次更新合并为页面的当前镜像;每一次变更都必须经过。在热点页面上,Postgres 在两次检查点之间可能将同一个 8 KB 记录上百次。逻辑解码会发出上百个事件,然后下游作业按主键将它们 upsert 到 Parquet 中。相比之下,页面分层路径只读取该页面一次。在我们测量过的写入密集型工作负载中,CDC 至少读取与 WAL 等量的数据,而脏页压缩可能只读取其中一小部分。
逻辑复制会携带状态
复制槽是指向 WAL 的游标,消费者必须持续推进它。如果消费者落后,WAL 就会一直留在磁盘上,直到复制槽被删除或磁盘被写满。逻辑解码不会输出 DDL,因此 ALTER TABLE、类型变更和重命名要么使事件与当前目录不一致,要么使复制槽失效。没有主键的表需要 REPLICA IDENTITY FULL。由于这条管道代价高昂,通常只应用于一部分表。这与“每张 Postgres 表只要存在就会出现在湖中”正好相反。
一个相关的说法:可以跳过逻辑解码,并行解码 WAL
Pageserver 已经在消费 WAL,因此一条并行的日志转 Parquet 路径看起来只是额外的一小步。这在原理上是可行的。但它尚未被构建为生产级提取器,也不是 LTAP 所采用的路径。WAL 记录是有序的,因为后面的记录以先前的记录为前提。可见性存在于该 LSN 处的 pg_xact、proc 数组和目录中,而不在元组中。相互独立的工作进程无法各自解码一段互不相交的字节范围,并输出正确的当前行。
LTAP 并行化的是页面,而不是日志记录。系统会询问自上次快照以来哪些页面发生了变化(Postgres 17+ 上的 WAL 摘要,或 pageserver 的日志结构合并树),而每个脏页都是独立的工作。该集合被分区,页面被转码,然后提交一个 Iceberg 快照。日志是写入得以持久化的方式,也是发现哪些页面发生变化的一种途径。快照是当前页面,而不是对每个使其变脏的记录的重放。
这一切并不能说明复制不适合其既定用途:迁移、大版本升级,以及切换到第二个 Postgres。但把逻辑复制当作存储来用,就会产生第二个事实来源。
收尾
这四种误解都源于同一个误解:把数据的每一次物化都当作第二个数据库。
LTAP 只保留一张逻辑表,而湖是它的持久副本。堆页、索引和缓存是 Postgres 以 OLTP 延迟服务该表的方式,正如覆盖索引服务于堆上的查询。OLAP 引擎直接扫描 Parquet,并合并自上次物化以来事务一致的变更。
这些层都不会增加第二个目录或第二个可能发生漂移的事实来源。
如需深入了解 Lakebase 的存储架构如何实现 LTAP, 请参阅这篇文章。
相关标签:在收件箱中获取最新文章
订阅我们的博客,最新文章将直接发送到您的收件箱。