跳转至

API 参考

Persisting 的 API 共享一个核心——TTAS 寻址、Lance 存储、Pulsing 分布式。

模块 用途 状态
Tensor Memory persisting.open() — 参数、KV Cache、轨迹的统一存储 🧪 实验性
Queue persisting.Queue — 事件流、KV 接口、Sampler ✅ 稳定
Search persisting.search — 文档索引与检索 ✅ 稳定
Tensor Address Space persisting.core — 直接访问 Dimension、Region、规范化 🧪 实验性

统一张量存储

persisting.open(namespace, dims, ...)  TensorNamespace
kv[key]                               Handler
h.tensor()                            ndarray
h.put(data)                           None

一套接口覆盖三类数据:

命名空间 维度 用途
params/llama-70b (param_id, shard) 模型权重
kvcache/v1 (session, layer, head, time) KV cache
trajectories/v1(规划中) (run_id, time) 轨迹张量访问

Tensor Memory API

Queue 与事件

Queue(name, storage_path, ...)
q.put(record) / q.get(limit)
KVInterface(q).kv_put / kv_batch_get

Queue API

检索

add_document(dataset, text)
query(dataset, query, mode, k)

Search API

TTAS 类型

Dimension(name, kind)
TensorView(dims)[key]  Region
canonicalize(region) / project_prefix(region, dims)

Tensor Address Space API