跳转至

DLSlime

面向 AI 服务的可组合通信运行时

DLSlime 以 PeerAgent 为中心,提供面向分布式 AI 系统的通信与微服务工具。 应用可以按需采用 Endpoint、PeerAgent、SlimeRPC 和 DLSlimeCache,而不必一次性迁移整套系统。

快速入口

核心层次

层次 适用场景
Endpoint API 应用已经自己管理 peer 放置和元数据交换。
PeerAgent 希望 DLSlime 管理连接建立、内存区域发现和过期状态清理。
DLSlimeCache 多个 PeerAgent 客户端需要共享 RDMA-backed cache service。
SlimeRPC 希望通过 Python 服务调用表达业务逻辑,同时复用 DLSlime 的传输协调。