03
Infinity v3 michaelfeil/infinity
⭐ 2,968 · 近 30 天未获取到
Rust · MIT(v3 原生服务另附受限许可)
最近提交 10-26 · v3.0.0-alpha.9(10-20)
定位embedding、重排、分类与决策模型的专用服务;v3 用 Rust 与 LibTorch 重写原生服务,一个进程同时载多个模型,对外只暴露一套 REST 接口。
痛点检索与重排按 token 买 API(text-embedding-3、Cohere、Voyage 都按量计费),数据出内网要另做评估;自己用 Python 起服务,多模型并发与延迟难压。
付费开源免费(v2 的 Python 包为 MIT),钱来自替掉按 token 计费的向量与重排 API 所形成的成本差;官方没有托管版,也没有公开的支持合同。
规模化凡是自建 RAG 与检索的团队都要这一层,换模型不改接口,交付就是 Docker 镜像。
边际成本低 · 纯软件,算力成本转到客户自己的卡。
验证docker run --rm --gpus all -p 8000:8000 -v infinity-cache:/data ghcr.io/michaelfeil/infinity_v3:nvidia-3.0.0 --model-id sentence-transformers/all-MiniLM-L6-v2 --torch-device cuda --dtype bfloat16 --hostname 0.0.0.0 --port 8000,需要 SM80 及以上显卡与 NVIDIA Container Toolkit。
风险v3 仍是 alpha(10-20 一次连发三个 alpha),152 个 open issue;v3 原生服务走「Infinity Restricted MIT 1.0」,附录 A 名单内的服务商(含 Modal、Nebius、Voyage)被禁止任何用途,部署前要读许可;2023 年建库,近 30 天增量未获取到。
加权 4.1
04
Omnigraph ModernRelay/omnigraph
⭐ 1,754 · 近 30 天 +616
Rust · MIT
最近提交 10-26 · edge-20261024(10-24)
定位跑在对象存储上的图数据库,数据落成 Lance 文件,带类型本体与 Git 式分支;一次查询里同时做图遍历、向量召回与全文检索,给长期运行的 agent 当共享世界模型。
痛点多个 agent 协作时上下文散在各自的向量库里,改动不能评审也不能回滚;专有图库要把数据搬进它的存储,迁出成本高。
付费开源 MIT;钱在 Omnigraph Cloud,每个组织一个专属集群,含托管存储、备份、压缩与 SSO、策略、审计,目前私有预览、走等待名单,价格未公开。
规模化agent 记忆与共享上下文是通用层,类型本体可跨客户复用,存储由客户自备。
边际成本低 · 存储与算力在客户侧,软件交付没有边际成本。
验证curl -fsSL https://raw.githubusercontent.com/ModernRelay/omnigraph/main/scripts/install.sh | bash 装好 CLI 与 omnigraph-server,或 brew install ModernRelay/tap/omnigraph,再按仓库 docs/user/quickstart.md 起本地实例。
风险129 个 open issue,release 是滚动 edge 标签(edge-20261024),没有稳定版本号;云版还在等待名单,定价与 SLA 未知;写入前要先建类型本体,schema 建模有学习曲线。
加权 4.4
05
PGX pgrundev/pgx
⭐ 474 · 近 30 天 +474
Rust · AGPL-3.0
最近提交 10-25 · v0.1.0(10-21)
定位Rust 写的轻量 Postgres 运行时,一个进程里放几千个隔离数据库;空闲库只占几十 KB、毫秒级从模板建库,靠写时复制的文件系统做克隆,讲 Postgres 线协议与 SQL 方言。
痛点agent 沙箱、CI 与每个 PR 都想要一份数据库,按实例开 Postgres 要一个进程加几十 MB,冷启动还慢;预览用的库开完就该扔。
付费引擎开源免费(AGPL-3.0),钱在上层 PGRun 分支服务:算力 $0.086 / 分支·小时(按秒计),存储 $0.32 / GB·月,beta 期免费并送 10 美元额度。
规模化CI、预览环境与 agent 沙箱是同一需求,与 Postgres 兼容,Rails、Django、Prisma、SQLAlchemy 不用改代码。
边际成本低 · 空闲库几十 KB,建库毫秒级,纯软件。
验证npx pgxdb@latest 一条命令装好、起库并打印连接串;官方注明用于可弃数据库,不要放生产数据。
风险10-08 建库、只有 v0.1.0 与 474 星;AGPL-3.0 会拦住闭源产品直接集成;分支克隆靠写时复制的文件系统,普通文件系统上是全量复制;沙箱数据不做生产用途。
加权 4.3