LLM 与 Agent 的生产基建

定位把 100+ 家 LLM API 统一成 OpenAI 格式的一层网关，自带密钥管理、成本追踪、降级与缓存。

痛点多模型团队被各家 SDK 与账单割裂，按量网关（Portkey/Helicone）按月收费。

谁付钱需要统一模型接入的工程团队；开源核心 MIT 自用免费，企业版（enterprise/ 单独授权）变现。

规模化凡用多模型 API 的团队通用，proxy 接入即标准化，无实施。

边际成本低 —— 纯软件 SDK+网关，无硬件无 GPU，新客户零增量。

验证≤30 分钟：

git clone https://github.com/BerriAI/litellm && cd litellm
docker compose up -d   # 起 :4000 网关；或 pip install "litellm[proxy]" && litellm --test

风险核心 MIT，但 enterprise/ 目录为单独商业授权；多 provider 适配随厂商 API 变动需跟进。

定位LLM/agent/RAG 的评测与红队平台，跑对比、回归与漏洞扫描。

痛点提示词与 agent 上线前无系统性评测，闭源评测（Humanloop/Braintrust）按席位付费。

谁付钱做 LLM 评测的团队；开源 MIT 免费，托管企业版变现。

规模化凡做 LLM 评测/红队的团队通用，CLI+配置标准化，跨行业。

边际成本低 —— 纯软件，新增用户零增量。

验证≤30 分钟：

npx promptfoo@latest init   # 生成最小配置
npx promptfoo@latest eval     # 跑一次示例评测/红队

风险开源核心 MIT，托管变现仍早期；复杂评测集的编写与维护需投入。

定位语音 agent 的开源仿真测试、监控与自愈平台。

痛点语音 agent 上线后难在真实场景回归，闭源测试按用量收费，事故成本高。

谁付钱做语音 agent 的产品团队；开源核心 MIT 免费，ee/ 企业版单独授权。

规模化语音 agent 是高需求垂直但窄，交付需接语音渠道与 LLM。

边际成本中 —— 平台自托管，但跑仿真需外部 LLM/语音成本。

验证≤30 分钟：

git clone https://github.com/egma-ai/egma.git && cd egma
npm i -g egma-cli   # 起后建一条仿真，接语音渠道与 LLM

风险新项目（122★，cli-v0.3.3），生态与多厂商语音适配待验证；企业版目录分离。

定位单二进制、沙箱隔离的私有持久化 agent 服务器，多模型 BYO keys。

痛点托管 agent 平台按席位/用量收费且数据在第三方，私有部署繁琐。

谁付钱要自托管 agent 的个人与团队；开源 MIT 免费，客户只为底层模型付费。

规模化个人/团队私有 agent 通用，但需配 LLM keys 与 Docker 沙箱。

边际成本低 —— 单 Rust 二进制自托管，无硬件；沙箱用 Docker。

验证≤30 分钟：

docker pull ghcr.io/moltis-org/moltis:latest
docker run -p 8080:8080 ghcr.io/moltis-org/moltis:latest   # 或 brew install moltis-org/tap/moltis

风险依赖 Docker/Apple Container 沙箱；多 provider 适配与长期维护待观察。

定位把 coding agent 在手机与桌面端共享给团队的协作平台。

痛点团队各自跑 agent，会话与上下文无法共享，重复造轮子。

谁付钱用 coding agent 的团队；开源 Apache-2.0 免费，BYO 订阅，企业版空间。

规模化用 coding agent 的团队通用，但需配 agent backend（codex/claude）。

边际成本低 —— 自托管无硬件，但需 agent API 成本。

验证≤30 分钟：

npx lody daemon start   # 起本地守护进程
npx lody session create --workspace my-team --agent-config codex   # 建一个团队共享 session

风险依赖外部 agent 订阅；多 backend 适配与团队协作权限待打磨。