本期收录 12GB 显存跑 125B 的本地推理引擎 Strata、替代 LLM 做决策的 Laya、纯 CPU 的 Indra OCR、schema 约束输出的 TypeLLM 与写不可读的日志加密库 Scuttle：五项都在把调用云端模型这一步换掉或压小。
账单和数据边界一起往下压
今天五项都指向同一件事：把「调用云端大模型」这一步换掉或压小。端侧跑 125B（Strata）、小模型顶替 LLM 做决策（Laya）、纯 CPU 把 OCR 提速十倍以上（Indra）、结构化输出不再靠 prompt 约束（TypeLLM）、敏感日志只写不可读（Scuttle）。共同点是成本可算、数据不出域，其中三项背后已经站着收费的托管平台。
定位消费级 PC 上一键跑 Qwen3.8-Flash-Next（125B）的本地推理引擎，12GB 显存即可，Windows/Linux 都支持。
痛点云端大模型的按量账单与数据出域：本地 50-90 tok/s 的完整体验，代码和文件不出机器。
付费仓库本身免费、只有赞助入口；真正的账在替代云端 GPU 推理与 API 调用，差额可直接对比月费。
规模化装机即交付，显卡档位对应固定压缩级别，跨行业可复制，不需要定制。
边际低 · 纯软件，硬件由用户自己出，官方新增客户成本接近零。
验证从 Releases 取 v0.1.44.1 安装包，Windows 跑 SETUP.bat、Linux 跑 ./setup.sh，按提示选模型档位。
定位非自回归的 System-1 决策引擎：一次前向 33ms 给出带类型的判断、评分与是否，覆盖 100+ 语言。
痛点用大模型做分类、路由、判分、审核这类「非生成」任务，延迟高、按 token 计费、答案还不稳定。
付费库免费，按量托管与团队版是明确路线；替代的是按 token 计费的 LLM 调用，成本差立刻算得出来。
规模化决策是跨行业通用需求，pip 一条命令接入，已有 HTTP/MCP 与 LangChain、LlamaIndex、CrewAI 适配。
边际低 · 纯软件，CPU 可跑，ONNX 与 GPU 快路径可选，无重硬件依赖。
验证pip install "laya[serve]" && python examples/server.py，浏览器打开 127.0.0.1:8000 的 playground 直接试。
定位100 万参数、约 18MB 的纯 CPU OCR：49 页/秒输出 markdown/文本/带框 JSON，不依赖 PyTorch。
痛点文档流水线要么买按页计费的 OCR API，要么自建 GPU 服务；Tesseract/PaddleOCR 精度与速度都难兼顾。
付费代码开源，模型对研究、个人与融资/营收低于 200 万美元的团队免费；更高用量走官方托管 API、批量折扣与本地部署授权。
规模化PDF/扫描件转结构化文本是跨行业标准动作，pip 安装即交付，不需要按客户调优。
边际低 · 纯软件 + 小模型，CPU 上跑，没有 GPU 与人力摊销。
验证pip install indra-ocr，然后 indra-ocr paper.pdf（或 scan.png --format json）看首屏结果。
定位给自回归模型加类型安全生成：用 JSON Schema 约束输出，取值直接可用，不再出现 schema 外的幻觉。
痛点抽取、分类、打分场景里用 prompt 求 JSON，仍要写重试与校验代码，字段错一次整条链路就脏。
付费托管 API 已上线并按量计费（新账号 5 美元额度），也可指向自建模型；两种用法同一套请求。
规模化结构化输出是所有 LLM 应用层的通用接口，客户端与 schema 一次定义到处复用。
边际低 · 客户端与推理侧都是软件，纯 API 形态新增客户成本趋零。
验证pip install -U typellm，在 typellm.ai 建 key 后跑 README 的 TypeLLMClient 示例，几分钟出结构化结果。
定位面向敏感日志的混合后量子加密层：应用侧只拿公开的写入密钥，能写不能读，库被拖走只有密文。
痛点请求响应体常被要求可短期排查，但副本会留在数据库、副本与备份里好几年，出事就是明文泄漏。
付费企业合规与日志脱敏场景，用法是 B2B 授权或随产品内置；作者方已在自家网关产品里生产使用。
规模化日志加密是通用合规诉求，但需要改写入链路，交付带集成工作量，不是即插即用。
边际低 · 单二进制 Go 库，无服务端依赖，新增客户几乎零成本。
验证go get 该库 + go install .../cmd/scuttle-keygen@latest，按 README 的写入/读取示例跑一遍加解密。
Laya（NandhaKishorM/laya）。增速、成熟度与可验证性最均衡：一个月 32,973 星、已发到 v0.4.7、pip 一条命令就能跑出结果。它替换的是按 token 计费的 LLM 调用，成本差可以当天算清，而不是停留在「以后能省」。
五项的共同动作是重算 AI 成本结构：算力下沉到用户自己的机器（Strata）、非生成任务从小模型走（Laya）、文档解析从 GPU 服务挪回 CPU（Indra）、输出约束从 prompt 移到类型系统（TypeLLM）、日志加密从运维习惯变成库的默认行为（Scuttle）。其中三项的仓库背后已有收费平台，开源在这里更像是分发渠道。