Architect 推出 Liquid Inference：实时竞价的 LLM 推理平台

核心概念速览

在人工智能模型推理成本日益攀升的背景下，Architect Financial Technologies 近日发布了 Liquid Inference，这是一套基于实时竞价的 LLM（大语言模型）路由系统。它把每一次模型调用都当作一次小型拍卖，多个模型提供商提交报价，系统自动选出满足用户设定规则且价格最低的方案。对于开发者而言，只需把原有的 OpenAI 或 Anthropic 接口地址替换为 Liquid Inference 提供的 URL，其他代码保持不变，即可让后端服务在竞争中自动降价。

从金融交易所到 AI 推理市场的跨界

Architect 并非传统的 AI 研发机构，而是一家专注于金融衍生品交易的公司，运营着 AX 永续期货交易所，并在 2026 年5 月收购了美国指定合约市场（Designated Contract Market），计划推出 GPU 计算算力期货。正是这种在高频撮合、双向价格发现方面的深厚经验，使得团队能够将交易所的撮合机制搬到 AI 推理场景，实现“买方—卖方”双向透明的价格形成过程。

Liquid Inference 的工作流程

1. 请求发起

客户端发送符合 OpenAI 或 Anthropic 标准的 API 调用，例如 POST https://api.liquid-inference.architect.com/v1/chat/completions，请求体中包含模型名称（如 gpt-4o）和提示词。

2. 规则过滤

买方（即调用方）可以在请求中预设约束条件，例如最大延迟、最低可信度、合规标签等。系统会根据这些规则筛选出符合条件的模型提供商。

3. 实时拍卖

符合条件的提供商在毫秒级别内提交报价。报价包括单次推理的费用、预计响应时长以及服务等级（SLA）。系统将所有报价放入同一撮合池，按照“最低价且满足规则”原则选出获胜者。

4. 结果返回

选中的提供商完成推理后，将结果回传给 Liquid Inference，后者再统一返回给调用方。整个过程对开发者透明，只有最终的费用账单会在结算周期内体现。

对行业的潜在冲击

• 成本竞争化：传统上，开发者只能在少数大型云厂商之间挑选，价格相对固定。Liquid Inference 通过多方竞价，为中小企业提供了压价空间。
• 服务弹性提升：不同提供商在硬件、模型微调、地域部署上各有优势。拍卖机制让调用方可以根据实时需求（如低延迟）自动切换供应商。
• 生态开放度：只要遵守标准 API 接口，任何模型提供商都可以加入平台，促进了模型创新的多样化。
• 监管与合规挑战：由于涉及跨境算力交易，监管机构可能要求对算力期货、数据隐私进行更严格审查，平台需提前布局合规体系。

可能的局限与不确定性

尽管实时拍卖带来了价格优势，但也存在以下风险：

• **报价波动**：在算力紧张或模型热点期间，报价可能出现剧烈波动，导致成本难以预测。
• **服务质量不均**：最低价提供商不一定在响应时长或输出质量上达标，需依赖买方规则的精准设定。
• **技术集成门槛**：虽然只需更换 URL，但对已有监控、计费系统的适配仍需一定开发投入。
• **市场成熟度**：作为新兴的双边市场，平台的流动性和供应商数量在早期可能不足，影响撮合效率。

如何快速上手 Liquid Inference

以下步骤帮助开发者在现有项目中平滑迁移：

1. 在 Architect 官方控制台注册账户，获取 API Key。
2. 将原有的 api.openai.com 或 api.anthropic.com 基础 URL 替换为 api.liquid-inference.architect.com。
3. 在请求头中加入 Authorization: Bearer YOUR_API_KEY，并根据业务需求在请求体中添加 rules 字段，例如 {"max_latency_ms":200,"min_confidence":0.8}。
4. 监控返回的 provider_id 与 price_per_token，在后台统计成本变化，必要时调整规则以获得更优报价。
5. 定期审查账单，结合业务峰谷特性，考虑是否在高峰期预留固定报价的供应商，以防价格异常。

对读者的行动建议

如果你所在的企业正面临模型推理费用居高不下或对响应时延有严格要求，建议先在非生产环境进行小规模试验，评估不同规则对报价的影响。同时关注 Architect 官方的合规文档，确保所使用的模型提供商符合数据安全与隐私法规。通过合理的规则设定与成本监控，Liquid Inference 能帮助你在保持模型性能的前提下，实现费用的显著下降。