增强功能
增强功能
它们在规则允许的范围内,为授权增加一个数字、为决策详情增加一行,或为档案增加一个章节。设置 › 模块显示部署上运行了哪些模块。成本控制源于受治理的 AI,但它本身并不是我们的承诺。
成本与节省
- 每次调用都根据模型目录定价,其成本连同计算它所用的价格一起封存。
- 已实现的节省(复用的回答、实际执行的更便宜路由)与估算(模拟、预计避免的成本)是分开的总数,绝不相加。
- 按授权的支出见授权 › 支出,详情见授权 › 更多 › 成本详情。在网关之外进行的调用可以通过
POST /api/ingest或 SDK 的封装器上报。
x-azoth-provider: openai
x-azoth-model: gpt-4o-mini
x-azoth-cost-usd: 0.00000930
x-azoth-cost-saved-usd: 0.00000000
x-azoth-cache-hit: false
x-azoth-energy-wh: 0.002100
x-azoth-latency-ms: 412curl -X POST https://www.azothos.ai/api/ingest \
-H "X-Azoth-API-Key: $AZOTH_API_KEY" -H "Content-Type: application/json" \
-d '{ "events": [{ "provider": "openai", "model": "gpt-4o", "inputTokens": 1240,
"outputTokens": 128, "costUsd": 0.0082, "latencyMs": 340, "agentId": "support-bot" }] }'模型路由
在规则允许的范围内,调用可以发送到满足您质量和延迟要求的模型——其余条件相当时,以成本决胜,选择最便宜的。所权衡的质量是您工作区自身参考用例的通过率,若尚未测量则取中性值;每项决策的原因会说明属于哪一种。
语义缓存
对于等价的问题,可以复用已有的回答,每次复用都会被追踪(X-Azoth-Cache-Hit)。风险分类器会将对精度敏感的任务(代码、金融、法律)限制为精确匹配。可用 "azoth_use_cache": false 为单次调用关闭缓存。处于保险库模式的系统从不读写缓存。
提示词优化
在调用前进行基于规则的压缩,并对其质量评分,不涉及任何模型。针对某个授权的优化建议只有在人员接受后才会应用。
能耗与碳排放
按授权的能耗与碳排放、更绿色的路由,以及相对保守基线所避免的 CO₂ 的可审计记录。这些数字是估算值,并非碳核算。
模拟
在发布前用过去的流量测试候选规则,或针对拟议的执行上下文进行治理试运行。
模型目录
- 价格、上下文窗口、能力、托管区域和生命周期,均有版本:已发布的版本不再更改,新价格即为新版本。价格由人员发布;提供商的列表只负责提议。
- 目录在应用之外签名,自托管和物理隔离部署导入已签名的目录。没有价格就被调用的模型会以零成本封存,并列入等待人工处理的事项。
- 每天都会将每个授权的模型与目录对照:30 天内将下线的模型,以及同一提供商中可以替代它的更便宜的模型。授权可以被限定于其模型;新模型只有在授权的参考集在其上通过后才会加入列表。
代码仓库中的 AI 足迹
- 逐个仓库开启后,Azoth 会读取 AI 编码工具在 GitHub 仓库历史中留下的痕迹:共同作者尾注(声明)、标记和配置文件。作者只以化名保存——从不保存姓名、地址或提交信息——关闭读取后,已读取的内容将全部删除。
- 所有者或管理员可以将仓库的发现结果冻结为一份已封存的声明,并导出为验证工具可检查的档案。
- 借助
azoth proxy和azoth hook install(CLI),提交会指明网关已封存的调用:这样的提交显示为关联到已封存的调用 #seq,绝不作为代码出自该调用的证明。标记绝不是证明。
价值与风险组合
按授权呈现实测成本和已实现节省,旁边是其负责人连同假设申报的价值(绝不相加),以及附各组成部分的综合风险评分和一份冻结的月度报告。
Azoth 引用的每个数字都带有“实测”“模型估算”或“预测”标签:参见指标方法论。