入门
快速开始
通过 Azoth 网关发送第一次调用,保留其回执,并找到其已封存的决策——大约五分钟,无需修改提示词。
您需要一个 Azoth 工作区,以及保存在设置 › 提供商与模型中的提供商密钥。SDK 示例需要 Node.js 18 或更高版本。
在设置 › 访问权限中创建 API 密钥,并将其复制到 AZOTH_API_KEY:密钥只显示一次。免费工作区获得 az_test_… 密钥,付费套餐获得 az_live_… 密钥。
网关在 /api/v1/chat/completions 上使用 OpenAI 聊天格式。-D - 会打印响应头,回执就在其中。
curl -sS -D - https://www.azothos.ai/api/v1/chat/completions \
-H "Authorization: Bearer $AZOTH_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o-mini",
"messages": [{ "role": "user", "content": "Say hello in one word." }]
}'
# HTTP/2 200
# x-azoth-receipt: eyJhbGciOiJFZERTQSIs…
# x-azoth-provider: openai
# x-azoth-model: gpt-4o-mini
# x-azoth-cost-usd: 0.00000330只需更改基础 URL 和密钥——代码其余部分无需改动。@azothos/sdk 中的 azothGatewayHeaders 会添加可选的 Azoth 请求头,并拒绝网关会拒绝的值。.withResponse() 还会返回响应头,回执就在其中。
import OpenAI from 'openai';
import { azothGatewayHeaders } from '@azothos/sdk';
const openai = new OpenAI({
baseURL: 'https://www.azothos.ai/api/v1',
apiKey: process.env.AZOTH_API_KEY,
defaultHeaders: azothGatewayHeaders({ usecaseId: process.env.AZOTH_USECASE_ID }),
});
const { data, response } = await openai.chat.completions
.create({
model: 'gpt-4o-mini',
messages: [{ role: 'user', content: 'Say hello in one word.' }],
})
.withResponse();
console.log(data.choices[0].message.content);
console.log(response.headers.get('x-azoth-receipt'));openai 包的用法相同:更改 base_url 和密钥。with_raw_response 会保留响应头,回执就在其中。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://www.azothos.ai/api/v1",
api_key=os.environ["AZOTH_API_KEY"],
)
raw = client.chat.completions.with_raw_response.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": "Say hello in one word."}],
)
print(raw.parse().choices[0].message.content)
print(raw.headers.get("x-azoth-receipt"))每个非流式回答,无论已执行还是被阻止,都在 X-Azoth-Receipt 中附带签名回执——已执行的 JSON 响应体中还有 azoth.receipt。它指明该决策,而不包含任何内容:请将其与您的记录一并保存。流式回答改为附带 X-Azoth-Trace-Id:其决策在流结束时封存。
在证据 › 决策中,该调用会连同其结果、规则和法律一起显示。自行验证会打开离线验证工具:粘贴回执,选择档案。
工作原理
经过网关的调用会按以下顺序依次经过这些步骤:
- 检查密钥和请求体。对公众开放的系统会先确定其成本耗尽级别(公开系统)。
- 调用被绑定到其授权:依据
X-Azoth-Usecase请求头,否则依据其绑定的智能体、连接器或密钥,否则使用工作区的默认授权。 - 运行规则:紧急停止、授权状态、预算、主权、策略规则、适用法律、人工审批。
- 模型在规则允许的提供商上作答。路由和缓存是增强功能,在这些规则的范围内运行。
- 决策被封存到工作区的哈希链式日志中(包括拒绝),回答连同其回执一起返回。
治理模式
没有已批准授权的调用受到何种程度的处理,取决于治理模式:部署的模式(GOVERNANCE_PROFILE)与工作区在设置 › 组织中选择的模式中较严格的那个——工作区只能收紧,绝不能放宽(治理模式)。默认的 observe(观察)封存并执行;govern(治理)还会发出告警;enforce(强制)则拒绝。已停止的授权,以及被归类为禁止做法的系统,在任何模式下都会被拒绝。