部署
SaaS、自托管、物理隔离
所有部署共用一套代码和一个镜像,由 DEPLOYMENT_MODE 选择。受监管的组织通常从自托管或物理隔离部署开始。
saas由 Azoth 运行:计费、产品分析和公共网站均已开启。
self_hosted您的 Kubernetes 集群、您的数据库、您的身份提供商和您的邮件中继。套餐来自您的许可证(
LICENSE_PLAN)。airgapped与自托管相同,且服务器不能访问
EGRESS_ALLOWLIST 之外的任何主机:对其他主机的模型调用会被拒绝并封存。未知模式按物理隔离处理。使用 Helm 安装
Chart(helm/azoth-os)包含应用、其定时任务、网络策略、内置数据库的每夜备份,以及可选的内置 Supabase(Postgres、GoTrue、PostgREST)和 Redis。机密信息来自您离线生成的一个 Secret:
kubectl create namespace azoth
node scripts/self-hosted/gen-secrets.mjs --name azoth-secrets --namespace azoth | kubectl apply -f -
helm install azoth helm/azoth-os -n azoth \
--set appUrl=https://azoth.bank.internal \
--set image.repository=<registry>/azoth-os --set image.digest=sha256:… \
--set ingress.tls[0].secretName=azoth-tls手动迁移
Chart 从不应用迁移。镜像内含迁移运行器:以 Job 方式先运行 node migrator/scripts/migrate.mjs --status,再运行 --apply。它维护一份校验和台账,并拒绝被编辑过的文件;只有当数据库达到其期望的迁移版本时,应用才会报告就绪。
身份与邮件
通过您组织的 OIDC 提供商登录,或通过 Entra ID 或 ADFS 使用 SAML 登录,包括单点登出。邮件通过您的 SMTP 中继发送:STARTTLS 不降级,绝不以明文传输凭据。
物理隔离
- 部署自身的基础设施(其数据库、Redis、时间戳机构和遥测收集器)保持可访问;其他一切都必须在允许列表中。
- 托管在部署内部的模型(vLLM、TGI、LiteLLM、Ollama 的 OpenAI API)属于
internal提供商:使用相同的网关、规则和日志,价格由您申报。 - 没有互联网时,请为部署配置自己的时间戳机构:即本地级别。
egress:
allowlist:
- llm.bank.internal # any port
- siem.bank.internal:8443 # this port only
- "*.models.bank.internal" # any sub-domain
internalModels:
- name: vllm
baseUrl: http://vllm.models.svc:8000/v1
models: [llama-3.1-70b-instruct]
price: { input: 0.4, output: 0.8 } # USD per 1M tokens, declared by you签名镜像与离线包
每个版本都会推送一个签名镜像及其签名的 SBOM,并附带一个离线包(chart、所有镜像、签名的 SHA256SUMS),仅用 openssl 即可在没有互联网的情况下验证。
模型目录
自托管部署每天导入最新的签名模型目录;物理隔离部署则从平台管理中导入一个签名文件。目录只有经过签名且哈希与其 sha256 一致时才会被接受。
完整指南见代码仓库中的 docs/self-hosting.md。