AI Agent Infrastructure

把 Agent 从 Demo，
带进真实业务。

AI Base 把模型、MCP、工具连接、企业知识、评测与追踪收进一套轻量底座。一个入口接入，一套边界治理，一台服务器即可开始。

查看产品能力理解运行架构

Docker Compose 部署
开放模型与 MCP 接口
身份、策略与审计边界

AI Base

Console preview

运行总览基础设施状态

状态可见

能力入口MCP模型 · 工具 · 知识

运行状态LIVE组件状态统一可见

身份边界OIDCOAuth + PKCE

统一运行路径实时

01 一个 Portal，看见并治理整套 Agent 基础设施

Built for the open AI stack

OpenAI-compatible MCP OAuth/OIDC + PKCE OpenTelemetry PostgreSQL

Why AI Base

Agent 真正上线时，
问题才刚刚开始。

模型只是第一步。身份、工具、知识、稳定性与追责能力，决定了 Agent 能否进入真实业务。AI Base 把这些分散的工程边界，收束为一套可运营的基础设施。

能力越多，入口越碎

模型、MCP、知识库和 SaaS 连接各自配置，Agent 依赖难以发现，也难以统一变更。

接得上，不等于管得住

客户端身份、共享凭据与高风险 Action 必须在服务端重新校验，不能交给 Prompt 碰运气。

跑起来，不代表可运营

没有健康状态、评测和 Trace，异常无法定位到 Agent 与依赖，成本和质量也无从改善。

One operational surface

一套底座，覆盖 Agent 的生产路径。

保留开放组件的专业能力，同时用统一入口连接它们、治理它们、看见它们。

01 / 06

模型与 MCP，统一进入 Agent

通过 Envoy AI Gateway 管理模型渠道、别名与 MCP 上游。Agent 只面对稳定入口，底层能力可以独立替换与演进。

OpenAI 兼容模型接口
MCP 注册、聚合与工具路由
连接测试与配置自动应用

GLOBALGateway Ready

Model channelsRouted

MCP servicesProtected

Agent runtimeManaged

02 / 06

工具与企业连接

复用 OpenConnector 接入企业 SaaS；凭据保持在服务端，个人连接与受控共享策略清楚分离。

OAuthSchema-drivenAction policy

03 / 06

企业知识与 RAG

文档、混合检索与知识图谱统一接入；通过只读 MCP 工具，让 Agent 使用企业上下文。

Hybrid searchKnowledge graphpgvector

04 / 06

身份与访问治理

以外部 OIDC 为身份源，用 OAuth Broker、PKCE 与短期令牌保护 MCP；权限在网关边界失败关闭。

OIDCPKCEScoped token

05 / 06

评测与可观测

把质量验证与 OpenTelemetry Trace 放到同一入口，沿请求路径定位 Agent、模型和工具依赖。

EvaluationTraceDependency view

06 / 06

轻量运行与替换边界

以单机 Docker Compose 起步，组件职责清楚、数据边界可见；在确有规模证据前，不引入重型平台。

Docker ComposeReplaceableSingle gateway

Architecture

一个入口，
每一层各守边界。

Agent 不需要知道每个底层组件的地址。请求先进入 Caddy 全局入口：模型流量进入 Envoy AI，MCP 流量先由 Access Gateway 验证身份与策略，其他能力各自守住协议和数据边界。

统一入口稳定的模型与 MCP 地址，减少客户端配置漂移。

边界分层浏览器入口、MCP 身份策略与 Agent Runtime 各自在专属组件中执行。

组件可替换专业组件独立负责深度能力，Portal 负责发现与治理。

Request path v1

ClientsAgent · Codex · Cursor

HTTPS / MCP OAuth

Global entryCaddy Gateway

HTTPSPath routingHost routingPrivate upstreams

/v1ModelsEnvoy AI

/mcpProtected MCPIdentity · Policy

/ragKnowledgeLightRAG

/runtimeAgentsRuntime

Security by boundary

安全不是一段 Prompt，
而是确定性的系统边界。

AI Base 把身份、凭据、策略和审计留在服务端。请求无法确认身份、连接或权限时，默认拒绝，而不是回退到共享凭据。

身份可验证

以可信 OIDC 的 issuer + subject 作为稳定身份，客户端身份头不能直接越过网关。

凭据不出服务端

Token 与 Secret 不进入浏览器响应、Prompt、Trace 或普通日志，只展示配置状态。

高风险动作确定性治理

写入、删除与批量动作经过 Schema、权限、Action 白名单与审计逻辑。

失败关闭

身份歧义、策略不可用或连接无授权时明确拒绝，不随机路由，不降级共享。

Start lightweight

从一台服务器开始，
按真实需求演进。

AI Base 首期保持单机、薄平台与可替换组件。你可以先建立清楚的运行与治理边界，再根据容量、隔离和组织需求扩展。

01
启动基础设施

通过 Docker Compose 启动 Console、Gateway、Runtime、知识与数据组件。
docker compose up -d --build
02
接入真实能力

配置模型渠道、MCP 服务、企业知识与工具连接，并完成服务端连通性测试。
Models · MCP · RAG · SaaS
03
治理并持续改善

用身份与策略控制能力边界，用健康状态、评测与 Trace 追踪实际运行质量。
Identity · Policy · Evaluation

AI Base

让每一个 Agent，
都站在可靠的基础上。

开放、轻量、边界清楚。把分散能力变成可接入、可治理、可持续运行的企业基础设施。

回到产品总览cofly-ai.cn

把 Agent 从 Demo，带进真实业务。

Agent 真正上线时，问题才刚刚开始。