基于 JVM 的流式 AI Agent 框架,内置独立传输层与令牌级治理网关,支持多协议分发、多渠道消息路由与多 Agent 编排,覆盖从传输协商到企业级合规审计的全链路。
定位#
Atmosphere 是一个基于 JVM 的流式 AI Agent 框架,通过 AgentRuntime SPI 解耦 LLM 推理能力,适配 9 种外部 AI 运行时(OpenAI-compatible、Spring AI、LangChain4j、Google ADK、JetBrains Koog、Microsoft Semantic Kernel、Alibaba AgentScope、Embabel、Spring AI Alibaba)。运行于 Spring Boot 3.5/4.0,主要语言为 Java(Maven 构建),并提供 JavaScript/TypeScript 客户端库 atmosphere.js。
传输层#
支持五种传输协议:WebTransport/HTTP3(QUIC)、WebSocket、SSE、Long-polling、gRPC。基于 AsyncSupport 机制自动协商,支持 Jetty 12 QUIC native 或 Reactor Netty HTTP/3 sidecar。客户端携带 X-Atmosphere-Run-Id 实现断线重连,服务端重播 mid-stream buffer。
Agent 开发模型#
采用声明式注解驱动:@Agent 自动注册端点与工具;@Prompt 处理流式消息;@Command 处理斜杠命令(含 confirm 人机协同);@AiTool 注册工具并自动暴露为 MCP tool。同一 @Agent 类通过 Maven 依赖切换即可在不同协议间暴露。
协议与互操作#
支持三大 Agent 协议:MCP(Model Context Protocol)、A2A v1.0.0(含 Agent Card 发现)、AG-UI。对应模块自动注册端点:/atmosphere/agent/{name}/mcp、/atmosphere/agent/{name}/a2a、/atmosphere/agent/{name}/agui。
多渠道分发#
同一个 @Command 可直接分发到 Slack、Telegram、Discord、WhatsApp、Messenger,通过 atmosphere-channels 模块 + bot token 配置实现。
多 Agent 编排#
提供 @Coordinator、@Fleet、@AgentRef 注解,支持本地(in-JVM)和 A2A(HTTP JSON-RPC)传输,实现并行/串行/条件路由及协调日志。
记忆与会话#
支持滑动窗口、LLM 摘要两种记忆机制,通过 SQLite 或 Redis 持久化会话。
治理与合规#
- Guardrails:PII 脱敏、输出长度异常检测、成本上限
- 策略引擎:GovernancePolicy SPI(YAML 配置,兼容 Microsoft Agent Governance Toolkit schema),内置 AllowList/DenyList/MessageLength/RateLimit/ConcurrencyLimit/TimeWindow/Authorization/ConfidenceThreshold 策略
- 运维控制:KillSwitch、DryRun、SwappablePolicy 热加载、SloTracker
- 合规证据:OWASP Agentic Top 10 + EU AI Act / HIPAA / SOC 2 矩阵,CI 强制校验
- 高级验证:Plan-and-verify(静态验证 LLM 工具调用工作流)、Commitment Records(W3C Verifiable-Credential 子类型,Ed25519 签名)
沙箱#
SandboxProvider SPI,内置 DockerSandboxProvider(默认 --network none)和 InProcessSandboxProvider,开放 ServiceLoader 接入 Firecracker/Kata/Vercel Sandbox/E2B/Modal/Blaxel。
管理控制台#
/atmosphere/admin/(Vue UI)+ /api/admin/*(REST),含 Triple-gate 授权(Feature Flag → Principal → ControlAuthorizer)、Flow Viewer 拓扑图、治理面板(策略健康/决策/OWASP/合规状态)。
快速开始#
brew install Atmosphere/tap/atmosphere
atmosphere run spring-boot-multi-agent-startup-team
atmosphere new my-agent --template ai-chat
典型场景#
- 企业级 AI Agent 网关:per-tenant 成本上限在网关层阻断分发,流级 PII 改写
- 多协议 Agent 服务:同一
@Agent类通过 Maven 依赖切换 MCP/A2A/AG-UI 暴露 - 多渠道客服 Bot:一个
@Command同时响应 Web、Slack、Telegram 等 - 多 Agent 编排:
@Coordinator+@Fleet实现 parallel/sequential/conditional 路由 - 合规敏感场景:内置 OWASP/EU AI Act/HIPAA/SOC 2 矩阵审计
- 断线重连:持久化会话 + mid-stream replay