ai4j

项目定位#

ai4j 是面向 JDK 8+ 的 Java AI Agentic 开发套件，提供统一的大模型调用与常用 AI 基座能力，以及智能体式 Agent 开发能力。当前 Java 生态主流 AI 框架（Spring AI、LangChain4j）普遍要求 Java 17+ 及 Spring Boot 3.x，ai4j 填补了存量 JDK 8 系统接入 AI 的空白。

核心能力#

多平台大模型统一接入#

对齐 OpenAI 格式，消除平台差异。支持 OpenAI、智谱 Zhipu、深度求索 DeepSeek、月之暗面 Moonshot、腾讯混元 Hunyuan、零一万物 Lingyi、Ollama（本地模型）、MiniMax、百川 Baichuan 共 9 个平台。

支持的服务类型：Chat Completions（流式/非流式）、Responses、Embedding、Rerank、Audio、Image、Realtime。

MCP 协议全链路#

支持 MCP Client、MCP Server、MCP Gateway；支持 STDIO、SSE、Streamable HTTP 传输方式；支持自定义/动态数据源及自动重连。

Tool Call（函数调用）#

统一接口，支持多函数并行调用、流式函数调用参数输出、优化的函数调用循环。

RAG 检索增强#

• 存储：统一 VectorStore 抽象，支持 Pinecone、Qdrant、pgvector、Milvus
• 处理管线：IngestionPipeline（DocumentLoader → Chunker → MetadataEnricher → Embedding → VectorStore.upsert）
• 检索：DenseRetriever、Bm25Retriever、HybridRetriever
• 融合排序：RrfFusionStrategy、RsfFusionStrategy、DbsfFusionStrategy
• 重排序：统一 IRerankService（Jina、Ollama、Doubao）
• 评估：Precision@K、Recall@K、F1@K、MRR、NDCG

Agent 能力#

• Agent Runtime（ai4j-agent）：ReAct 推理、subagent、agent teams、memory、trace、tool loop
• Coding Agent（ai4j-coding）：workspace tools、outer loop、checkpoint compaction、subagent 与 team 协作
• CLI / TUI / ACP（ai4j-cli）：内置 Coding Agent 交互界面，支持 one-shot 与持续会话、Provider profile 持久化、Session 管理（持久化/resume/fork/history/tree/events/replay）、ACP 模式支持 IDE 集成

工作流平台接入#

可直接对接 Dify（Chat/Workflow）、Coze（Chat/Workflow）、n8n（Webhook Workflow）。

工程增强特性#

统一错误处理（对齐 OpenAI 错误类型）、SPI 机制（自定义 Dispatcher/ConnectPool）、装饰器增强（如 SearXNG 网络搜索）、ChatMemory 多轮上下文、Token 统计、多模态（Vision 识图）、Spring Boot 自动配置、FlowGram 工作流集成。

模块结构#

• ai4j：核心 SDK（模型调用、Tool Call、MCP、RAG、VectorStore、ChatMemory）
• ai4j-agent：通用 Agent 运行时
• ai4j-coding：Coding Agent 运行时
• ai4j-cli：CLI / TUI / ACP 交付入口
• ai4j-spring-boot-starter：Spring Boot 自动配置
• ai4j-flowgram-spring-boot-starter：FlowGram 工作流集成
• ai4j-bom：统一版本管理 BOM

快速开始#

前提：JDK 1.8+

CLI 安装：

# Linux / macOS
curl -fsSL https://lnyo-cly.github.io/ai4j/install.sh | sh
# Windows (PowerShell)
irm https://lnyo-cly.github.io/ai4j/install.ps1 | iex

Maven 依赖：

<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>io.github.lnyo-cly</groupId>
            <artifactId>ai4j-bom</artifactId>
            <version>${project.version}</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>
<dependency>
    <groupId>io.github.lnyo-cly</groupId>
    <artifactId>ai4j</artifactId>
</dependency>

Spring Boot 使用引入 ai4j-spring-boot-starter。

与同类方案对比#

待确认信息#

最新发布版本号（README 使用占位符未明确标注）、Hugging Face 页面、关联学术论文、生产级用户案例、FlowGram 独立项目状态。