面向全栈应用的开源 AI 应用构建框架，提供统一的 SDK 与开发工具链。

模型与推理框架大语言模型SDK

查看详情 →

面向 Apple Silicon 的 vLLM 风格推理服务器，基于原生 MLX 后端，单进程同时暴露 OpenAI 与 Anthropic 兼容 API，支持多模态统一服务、Continuous Batching、Paged KV Cache、SSD 分级缓存等生产级特性。

多模态大语言模型Python

查看详情 →

Apple Silicon 本地 AI 推理引擎，提供 OpenAI 兼容 API，支持多模态、Tool Calling 和智能云端路由。

AI代理大语言模型MCP

查看详情 →

面向生产环境的结构化文档数据提取系统，支持多模态大模型与可插拔工作流编排，可处理发票、银行对账单、金融表格等多种业务文档。

模型与推理框架大语言模型多模态

查看详情 →

面向多模态大语言模型、Agentic AI 与知识图谱研究的 Python 函数式原语库，提供统一模型调用、多智能体协作辩论、知识图谱生命周期管理及多模态生成等完整工具链。

模型与推理框架大语言模型多模态

查看详情 →

节点式可视化 AI 工作流与 LLM Agent 构建平台，支持本地运行模型与多模态编排，提供桌面端、Web、CLI、移动端全矩阵交付形态。

模型与推理框架大语言模型多模态

查看详情 →

面向大语言模型的灵活、高效、生产可用的强化学习后训练框架

其他深度学习多模态

查看详情 →

AI Gateway / 通用 LLM 代理，提供单一 OpenAI 兼容端点，智能路由至 100+ AI 提供商，支持多模态 API、MCP/A2A 协议与企业级韧性保障。

模型与推理框架大语言模型多模态

查看详情 →

Intel 官方的大语言模型与视觉-语言模型后训练量化工具包，基于 SignRound 算法支持 2-4 bit 极低比特量化与自动混合精度方案生成，可跨 Intel CPU/GPU、NVIDIA GPU、Habana Gaudi 部署。

多模态大语言模型Transformers

查看详情 →

基于 Docker Compose 的本地 LLM 全栈编排 CLI 工具，一条命令启动预互联的推理后端、前端 UI、RAG、语音、图像生成等服务

模型与推理框架多模态大语言模型

查看详情 →