开源免费的 AI Prompt 与 Skill 一站式管理工作台，支持 Prompt 版本管理、多平台 Skill 分发、多模型并行测试与本地优先数据同步。

模型与推理框架大语言模型Electron

查看详情 →

NVIDIA 出品的 LLM 全流程开发管线工具集，覆盖合成数据生成、多后端推理、模型训练与 11 大类 benchmark 评测，支持从单 GPU 到万卡 Slurm 集群的弹性扩展。

深度学习AI代理MCP

查看详情 →

面向大语言模型的强化学习训练环境构建库，提供从开发、测试到规模化 Rollout 采集的完整基础设施，内置丰富的 RLVR 场景与工具调用支持。

其他深度学习AI代理

查看详情 →

面向 Agent、LLM 与传统 ML 模型的开源 AI 工程平台，提供实验追踪、模型注册、LLM 可观测性、评估、提示词优化及统一 API 网关等全生命周期管理能力。

模型与推理框架SDKAI代理

查看详情 →

自学习向量数据库，集成图神经网络搜索优化、本地 LLM 推理、Cypher 图查询与 PostgreSQL 向量扩展，支持从 WASM 嵌入式到 Raft 分布式集群的多形态部署。

文档教程与资源机器学习RAG

查看详情 →

一款基于 Rust 的跨平台命令行工具，通过检测本地硬件（CPU/GPU/RAM）自动评估并推荐最适合的大语言模型及量化策略，支持 206 个模型和 57 个提供商。

模型与推理框架大语言模型Rust

查看详情 →

汇总可免费使用的 LLM 推理 API 清单，涵盖 OpenRouter、Google AI Studio、Groq、Cerebras 等主流平台的速率限制、模型列表及特殊要求，适合开发者在原型阶段进行选型参考。

大语言模型Python知识库

查看详情 →

一个极简、可修改的 LLM 训练实验框架，支持从预训练到 ChatGPT 风格 UI 的全流程，设计用于单 GPU 节点运行。

大语言模型TransformersPyTorch

查看详情 →

Stream公司开发的开源视觉智能体框架，支持任何模型或视频提供商，通过Stream的边缘网络实现超低延迟，帮助开发者快速构建视觉AI应用。

智能体与应用工具PythonPyTorch

查看详情 →

AirLLM优化推理内存使用，允许70B大语言模型在单张4GB GPU卡上运行推理，无需量化、蒸馏和剪枝。现在还能在8GB显存上运行405B Llama3.1模型。

模型与推理框架PythonPyTorch

查看详情 →