这里汇总了代码库收录的「LLM 应用」场景开源项目，按 Star 总量排序，适合按方向系统性地挑选与对比工具。
共收录 136 个项目 · 第 7 / 7 页
一个基于 PyTorch 的开源大模型工具包，提供 20+ 高性能 LLM 的预训练、微调和规模化部署方案，让开发者更高效地落地大模型。
编辑点评LitGPT 将 Lightning 生态的工程经验带入 LLM 全流程，配置简洁、脚本可控，适合研究团队或中小公司快速复现主流模型。它支持从零预训练、LoRA/QLoRA 微调及推理部署，但依赖 transformers 生态相对较深，需要一定 PyTorch 基础。若你想避开重量级框架，追求灵活性和透明性，它是不错的选择。
Python 实用工具，涉及0x4m4、AI、AI-agents
编辑点评适用于AI/大模型、开发工具、基础设施场景。使用 Python 开发，涉及0x4m4、AI、AI-agents等技术方向。建议关注其社区活跃度和文档完善程度。
一个集语义搜索、LLM 编排和语言模型工作流于一体的多功能 AI 框架，帮助开发者快速构建智能化应用。
编辑点评txtai 将语义搜索、LLM 编排与工作流整合到一个统一框架中，内置向量索引和知识图谱能力，上手简单且扩展性强。适合需要快速原型验证的开发者，也适合生产环境中的 RAG 和智能检索场景。但文档和生态相比 LangChain 稍显不足，复杂编排时需自行探索。
在本地运行 LLaMA 的最简单方式，一条命令即可加载模型，无需复杂配置，适合快速体验大语言模型。
编辑点评该项目将 LLaMA 本地部署的门槛降到极低，特别适合想尝鲜但不想折腾环境的开发者。它提供了简洁的 Web 界面，安装运行非常直接。不过项目后续维护较少，且模型需自行获取，使用时需注意版权与合规问题。适合个人研究、离线演示和快速原型验证。
TypeScript AI/ML 项目，涉及agents、AI、amp
编辑点评适用于AI/大模型场景。使用 TypeScript 开发，涉及agents、AI、amp等技术方向。建议关注其社区活跃度和文档完善程度。
TypeScript AI/ML 项目，涉及智能体、agentic-AI、AI
编辑点评适用于AI/大模型场景。使用 TypeScript 开发，涉及智能体、agentic-AI、AI等技术方向。建议关注其社区活跃度和文档完善程度。
Python 平台，涉及智能体、AI、chatbot
编辑点评适用于AI/大模型、Web 开发、基础设施场景。使用 Python 开发，涉及智能体、AI、chatbot等技术方向。建议关注其社区活跃度和文档完善程度。
Python 实用工具，涉及AI、认证、授权
编辑点评适用于AI/大模型、Web 开发、基础设施场景。使用 Python 开发，涉及AI、认证、授权等技术方向。建议关注其社区活跃度和文档完善程度。
h2ogpt 是一个完全私有的本地 GPT 聊天工具，支持文档、图片、视频等多模态内容，基于 Apache 2.0 协议，兼容 Ollama、Mixtral、llama.cpp 等主流推理后端。
编辑点评适合对数据隐私要求严格的团队和个人，无需上传数据即可在本地完成对话与文档处理。集成多种推理引擎，部署灵活，但配置复杂度较高，需要一定动手能力。多模态支持是亮点，但部分功能依赖外部模型，需注意资源消耗。
Rust 引擎，涉及agentic-数据-框架、AI、AI-agents
编辑点评适用于AI/大模型、数据科学场景。使用 Rust 开发，涉及agentic-数据-框架、AI、AI-agents等技术方向。建议关注其社区活跃度和文档完善程度。
Rust 平台，涉及AI、AI-engineering、anthropic
编辑点评适用于AI/大模型、基础设施场景。使用 Rust 开发，涉及AI、AI-engineering、anthropic等技术方向。建议关注其社区活跃度和文档完善程度。
TypeScript 实用工具，涉及智能体、智能体-harness、智能体-os
编辑点评适用于AI/大模型、基础设施、桌面/移动应用场景。使用 TypeScript 开发，涉及智能体、智能体-harness、智能体-os等技术方向。建议关注其社区活跃度和文档完善程度。
Python 应用，涉及AI、AI-application-development、AI-applications
编辑点评适用于AI/大模型、桌面/移动应用场景。使用 Python 开发，涉及AI、AI-application-development、AI-applications等技术方向。建议关注其社区活跃度和文档完善程度。
TypeScript 部署/持续集成工具，涉及AI-agents、anthropic、claude-code
编辑点评适用于AI/大模型、开发工具、基础设施场景。使用 TypeScript 开发，涉及AI-agents、anthropic、claude-code等技术方向。建议关注其社区活跃度和文档完善程度。
Python 命令行工具，涉及智能体-os、agentic-AI、AI-智能体
编辑点评适用于AI/大模型、开发工具场景。使用 Python 开发，涉及智能体-os、agentic-AI、AI-智能体等技术方向。建议关注其社区活跃度和文档完善程度。
Python 部署/持续集成工具，涉及AI、artificial-intelligence、chatbot
编辑点评适用于AI/大模型、基础设施场景。使用 Python 开发，涉及AI、artificial-intelligence、chatbot等技术方向。建议关注其社区活跃度和文档完善程度。