LLM 应用 方向开源项目精选

微软出品的生成式 AI 入门教程，包含 21 节课程，通过 Jupyter Notebook 实战帮助初学者快速上手构建生成式 AI 应用。

编辑点评这是微软官方维护的免费课程，内容覆盖提示工程、LLM 应用开发、RAG 等核心主题，配有代码示例和实战练习，非常适合想系统学习生成式 AI 的开发者。课程以 Notebook 形式呈现，上手门槛低，但部分内容需要科学上网访问相关服务。适合作为第一本生成式 AI 学习手册，也适合快速查阅特定知识点。

Python AI/ML 项目，涉及AI-agents、AI-tools、浏览器-自动化

编辑点评适用于AI/大模型场景。使用 Python 开发，涉及AI-agents、AI-tools、浏览器-自动化等技术方向。建议关注其社区活跃度和文档完善程度。

Python 开发的框架/库，涉及智能体、finance、大语言模型

编辑点评适用于AI/大模型场景。使用 Python 开发，涉及智能体、finance、大语言模型等技术方向。建议关注其社区活跃度和文档完善程度。

TypeScript 实用工具

编辑点评适用于通用开发场景。使用 TypeScript 开发，建议关注其社区活跃度和文档完善程度。

Go 开源项目，涉及AI、anthropic、caveman

编辑点评适用于AI/大模型场景。使用 Go 开发，涉及AI、anthropic、caveman等技术方向。建议关注其社区活跃度和文档完善程度。

JavaScript AI/ML 项目，涉及AI、AI-agents、AI-memory

编辑点评适用于AI/大模型、基础设施场景。使用 JavaScript 开发，涉及AI、AI-agents、AI-memory等技术方向。建议关注其社区活跃度和文档完善程度。

Python 命令行工具，涉及智能体-infrastructure、AI-智能体、AI-搜索

编辑点评适用于AI/大模型、Web 开发、开发工具场景。使用 Python 开发，涉及智能体-infrastructure、AI-智能体、AI-搜索等技术方向。建议关注其社区活跃度和文档完善程度。

Jupyter 开源项目，涉及AI、artificial-intelligence、attention-mechanism

编辑点评适用于AI/大模型、基础设施、数据科学场景。使用 Jupyter 开发，涉及AI、artificial-intelligence、attention-mechanism等技术方向。建议关注其社区活跃度和文档完善程度。

高吞吐大模型推理引擎，用 PagedAttention 提升显存利用率，支持连续批处理与张量并行。

编辑点评自建推理服务时第一个该看的库。PagedAttention 把显存碎片问题处理得很干净，同样一张卡能撑更高并发。适合已经有模型、需要对外提供稳定 API 的团队。

Go 引擎，涉及智能体-harness、agentic-AI、agentic-retrieval

编辑点评适用于AI/大模型、桌面/移动应用场景。使用 Go 开发，涉及智能体-harness、agentic-AI、agentic-retrieval等技术方向。建议关注其社区活跃度和文档完善程度。

开源的 AI 软件开发智能体平台，可自主编写代码、执行终端命令与操作浏览器。

编辑点评目前开源里完成度较高的 AI 软件开发智能体。它能自己写代码、跑终端命令、操作浏览器，把整个任务跑完再交给你审。适合拿来做重复性改造任务的试验。

将任意 PDF 或图片文档转化为 AI 可直接使用的结构化数据，支持 100+ 语言，是连接文档与大模型的轻量级 OCR 工具。

编辑点评作为开源 OCR 工具，PaddleOCR 在准确率、多语言支持和部署便捷性上表现突出，尤其适合需要从扫描件、截图等非结构化文档中提取信息的场景，可为 RAG 或 LLM 应用提供高质量文本数据。其轻量设计便于快速集成，但复杂版面或手写内容的识别效果仍需根据实际数据验证。

TypeScript 命令行工具，涉及antigravity-skills、business-knowledge、claude-code

编辑点评适用于AI/大模型、开发工具场景。使用 TypeScript 开发，涉及antigravity-skills、business-knowledge、claude-code等技术方向。建议关注其社区活跃度和文档完善程度。

零配置的 AI 聊天助手，无需 API Key，注册即可使用 GPT-5、Claude 4、Gemini 2.5 等 100+ 模型，按量付费，支持全平台客户端。

编辑点评NextChat 将原本需要配置 API Key 的繁琐流程简化为注册即用，大幅降低了普通用户使用顶尖大模型的门槛。其按量付费模式对轻度用户更友好，且覆盖 Web、桌面和移动端，跨平台体验统一。适合追求便捷、不想管理多个平台账号的开发者或普通用户。注意其商业模式依赖第三方模型调用，可能涉及数据隐私与费用透明度问题，建议先小额试用。

Python AI/ML 项目

编辑点评适用于AI/大模型场景。使用 Python 开发，建议关注其社区活跃度和文档完善程度。

Rust 命令行工具，涉及agentic-coding、AI-coding、anthropic

编辑点评适用于AI/大模型、开发工具场景。使用 Rust 开发，涉及agentic-coding、AI-coding、anthropic等技术方向。建议关注其社区活跃度和文档完善程度。

Python 实用工具，涉及智能体、agentic、agentic-框架

编辑点评适用于AI/大模型场景。使用 Python 开发，涉及智能体、agentic、agentic-框架等技术方向。建议关注其社区活跃度和文档完善程度。

AI/ML 项目，涉及course、large-language-models、大语言模型

编辑点评适用于AI/大模型场景。涉及course、large-language-models、大语言模型等技术方向。建议关注其社区活跃度和文档完善程度。

Python 开源项目，涉及ai4science、文档-analysis、docx

编辑点评适用于AI/大模型、基础设施、数据科学场景。使用 Python 开发，涉及ai4science、文档-analysis、docx等技术方向。建议关注其社区活跃度和文档完善程度。

一个关于提示工程、上下文工程、RAG和AI Agent的综合性指南资源库，收录指南、论文、课程和实战笔记本。

编辑点评这是目前最系统的提示工程学习资源之一，从基础概念到高级技术，覆盖大量论文与案例。适合希望深入了解大模型交互方式的开发者、研究者和教学场景。内容全面但信息密度高，建议结合自身需求有选择地学习，并关注仓库的持续更新。