11 KiB
11 KiB
Pocket Flow 是一个仅有100行代码的极简主义LLM框架
-
轻量级:仅100行代码。零臃肿,零依赖,零供应商锁定。
-
智能体编程:让AI智能体(例如Cursor AI)构建智能体——生产力提升10倍!
-
安装方式:
pip install pocketflow或者直接复制源代码(仅100行)。 -
🎉 加入我们的Discord社区!
-
🎉 感谢@zvictor、@jackylee941130和@ZebraRoy,我们现在有了TypeScript版本!
为什么选择Pocket Flow?
当前的LLM框架过于臃肿... LLM框架只需要100行代码就够了!
| 抽象概念 | 特定应用包装器 | 特定厂商包装器 | 代码行数 | 大小 | |
|---|---|---|---|---|---|
| LangChain | 智能体, 链 | 很多 (例如问答, 摘要) |
很多 (例如OpenAI, Pinecone等) |
405K | +166MB |
| CrewAI | 智能体, 链 | 很多 (例如FileReadTool, SerperDevTool) |
很多 (例如OpenAI, Anthropic, Pinecone等) |
18K | +173MB |
| SmolAgent | 智能体 | 一些 (例如CodeAgent, VisitWebTool) |
一些 (例如DuckDuckGo, Hugging Face等) |
8K | +198MB |
| LangGraph | 智能体, 图 | 一些 (例如语义搜索) |
一些 (例如PostgresStore, SqliteSaver等) |
37K | +51MB |
| AutoGen | 智能体 | 一些 (例如Tool Agent, Chat Agent) |
很多 [可选] (例如OpenAI, Pinecone等) |
7K (仅核心) |
+26MB (仅核心) |
| PocketFlow | 图 | 无 | 无 | 100 | +56KB |
Pocket Flow如何工作?
这100行代码捕获了LLM框架的核心抽象:图!
基于此,易于实现流行的设计模式,如(多)智能体、工作流、RAG等。
✨ 以下是基础教程:
| 名称 | 难度 | 描述 |
|---|---|---|
| 聊天 | ☆☆☆ 简单 |
带有会话历史的基础聊天机器人 |
| 结构化输出 | ☆☆☆ 简单 |
通过提示从简历中提取结构化数据 |
| 工作流 | ☆☆☆ 简单 |
能够概述、撰写内容并应用样式的写作工作流 |
| 智能体 | ☆☆☆ 简单 |
能够搜索网络并回答问题的研究智能体 |
| RAG | ☆☆☆ 简单 |
简单的检索增强生成过程 |
| Map-Reduce | ☆☆☆ 简单 |
使用map-reduce模式进行批量评估的简历资格处理器 |
| 流式处理 | ☆☆☆ 简单 |
具有用户中断功能的实时LLM流式演示 |
| 聊天护栏 | ☆☆☆ 简单 |
只处理与旅行相关查询的旅行顾问聊天机器人 |
| 多智能体 | ★☆☆ 初级 |
两个智能体之间进行异步通信的禁忌词游戏 |
| 监督者 | ★☆☆ 初级 |
研究智能体变得不可靠...让我们构建一个监督过程 |
| 并行处理 | ★☆☆ 初级 |
展示3倍加速的并行执行演示 |
| 并行流 | ★☆☆ 初级 |
使用多个过滤器展示8倍加速的并行图像处理演示 |
| 多数投票 | ★☆☆ 初级 |
通过汇总多个解决方案尝试来提高推理准确性 |
| 思考 | ★☆☆ 初级 |
通过思维链解决复杂推理问题 |
| 记忆 | ★☆☆ 初级 |
具有短期和长期记忆的聊天机器人 |
| MCP | ★☆☆ 初级 |
使用模型上下文协议进行数值运算的智能体 |
👀 想看更多初学者教程?创建一个issue!
如何使用Pocket Flow?
🚀 通过智能体编程——最快的LLM应用开发范式,人类设计,智能体编码!
✨ 以下是更复杂LLM应用的示例:
| 应用名称 | 难度 | 主题 | 人类设计 | 智能体代码 |
|---|---|---|---|---|
| 用Cursor构建Cursor 我们很快就会达到奇点... |
★★★ 高级 |
智能体 | 设计文档 | 流程代码 |
| 询问AI版Paul Graham 如果你无法联系到真人,可以询问AI版Paul Graham |
★★☆ 中级 |
RAG Map Reduce TTS |
设计文档 | 流程代码 |
| Youtube总结器 像解释给5岁小孩一样解释YouTube视频 |
★☆☆ 初级 |
Map Reduce | 设计文档 | 流程代码 |
| 冷启动开场白生成器 即时破冰话题,将冷门线索变热 |
★☆☆ 初级 |
Map Reduce 网络搜索 |
设计文档 | 流程代码 |
-
想学习智能体编程?
-
查看我的YouTube频道获取关于上述应用制作的视频教程!
-
想了解详细步骤?阅读这份指南!
-