Pocket Flow – 100-line minimalist LLM framework
[English](https://github.com/The-Pocket/PocketFlow/blob/main/README.md) | [中文](https://github.com/The-Pocket/PocketFlow/blob/main/cookbook/pocketflow-batch/translations/README_CHINESE.md) | [Español](https://github.com/The-Pocket/PocketFlow/blob/main/cookbook/pocketflow-batch/translations/README_SPANISH.md) | [日本語](https://github.com/The-Pocket/PocketFlow/blob/main/cookbook/pocketflow-batch/translations/README_JAPANESE.md) | [Deutsch](https://github.com/The-Pocket/PocketFlow/blob/main/cookbook/pocketflow-batch/translations/README_GERMAN.md) | Русский| [Português](https://github.com/The-Pocket/PocketFlow/blob/main/cookbook/pocketflow-batch/translations/README_PORTUGUESE.md) | [Français](https://github.com/The-Pocket/PocketFlow/blob/main/cookbook/pocketflow-batch/translations/README_FRENCH.md) | [한국어](https://github.com/The-Pocket/PocketFlow/blob/main/cookbook/pocketflow-batch/translations/README_KOREAN.md) ![License: MIT](https://img.shields.io/badge/License-MIT-yellow.svg) [![Docs](https://img.shields.io/badge/docs-latest-blue)](https://the-pocket.github.io/PocketFlow/) Pocket Flow — это минималистичный фреймворк для LLM всего в [100 строк](https://github.com/The-Pocket/PocketFlow/blob/main/pocketflow/__init__.py) - **Легкий**: Всего 100 строк. Никакого лишнего веса, никаких зависимостей, никакой привязки к вендорам. - **Выразительный**: Всё, что вы любите — ([Мульти-](https://the-pocket.github.io/PocketFlow/design_pattern/multi_agent.html))[Агенты](https://the-pocket.github.io/PocketFlow/design_pattern/agent.html), [Рабочие процессы](https://the-pocket.github.io/PocketFlow/design_pattern/workflow.html), [RAG](https://the-pocket.github.io/PocketFlow/design_pattern/rag.html) и многое другое. - **[Агентское кодирование](https://zacharyhuang.substack.com/p/agentic-coding-the-most-fun-way-to)**: Позвольте ИИ-агентам (например, Cursor AI) создавать других агентов — повысьте продуктивность в 10 раз! Начало работы с Pocket Flow: - Для установки, ```pip install pocketflow``` или просто скопируйте [исходный код](https://github.com/The-Pocket/PocketFlow/blob/main/pocketflow/__init__.py) (всего 100 строк). - Чтобы узнать больше, ознакомьтесь с [документацией](https://the-pocket.github.io/PocketFlow/). Чтобы понять мотивацию, прочитайте [историю](https://zacharyhuang.substack.com/p/i-built-an-llm-framework-in-just). - Есть вопросы? Спросите этого [ИИ-ассистента](https://chatgpt.com/g/g-677464af36588191b9eba4901946557b-pocket-flow-assistant) или [создайте issue!](https://github.com/The-Pocket/PocketFlow/issues/new) - 🎉 Присоединяйтесь к нашему [Discord](https://discord.gg/hUHHE9Sa6T), чтобы общаться с другими разработчиками, использующими Pocket Flow! - 🎉 Pocket Flow изначально написан на Python, но теперь у нас есть версии на [Typescript](https://github.com/The-Pocket/PocketFlow-Typescript), [Java](https://github.com/The-Pocket/PocketFlow-Java), [C++](https://github.com/The-Pocket/PocketFlow-CPP) и [Go](https://github.com/The-Pocket/PocketFlow-Go)! ## Почему Pocket Flow? Современные фреймворки для LLM слишком громоздкие... Для фреймворка LLM достаточно всего 100 строк!
| | **Абстракция** | **Обертки для конкретных приложений** | **Обертки для конкретных вендоров** | **Строк** | **Размер** | |----------------|:-----------------------------: |:-----------------------------------------------------------:|:------------------------------------------------------------:|:---------------:|:----------------------------:| | LangChain | Agent, Chain | Много
(напр., QA, Суммаризация) | Много
(напр., OpenAI, Pinecone и т.д.) | 405K | +166MB | | CrewAI | Agent, Chain | Много
(напр., FileReadTool, SerperDevTool) | Много
(напр., OpenAI, Anthropic, Pinecone и т.д.) | 18K | +173MB | | SmolAgent | Agent | Несколько
(напр., CodeAgent, VisitWebTool) | Несколько
(напр., DuckDuckGo, Hugging Face и т.д.) | 8K | +198MB | | LangGraph | Agent, Graph | Несколько
(напр., Semantic Search) | Несколько
(напр., PostgresStore, SqliteSaver и т.д.) | 37K | +51MB | | AutoGen | Agent | Несколько
(напр., Tool Agent, Chat Agent) | Много [Опционально]
(напр., OpenAI, Pinecone и т.д.) | 7K
(только ядро) | +26MB
(только ядро) | | **PocketFlow** | **Graph** | **Нет** | **Нет** | **100** | **+56KB** |
## Как работает Pocket Flow? [100 строк](https://github.com/The-Pocket/PocketFlow/blob/main/pocketflow/__init__.py) охватывают ключевую абстракцию фреймворков LLM: Граф!

Отсюда легко реализовать популярные шаблоны проектирования, такие как ([Мульти-](https://the-pocket.github.io/PocketFlow/design_pattern/multi_agent.html))[Агенты](https://the-pocket.github.io/PocketFlow/design_pattern/agent.html), [Рабочие процессы](https://the-pocket.github.io/PocketFlow/design_pattern/workflow.html), [RAG](https://the-pocket.github.io/PocketFlow/design_pattern/rag.html) и другие.

✨ Ниже приведены базовые руководства:
| Название | Сложность | Описание | | :-------------: | :-------------: | :--------------------- | | [Чат](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-chat) | ☆☆☆
*Простейший* | Базовый чат-бот с историей разговора | | [Структурированный вывод](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-structured-output) | ☆☆☆
*Простейший* | Извлечение структурированных данных из резюме с помощью промптов | | [Рабочий процесс](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-workflow) | ☆☆☆
*Простейший* | Процесс написания, который создает план, пишет контент и применяет стили | | [Агент](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-agent) | ☆☆☆
*Простейший* | Исследовательский агент, который может искать в интернете и отвечать на вопросы | | [RAG](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-rag) | ☆☆☆
*Простейший* | Простой процесс генерации с извлечением информации | | [Пакетная обработка](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-batch) | ☆☆☆
*Простейший* | Пакетный процессор, который переводит markdown-контент на несколько языков | | [Потоковая передача](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-llm-streaming) | ☆☆☆
*Простейший* | Демонстрация потоковой передачи LLM в реальном времени с возможностью прерывания пользователем | | [Ограничение чата](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-chat-guardrail) | ☆☆☆
*Простейший* | Чат-бот туристического консультанта, обрабатывающий только запросы, связанные с путешествиями | | [Map-Reduce](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-map-reduce) | ★☆☆
*Начальный* | Процессор квалификации резюме, использующий паттерн map-reduce для пакетной оценки | | [Мульти-агент](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-multi-agent) | ★☆☆
*Начальный* | Игра Табу для асинхронного общения между двумя агентами | | [Супервизор](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-supervisor) | ★☆☆
*Начальный* | Исследовательский агент становится ненадежным... Давайте создадим процесс надзора| | [Параллельное выполнение](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-parallel-batch) | ★☆☆
*Начальный* | Демонстрация параллельного выполнения, показывающая 3-кратное ускорение | | [Параллельный поток](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-parallel-batch-flow) | ★☆☆
*Начальный* | Демонстрация параллельной обработки изображений, показывающая 8-кратное ускорение с несколькими фильтрами | | [Голосование большинством](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-majority-vote) | ★☆☆
*Начальный* | Повышение точности рассуждений путем агрегации нескольких попыток решения | | [Мышление](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-thinking) | ★☆☆
*Начальный* | Решение сложных задач рассуждения с помощью цепочки размышлений | | [Память](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-chat-memory) | ★☆☆
*Начальный* | Чат-бот с кратковременной и долговременной памятью | | [Text2SQL](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-text2sql) | ★☆☆
*Начальный* | Преобразование естественного языка в SQL-запросы с автоматическим циклом отладки | | [MCP](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-mcp) | ★☆☆
*Начальный* | Агент, использующий протокол контекста модели для числовых операций | | [A2A](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-a2a) | ★☆☆
*Начальный* | Агент, обернутый протоколом агент-к-агенту для межагентного взаимодействия | | [Web HITL](https://github.com/The-Pocket/PocketFlow/tree/main/cookbook/pocketflow-web-hitl) | ★☆☆
*Начальный* | Минимальный веб-сервис для цикла проверки человеком с обновлениями SSE |
👀 Хотите увидеть другие руководства для начинающих? [Создайте issue!](https://github.com/The-Pocket/PocketFlow/issues/new) ## Как использовать Pocket Flow? 🚀 Через **Агентское кодирование** — самую быструю парадигму разработки LLM-приложений, где *люди проектируют*, а *агенты кодируют*!
IMAGE ALT TEXT

✨ Ниже приведены примеры более сложных LLM-приложений:
| Название приложения | Сложность | Темы | Дизайн от человека | Код от агента | | :-------------: | :-------------: | :---------------------: | :---: | :---: | | [Создание Cursor с помощью Cursor](https://github.com/The-Pocket/Tutorial-Cursor)
Скоро достигнем сингулярности ... | ★★★
*Продвинутый* | [Агент](https://the-pocket.github.io/PocketFlow/design_pattern/agent.html) | [Документация по дизайну](https://github.com/The-Pocket/Tutorial-Cursor/blob/main/docs/design.md) | [Код потока](https://github.com/The-Pocket/Tutorial-Cursor/blob/main/flow.py) | [Конструктор знаний о кодовой базе](https://github.com/The-Pocket/Tutorial-Codebase-Knowledge)
Жизнь слишком коротка, чтобы в растерянности смотреть на чужой код | ★★☆
*Средний* | [Рабочий процесс](https://the-pocket.github.io/PocketFlow/design_pattern/workflow.html) | [Документация по дизайну](https://github.com/The-Pocket/Tutorial-Codebase-Knowledge/blob/main/docs/design.md) | [Код потока](https://github.com/The-Pocket/Tutorial-Codebase-Knowledge/blob/main/flow.py) | [Спроси ИИ Пола Грэма](https://github.com/The-Pocket/Tutorial-YC-Partner)
Спроси ИИ Пола Грэма, если тебя не приняли | ★★☆
*Средний* | [RAG](https://the-pocket.github.io/PocketFlow/design_pattern/rag.html)
[Map Reduce](https://the-pocket.github.io/PocketFlow/design_pattern/mapreduce.html)
[TTS](https://the-pocket.github.io/PocketFlow/utility_function/text_to_speech.html) | [Документация по дизайну](https://github.com/The-Pocket/Tutorial-AI-Paul-Graham/blob/main/docs/design.md) | [Код потока](https://github.com/The-Pocket/Tutorial-AI-Paul-Graham/blob/main/flow.py) | [Суммаризатор YouTube](https://github.com/The-Pocket/Tutorial-Youtube-Made-Simple)
Объясняет YouTube-видео как для 5-летнего | ★☆☆
*Начальный* | [Map Reduce](https://the-pocket.github.io/PocketFlow/design_pattern/mapreduce.html) | [Документация по дизайну](https://github.com/The-Pocket/Tutorial-Youtube-Made-Simple/blob/main/docs/design.md) | [Код потока](https://github.com/The-Pocket/Tutorial-Youtube-Made-Simple/blob/main/flow.py) | [Генератор холодных открытий](https://github.com/The-Pocket/Tutorial-Cold-Email-Personalization)
Мгновенные ледоколы, превращающие холодных лидов в горячих | ★☆☆
*Начальный* | [Map Reduce](https://the-pocket.github.io/PocketFlow/design_pattern/mapreduce.html)
[Веб-поиск](https://the-pocket.github.io/PocketFlow/utility_function/websearch.html) | [Документация по дизайну](https://github.com/The-Pocket/Tutorial-Cold-Email-Personalization/blob/master/docs/design.md) | [Код потока](https://github.com/The-Pocket/Tutorial-Cold-Email-Personalization/blob/master/flow.py)
- Хотите изучить **Агентское кодирование**? - Посмотрите [мой YouTube](https://www.youtube.com/@ZacharyLLM?sub_confirmation=1) для видеоуроков о том, как создаются некоторые из вышеперечисленных приложений! - Хотите создать свое собственное LLM-приложение? Прочитайте эту [статью](https://zacharyhuang.substack.com/p/agentic-coding-the-most-fun-way-to)! Начните с [этого шаблона](https://github.com/The-Pocket/PocketFlow-Template-Python)!