12 KiB
Pocket Flow é um framework LLM minimalista de 100 linhas
-
Leve: Apenas 100 linhas. Zero inchaço, zero dependências, zero bloqueio de fornecedor.
-
Expressivo: Tudo o que você ama—(Multi-)Agentes, Fluxo de Trabalho, RAG, e mais.
-
Codificação Agêntica: Deixe os Agentes de IA (por exemplo, Cursor AI) construírem Agentes—aumento de produtividade de 10x!
-
Para instalar,
pip install pocketflowou apenas copie o código-fonte (apenas 100 linhas). -
Para saber mais, consulte a documentação. Para entender a motivação, leia a história.
-
🎉 Junte-se ao nosso discord!
-
🎉 Graças a @zvictor, @jackylee941130 e @ZebraRoy, agora temos uma versão TypeScript!
Por que Pocket Flow?
Os frameworks LLM atuais são inchados... Você só precisa de 100 linhas para um Framework LLM!
| Abstração | Wrappers Específicos de App | Wrappers Específicos de Fornecedor | Linhas | Tamanho | |
|---|---|---|---|---|---|
| LangChain | Agente, Cadeia | Muitos (ex., QA, Sumarização) |
Muitos (ex., OpenAI, Pinecone, etc.) |
405K | +166MB |
| CrewAI | Agente, Cadeia | Muitos (ex., FileReadTool, SerperDevTool) |
Muitos (ex., OpenAI, Anthropic, Pinecone, etc.) |
18K | +173MB |
| SmolAgent | Agente | Alguns (ex., CodeAgent, VisitWebTool) |
Alguns (ex., DuckDuckGo, Hugging Face, etc.) |
8K | +198MB |
| LangGraph | Agente, Grafo | Alguns (ex., Busca Semântica) |
Alguns (ex., PostgresStore, SqliteSaver, etc.) |
37K | +51MB |
| AutoGen | Agente | Alguns (ex., Agente de Ferramentas, Agente de Chat) |
Muitos [Opcional] (ex., OpenAI, Pinecone, etc.) |
7K (apenas núcleo) |
+26MB (apenas núcleo) |
| PocketFlow | Grafo | Nenhum | Nenhum | 100 | +56KB |
Como funciona o Pocket Flow?
As 100 linhas capturam a abstração central dos frameworks LLM: Grafo!
A partir daí, é fácil implementar padrões de design populares como (Multi-)Agentes, Fluxo de Trabalho, RAG, etc.
✨ Abaixo estão tutoriais básicos:
| Nome | Dificuldade | Descrição |
|---|---|---|
| Chat | ☆☆☆ Iniciante |
Um chatbot básico com histórico de conversas |
| Saída Estruturada | ☆☆☆ Iniciante |
Extraindo dados estruturados de currículos por prompt |
| Fluxo de Trabalho | ☆☆☆ Iniciante |
Um fluxo de escrita que esboça, escreve conteúdo e aplica estilo |
| Agente | ☆☆☆ Iniciante |
Um agente de pesquisa que pode buscar na web e responder perguntas |
| RAG | ☆☆☆ Iniciante |
Um processo simples de Geração Aumentada por Recuperação |
| Map-Reduce | ☆☆☆ Iniciante |
Um processador de qualificação de currículo usando o padrão map-reduce para avaliação em lote |
| Streaming | ☆☆☆ Iniciante |
Uma demonstração de streaming LLM em tempo real com capacidade de interrupção pelo usuário |
| Guarda-rail de Chat | ☆☆☆ Iniciante |
Um chatbot de consultoria de viagens que processa apenas consultas relacionadas a viagens |
| Multi-Agente | ★☆☆ Intermediário |
Um jogo de palavras Tabu para comunicação assíncrona entre dois agentes |
| Supervisor | ★☆☆ Intermediário |
O agente de pesquisa está ficando não confiável... Vamos construir um processo de supervisão |
| Paralelo | ★☆☆ Intermediário |
Uma demonstração de execução paralela que mostra aceleração de 3x |
| Fluxo Paralelo | ★☆☆ Intermediário |
Uma demonstração de processamento de imagem paralela mostrando aceleração de 8x com múltiplos filtros |
| Voto por Maioria | ★☆☆ Intermediário |
Melhore a precisão do raciocínio agregando múltiplas tentativas de solução |
| Pensamento | ★☆☆ Intermediário |
Resolva problemas de raciocínio complexos através da Cadeia de Pensamento |
| Memória | ★☆☆ Intermediário |
Um chatbot com memória de curto e longo prazo |
| MCP | ★☆☆ Intermediário |
Agente usando Protocolo de Contexto de Modelo para operações numéricas |
👀 Quer ver outros tutoriais para iniciantes? Crie uma issue!
Como Usar Pocket Flow?
🚀 Através da Codificação Agêntica—o paradigma mais rápido de desenvolvimento de aplicativos LLM—onde humanos projetam e agentes codificam!
✨ Abaixo estão exemplos de aplicativos LLM mais complexos:
| Nome do App | Dificuldade | Tópicos | Design Humano | Código do Agente |
|---|---|---|---|---|
| Construir Cursor com Cursor Logo chegaremos à singularidade ... |
★★★ Avançado |
Agente | Doc de Design | Código Flow |
| Pergunte ao AI Paul Graham Pergunte ao AI Paul Graham, caso você não seja aceito |
★★☆ Médio |
RAG Map Reduce TTS |
Doc de Design | Código Flow |
| Resumidor de Youtube Explica vídeos do YouTube como se você tivesse 5 anos |
★☆☆ Iniciante |
Map Reduce | Doc de Design | Código Flow |
| Gerador de Aberturas Frias Quebra-gelos instantâneos que transformam leads frios em quentes |
★☆☆ Iniciante |
Map Reduce Busca Web |
Doc de Design | Código Flow |
-
Quer aprender Codificação Agêntica?
-
Confira meu YouTube para tutorial em vídeo sobre como alguns aplicativos acima são feitos!
-
Quer construir seu próprio aplicativo LLM? Leia este post! Comece com este modelo!
-
Quer aprender os passos detalhados? Leia este Guia!
-