14 KiB
English | 中文 | Español | 日本語 | Deutsch | Русский | Português | Français | 한국어
Pocket Flow ist ein 100-Zeilen minimalistisches LLM-Framework
-
Leichtgewichtig: Nur 100 Zeilen. Kein überflüssiger Code, keine Abhängigkeiten, keine Herstellerbindung.
-
Ausdrucksstark: Alles was du liebst—(Multi-)Agents, Workflow, RAG, und mehr.
-
Agentenbasiertes Programmieren: Lass KI-Agenten (z.B. Cursor AI) Agenten bauen—10-fache Produktivitätssteigerung!
Starte mit Pocket Flow:
- Installation via
pip install pocketflowoder kopiere einfach den Quellcode (nur 100 Zeilen). - Erfahre mehr in der Dokumentation. Um die Motivation zu verstehen, lies die Geschichte.
- Fragen? Nutze diesen KI-Assistenten oder erstelle ein Issue!
- 🎉 Tritt unserem Discord bei, um dich mit anderen Entwicklern zu vernetzen, die mit Pocket Flow arbeiten!
- 🎉 Pocket Flow war ursprünglich in Python, aber wir haben jetzt auch Typescript, Java, C++ und Go Versionen!
Warum Pocket Flow?
Aktuelle LLM-Frameworks sind überladen... Du brauchst nur 100 Zeilen für ein LLM-Framework!
| Abstraktion | App-spezifische Wrapper | Anbieter-spezifische Wrapper | Zeilen | Größe | |
|---|---|---|---|---|---|
| LangChain | Agent, Chain | Viele (z.B. QA, Zusammenfassung) |
Viele (z.B. OpenAI, Pinecone, etc.) |
405K | +166MB |
| CrewAI | Agent, Chain | Viele (z.B. FileReadTool, SerperDevTool) |
Viele (z.B. OpenAI, Anthropic, Pinecone, etc.) |
18K | +173MB |
| SmolAgent | Agent | Einige (z.B. CodeAgent, VisitWebTool) |
Einige (z.B. DuckDuckGo, Hugging Face, etc.) |
8K | +198MB |
| LangGraph | Agent, Graph | Einige (z.B. Semantic Search) |
Einige (z.B. PostgresStore, SqliteSaver, etc.) |
37K | +51MB |
| AutoGen | Agent | Einige (z.B. Tool Agent, Chat Agent) |
Viele [Optional] (z.B. OpenAI, Pinecone, etc.) |
7K (nur Kern) |
+26MB (nur Kern) |
| PocketFlow | Graph | Keine | Keine | 100 | +56KB |
Wie funktioniert Pocket Flow?
Die 100 Zeilen erfassen die Kernabstraktion von LLM-Frameworks: Graph!
Von dort aus ist es einfach, beliebte Designmuster wie (Multi-)Agents, Workflow, RAG usw. zu implementieren.
✨ Nachfolgend sind grundlegende Tutorials:
| Name | Schwierigkeit | Beschreibung |
|---|---|---|
| Chat | ☆☆☆ Sehr einfach |
Ein einfacher Chatbot mit Gesprächsverlauf |
| Strukturierte Ausgabe | ☆☆☆ Sehr einfach |
Extrahieren strukturierter Daten aus Lebensläufen durch Prompting |
| Workflow | ☆☆☆ Sehr einfach |
Ein Schreibworkflow, der Gliederung erstellt, Inhalte verfasst und Formatierung anwendet |
| Agent | ☆☆☆ Sehr einfach |
Ein Recherche-Agent, der im Web suchen und Fragen beantworten kann |
| RAG | ☆☆☆ Sehr einfach |
Ein einfacher Retrieval-augmented Generation Prozess |
| Batch | ☆☆☆ Sehr einfach |
Ein Batch-Prozessor, der Markdown-Inhalte in mehrere Sprachen übersetzt |
| Streaming | ☆☆☆ Sehr einfach |
Eine Echtzeit-LLM-Streaming-Demo mit Nutzer-Unterbrechungsfunktion |
| Chat-Leitplanke | ☆☆☆ Sehr einfach |
Ein Reiseberater-Chatbot, der nur reisebezogene Anfragen verarbeitet |
| Map-Reduce | ★☆☆ Anfänger |
Ein Lebenslauf-Qualifikationsprozessor mit Map-Reduce-Muster für Batch-Auswertung |
| Multi-Agent | ★☆☆ Anfänger |
Ein Tabu-Wortspiel für asynchrone Kommunikation zwischen zwei Agenten |
| Supervisor | ★☆☆ Anfänger |
Der Recherche-Agent wird unzuverlässig... Lass uns einen Überwachungsprozess bauen |
| Parallel | ★☆☆ Anfänger |
Eine Demonstration paralleler Ausführung mit 3-facher Beschleunigung |
| Paralleler Flow | ★☆☆ Anfänger |
Eine parallele Bildverarbeitungsdemo mit 8-facher Beschleunigung durch mehrere Filter |
| Mehrheitsentscheidung | ★☆☆ Anfänger |
Verbessere die Genauigkeit durch Aggregation mehrerer Lösungsversuche |
| Denkprozess | ★☆☆ Anfänger |
Löse komplexe Probleme durch Chain-of-Thought |
| Gedächtnis | ★☆☆ Anfänger |
Ein Chatbot mit Kurz- und Langzeitgedächtnis |
| Text2SQL | ★☆☆ Anfänger |
Konvertiere natürliche Sprache in SQL-Abfragen mit automatischer Debugging-Schleife |
| MCP | ★☆☆ Anfänger |
Agent, der das Model Context Protocol für numerische Operationen verwendet |
| A2A | ★☆☆ Anfänger |
Agent mit Agent-to-Agent-Protokoll für Agent-übergreifende Kommunikation |
| Web HITL | ★☆☆ Anfänger |
Ein minimaler Webdienst für eine menschliche Überprüfungsschleife mit SSE-Updates |
👀 Möchtest du weitere einfache Tutorials sehen? Erstelle ein Issue!
Wie nutzt man Pocket Flow?
🚀 Durch Agentenbasiertes Programmieren – das schnellste LLM-App-Entwicklungsparadigma, bei dem Menschen designen und Agenten programmieren!
✨ Nachfolgend sind Beispiele für komplexere LLM-Apps:
| App-Name | Schwierigkeit | Themen | Mensch-Design | Agent-Code |
|---|---|---|---|---|
| Cursor mit Cursor erstellen Wir werden die Singularität bald erreichen ... |
★★★ Fortgeschritten |
Agent | Design-Dokument | Flow-Code |
| Codebase-Wissenserstellung Das Leben ist zu kurz, um verwirrt auf fremden Code zu starren |
★★☆ Mittel |
Workflow | Design-Dokument | Flow-Code |
| Ask AI Paul Graham Frage AI Paul Graham, falls du nicht aufgenommen wirst |
★★☆ Mittel |
RAG Map Reduce TTS |
Design-Dokument | Flow-Code |
| Youtube-Zusammenfassung Erklärt dir YouTube-Videos, als wärst du 5 |
★☆☆ Anfänger |
Map Reduce | Design-Dokument | Flow-Code |
| Kaltakquise-Generator Sofortige Eisbrecher, die kalte Leads zu heißen machen |
★☆☆ Anfänger |
Map Reduce Web-Suche |
Design-Dokument | Flow-Code |
-
Möchtest du Agentenbasiertes Programmieren lernen?
-
Schau dir meinen YouTube-Kanal für Video-Tutorials an, wie einige der oben genannten Apps erstellt wurden!
-
Willst du deine eigene LLM-App bauen? Lies diesen Beitrag! Beginne mit dieser Vorlage!
-