12 KiB
Pocket Flow ist ein 100-Zeilen minimalistisches LLM-Framework
-
Leichtgewichtig: Nur 100 Zeilen. Keine Aufblähung, keine Abhängigkeiten, keine Anbieter-Bindung.
-
Ausdrucksstark: Alles, was du liebst—(Multi-)Agenten, Workflow, RAG und mehr.
-
Agentisches Programmieren: Lass KI-Agenten (z.B. Cursor AI) Agenten bauen—10-fache Produktivitätssteigerung!
-
Zur Installation,
pip install pocketflowoder kopiere einfach den Quellcode (nur 100 Zeilen). -
Um mehr zu erfahren, schau dir die Dokumentation an. Um die Motivation zu verstehen, lies die Geschichte.
-
🎉 Tritt unserem Discord bei!
-
🎉 Dank @zvictor, @jackylee941130 und @ZebraRoy haben wir jetzt eine TypeScript-Version!
Warum Pocket Flow?
Aktuelle LLM-Frameworks sind aufgebläht... Du brauchst nur 100 Zeilen für ein LLM-Framework!
| Abstraktion | App-spezifische Wrapper | Anbieter-spezifische Wrapper | Zeilen | Größe | |
|---|---|---|---|---|---|
| LangChain | Agent, Chain | Viele (z.B. QA, Zusammenfassung) |
Viele (z.B. OpenAI, Pinecone, usw.) |
405K | +166MB |
| CrewAI | Agent, Chain | Viele (z.B. FileReadTool, SerperDevTool) |
Viele (z.B. OpenAI, Anthropic, Pinecone, usw.) |
18K | +173MB |
| SmolAgent | Agent | Einige (z.B. CodeAgent, VisitWebTool) |
Einige (z.B. DuckDuckGo, Hugging Face, usw.) |
8K | +198MB |
| LangGraph | Agent, Graph | Einige (z.B. Semantische Suche) |
Einige (z.B. PostgresStore, SqliteSaver, usw.) |
37K | +51MB |
| AutoGen | Agent | Einige (z.B. Tool Agent, Chat Agent) |
Viele [Optional] (z.B. OpenAI, Pinecone, usw.) |
7K (nur Kern) |
+26MB (nur Kern) |
| PocketFlow | Graph | Keine | Keine | 100 | +56KB |
Wie funktioniert Pocket Flow?
Die 100 Zeilen erfassen die Kernabstraktion von LLM-Frameworks: Graph!
Von dort aus ist es einfach, beliebte Designmuster wie (Multi-)Agenten, Workflow, RAG usw. zu implementieren.
✨ Hier sind grundlegende Tutorials:
| Name | Schwierigkeit | Beschreibung |
|---|---|---|
| Chat | ☆☆☆ Dummy |
Ein einfacher Chatbot mit Konversationsverlauf |
| Strukturierte Ausgabe | ☆☆☆ Dummy |
Extrahieren strukturierter Daten aus Lebensläufen durch Prompting |
| Workflow | ☆☆☆ Dummy |
Ein Schreibworkflow, der Gliederungen erstellt, Inhalte schreibt und Styling anwendet |
| Agent | ☆☆☆ Dummy |
Ein Recherche-Agent, der im Web suchen und Fragen beantworten kann |
| RAG | ☆☆☆ Dummy |
Ein einfacher Retrieval-augmented Generation-Prozess |
| Map-Reduce | ☆☆☆ Dummy |
Ein Lebenslauf-Qualifikationsprozessor mit Map-Reduce-Muster für Batch-Auswertung |
| Streaming | ☆☆☆ Dummy |
Eine Echtzeit-LLM-Streaming-Demo mit Benutzerunterbrechungsfähigkeit |
| Chat-Absicherung | ☆☆☆ Dummy |
Ein Reiseberater-Chatbot, der nur reisebezogene Anfragen verarbeitet |
| Multi-Agent | ★☆☆ Anfänger |
Ein Tabu-Wortspiel für asynchrone Kommunikation zwischen zwei Agenten |
| Supervisor | ★☆☆ Anfänger |
Forschungsagent wird unzuverlässig... Bauen wir einen Überwachungsprozess! |
| Parallel | ★☆☆ Anfänger |
Eine parallele Ausführungs-Demo, die 3x Beschleunigung zeigt |
| Parallel Flow | ★☆☆ Anfänger |
Eine parallele Bildverarbeitungs-Demo, die 8x Beschleunigung mit mehreren Filtern zeigt |
| Mehrheitsvotum | ★☆☆ Anfänger |
Verbessere die Reasoning-Genauigkeit durch Aggregation mehrerer Lösungsversuche |
| Thinking | ★☆☆ Anfänger |
Löse komplexe Reasoning-Probleme durch Chain-of-Thought |
| Memory | ★☆☆ Anfänger |
Ein Chatbot mit Kurz- und Langzeitgedächtnis |
| MCP | ★☆☆ Anfänger |
Agent, der das Model Context Protocol für numerische Operationen verwendet |
👀 Möchtest du andere Tutorials für Anfänger sehen? Erstelle ein Issue!
Wie verwendet man Pocket Flow?
🚀 Durch Agentisches Programmieren—das schnellste LLM-App-Entwicklungsparadigma, bei dem Menschen designen und Agenten programmieren!
✨ Hier sind Beispiele für komplexere LLM-Apps:
| App-Name | Schwierigkeit | Themen | Menschliches Design | Agent-Code |
|---|---|---|---|---|
| Cursor mit Cursor bauen Wir werden bald die Singularität erreichen ... |
★★★ Fortgeschritten |
Agent | Design-Dokument | Flow-Code |
| Frag KI Paul Graham Frag KI Paul Graham, falls du nicht reinkommst |
★★☆ Mittel |
RAG Map Reduce TTS |
Design-Dokument | Flow-Code |
| Youtube-Zusammenfasser Erklärt dir YouTube-Videos, als wärst du 5 |
★☆☆ Anfänger |
Map Reduce | Design-Dokument | Flow-Code |
| Kaltakquise-Generator Sofortige Eisbrecher, die kalte Leads heiß machen |
★☆☆ Anfänger |
Map Reduce Web-Suche |
Design-Dokument | Flow-Code |
-
Willst du Agentisches Programmieren lernen?
-
Schau dir meinen YouTube-Kanal für Video-Tutorials an, wie einige der obigen Apps erstellt wurden!
-
Willst du deine eigene LLM-App bauen? Lies diesen Beitrag! Beginne mit dieser Vorlage!
-
Willst du die detaillierten Schritte lernen? Lies diesen Leitfaden!
-