14 KiB
English | 中文 | Español | 日本語 | Deutsch | Русский | Português | Français | 한국어
Pocket Flow ist ein 100-zeiliges minimalistisches LLM-Framework
-
Leichtgewichtig: Nur 100 Zeilen. Kein Ballast, keine Abhängigkeiten, keine Anbieterbindung.
-
Ausdrucksstark: Alles, was Sie lieben—(Multi-)Agenten, Workflow, RAG, und mehr.
-
Agenten-basiertes Programmieren: Lassen Sie KI-Agenten (z.B. Cursor AI) Agenten bauen—10-fache Produktivitätssteigerung!
Erste Schritte mit Pocket Flow:
- Zur Installation,
pip install pocketflowoder kopieren Sie einfach den Quellcode (nur 100 Zeilen). - Um mehr zu erfahren, schauen Sie in die Dokumentation. Um die Motivation zu verstehen, lesen Sie die Geschichte.
- Haben Sie Fragen? Schauen Sie sich diesen KI-Assistenten an, oder erstellen Sie ein Issue!
- 🎉 Treten Sie unserem Discord bei, um sich mit anderen Entwicklern zu vernetzen, die mit Pocket Flow arbeiten!
- 🎉 Pocket Flow ist ursprünglich in Python geschrieben, aber wir haben jetzt auch Versionen für Typescript, Java, C++ und Go!
Warum Pocket Flow?
Aktuelle LLM-Frameworks sind aufgebläht... Sie brauchen nur 100 Zeilen für ein LLM-Framework!
| Abstraktion | App-spezifische Wrapper | Anbieter-spezifische Wrapper | Zeilen | Größe | |
|---|---|---|---|---|---|
| LangChain | Agent, Chain | Viele (z.B. QA, Zusammenfassung) |
Viele (z.B. OpenAI, Pinecone, etc.) |
405K | +166MB |
| CrewAI | Agent, Chain | Viele (z.B. FileReadTool, SerperDevTool) |
Viele (z.B. OpenAI, Anthropic, Pinecone, etc.) |
18K | +173MB |
| SmolAgent | Agent | Einige (z.B. CodeAgent, VisitWebTool) |
Einige (z.B. DuckDuckGo, Hugging Face, etc.) |
8K | +198MB |
| LangGraph | Agent, Graph | Einige (z.B. Semantic Search) |
Einige (z.B. PostgresStore, SqliteSaver, etc.) |
37K | +51MB |
| AutoGen | Agent | Einige (z.B. Tool Agent, Chat Agent) |
Viele [Optional] (z.B. OpenAI, Pinecone, etc.) |
7K (nur Kern) |
+26MB (nur Kern) |
| PocketFlow | Graph | Keine | Keine | 100 | +56KB |
Wie funktioniert Pocket Flow?
Die 100 Zeilen erfassen die Kernabstraktion von LLM-Frameworks: Graph!
Von dort aus ist es einfach, beliebte Designmuster wie (Multi-)Agenten, Workflow, RAG, etc. zu implementieren.
✨ Hier sind grundlegende Tutorials:
| Name | Schwierigkeit | Beschreibung |
|---|---|---|
| Chat | ☆☆☆ Anfänger |
Ein einfacher Chatbot mit Gesprächsverlauf |
| Strukturierte Ausgabe | ☆☆☆ Anfänger |
Extraktion strukturierter Daten aus Lebensläufen durch Prompting |
| Workflow | ☆☆☆ Anfänger |
Ein Schreib-Workflow, der gliedert, Inhalte schreibt und Formatierungen anwendet |
| Agent | ☆☆☆ Anfänger |
Ein Recherche-Agent, der im Web suchen und Fragen beantworten kann |
| RAG | ☆☆☆ Anfänger |
Ein einfacher Abrufsaugmentierter Generierungsprozess |
| Batch | ☆☆☆ Anfänger |
Ein Batch-Prozessor, der Markdown-Inhalte in mehrere Sprachen übersetzt |
| Streaming | ☆☆☆ Anfänger |
Eine Echtzeit-LLM-Streaming-Demo mit Benutzer-Unterbrechungsfunktion |
| Chat-Leitplanke | ☆☆☆ Anfänger |
Ein Reiseberater-Chatbot, der nur reisebezogene Anfragen verarbeitet |
| Map-Reduce | ★☆☆ Einsteiger |
Ein Lebenslauf-Qualifikationsprozessor, der das Map-Reduce-Muster für Batch-Auswertungen verwendet |
| Multi-Agent | ★☆☆ Einsteiger |
Ein Tabu-Wortspiel für asynchrone Kommunikation zwischen zwei Agenten |
| Supervisor | ★☆☆ Einsteiger |
Forschungsagent wird unzuverlässig... Bauen wir einen Überwachungsprozess auf |
| Parallel | ★☆☆ Einsteiger |
Eine parallele Ausführungsdemo, die 3-fache Beschleunigung zeigt |
| Paralleler Flow | ★☆☆ Einsteiger |
Eine parallele Bildverarbeitungsdemo, die 8-fache Beschleunigung mit mehreren Filtern zeigt |
| Mehrheitswahl | ★☆☆ Einsteiger |
Verbesserte Schlussfolgerungsgenauigkeit durch Aggregation mehrerer Lösungsversuche |
| Denken | ★☆☆ Einsteiger |
Lösen komplexer Schlussfolgerungsprobleme durch Chain-of-Thought |
| Gedächtnis | ★☆☆ Einsteiger |
Ein Chatbot mit Kurz- und Langzeitgedächtnis |
| Text2SQL | ★☆☆ Einsteiger |
Konvertierung natürlicher Sprache in SQL-Abfragen mit Auto-Debug-Schleife |
| MCP | ★☆☆ Einsteiger |
Agent mit Model Context Protocol für numerische Operationen |
| A2A | ★☆☆ Einsteiger |
Agent mit Agent-to-Agent-Protokoll für Inter-Agenten-Kommunikation |
| Web HITL | ★☆☆ Einsteiger |
Ein minimaler Webdienst für eine menschliche Überprüfungsschleife mit SSE-Updates |
👀 Möchten Sie andere Tutorials für Anfänger sehen? Erstellen Sie ein Issue!
Wie verwendet man Pocket Flow?
🚀 Durch Agenten-basiertes Programmieren—das schnellste LLM-App-Entwicklungsparadigma, bei dem Menschen entwerfen und Agenten programmieren!
✨ Hier sind Beispiele für komplexere LLM-Apps:
| App-Name | Schwierigkeit | Themen | Menschlicher Entwurf | Agent-Code |
|---|---|---|---|---|
| Cursor mit Cursor bauen Wir werden bald die Singularität erreichen ... |
★★★ Fortgeschritten |
Agent | Design-Dokument | Flow-Code |
| Codebase-Wissensgenerator Das Leben ist zu kurz, um ratlos fremden Code anzustarren |
★★☆ Mittel |
Workflow | Design-Dokument | Flow-Code |
| Frage KI Paul Graham Frage KI Paul Graham, falls du nicht reinkommst |
★★☆ Mittel |
RAG Map Reduce TTS |
Design-Dokument | Flow-Code |
| Youtube-Zusammenfasser Erklärt YouTube-Videos so, als wärst du 5 |
★☆☆ Einsteiger |
Map Reduce | Design-Dokument | Flow-Code |
| Cold-Opener-Generator Sofortige Eisbrecher, die kalte Leads heiß machen |
★☆☆ Einsteiger |
Map Reduce Web-Suche |
Design-Dokument | Flow-Code |
-
Möchten Sie Agenten-basiertes Programmieren lernen?
-
Schauen Sie sich meinen YouTube-Kanal für Video-Tutorials an, wie einige der oben genannten Apps erstellt wurden!
-
Möchten Sie Ihre eigene LLM-App erstellen? Lesen Sie diesen Beitrag! Beginnen Sie mit dieser Vorlage!
-