12 KiB
12 KiB
Pocket Flow는 100줄의 미니멀리스트 LLM 프레임워크입니다
-
경량화: 단 100줄. 불필요한 요소 없음, 종속성 없음, 벤더 락인 없음.
-
에이전틱 코딩: AI 에이전트(예: Cursor AI)가 에이전트를 구축하도록—생산성 10배 향상!
-
설치하려면,
pip install pocketflow또는 소스 코드(단 100줄)를 복사하세요. -
🎉 우리의 디스코드에 참여하세요!
-
🎉 @zvictor, @jackylee941130, @ZebraRoy 덕분에 이제 TypeScript 버전이 있습니다!
왜 Pocket Flow인가?
현재 LLM 프레임워크들은 너무 비대합니다... LLM 프레임워크는 100줄만 필요합니다!
| 추상화 | 앱 특화 래퍼 | 벤더 특화 래퍼 | 코드 줄 수 | 크기 | |
|---|---|---|---|---|---|
| LangChain | 에이전트, 체인 | 다수 (예: QA, 요약) |
다수 (예: OpenAI, Pinecone 등) |
405K | +166MB |
| CrewAI | 에이전트, 체인 | 다수 (예: FileReadTool, SerperDevTool) |
다수 (예: OpenAI, Anthropic, Pinecone 등) |
18K | +173MB |
| SmolAgent | 에이전트 | 일부 (예: CodeAgent, VisitWebTool) |
일부 (예: DuckDuckGo, Hugging Face 등) |
8K | +198MB |
| LangGraph | 에이전트, 그래프 | 일부 (예: 시맨틱 검색) |
일부 (예: PostgresStore, SqliteSaver 등) |
37K | +51MB |
| AutoGen | 에이전트 | 일부 (예: Tool Agent, Chat Agent) |
다수 [선택사항] (예: OpenAI, Pinecone 등) |
7K (핵심만) |
+26MB (핵심만) |
| PocketFlow | 그래프 | 없음 | 없음 | 100 | +56KB |
Pocket Flow는 어떻게 작동하나요?
100줄은 LLM 프레임워크의 핵심 추상화를 담고 있습니다: 그래프!
이를 기반으로 (다중-)에이전트, 워크플로우, RAG 등과 같은 인기 있는 디자인 패턴을 쉽게 구현할 수 있습니다.
✨ 아래는 기본 튜토리얼입니다:
| 이름 | 난이도 | 설명 |
|---|---|---|
| 채팅 | ☆☆☆ 초보 |
대화 기록이 있는 기본 채팅 봇 |
| 구조화된 출력 | ☆☆☆ 초보 |
프롬프트를 통해 이력서에서 구조화된 데이터 추출 |
| 워크플로우 | ☆☆☆ 초보 |
개요 작성, 콘텐츠 작성, 스타일 적용을 수행하는 글쓰기 워크플로우 |
| 에이전트 | ☆☆☆ 초보 |
웹을 검색하고 질문에 답할 수 있는 연구 에이전트 |
| RAG | ☆☆☆ 초보 |
간단한 검색 증강 생성 프로세스 |
| 맵-리듀스 | ☆☆☆ 초보 |
배치 평가를 위한 맵-리듀스 패턴을 사용하는 이력서 자격 처리기 |
| 스트리밍 | ☆☆☆ 초보 |
사용자 중단 기능이 있는 실시간 LLM 스트리밍 데모 |
| 채팅 가드레일 | ☆☆☆ 초보 |
여행 관련 쿼리만 처리하는 여행 어드바이저 챗봇 |
| 다중 에이전트 | ★☆☆ 초급 |
두 에이전트 간의 비동기 통신을 위한 금기어 게임 |
| 감독자 | ★☆☆ 초급 |
연구 에이전트가 신뢰할 수 없게 되었습니다... 감독 프로세스를 구축해 봅시다 |
| 병렬 | ★☆☆ 초급 |
3배 속도 향상을 보여주는 병렬 실행 데모 |
| 병렬 플로우 | ★☆☆ 초급 |
여러 필터로 8배 속도 향상을 보여주는 병렬 이미지 처리 데모 |
| 다수결 투표 | ★☆☆ 초급 |
여러 솔루션 시도를 집계하여 추론 정확도 향상 |
| 사고 | ★☆☆ 초급 |
사고 체인을 통한 복잡한 추론 문제 해결 |
| 메모리 | ★☆☆ 초급 |
단기 및 장기 메모리가 있는 채팅 봇 |
| MCP | ★☆☆ 초급 |
수치 연산을 위한 모델 컨텍스트 프로토콜을 사용하는 에이전트 |
👀 초보자를 위한 다른 튜토리얼을 보고 싶으신가요? 이슈를 생성하세요!
Pocket Flow를 어떻게 사용하나요?
🚀 에이전틱 코딩을 통해—가장 빠른 LLM 앱 개발 패러다임-인간이 설계하고 에이전트가 코딩합니다!
✨ 아래는 더 복잡한 LLM 앱의 예시입니다:
| 앱 이름 | 난이도 | 주제 | 인간 설계 | 에이전트 코드 |
|---|---|---|---|---|
| Cursor로 Cursor 만들기 우리는 곧 특이점에 도달할 것입니다... |
★★★ 고급 |
에이전트 | 설계 문서 | 플로우 코드 |
| AI Paul Graham에게 물어보기 입학하지 못한 경우를 대비해 AI Paul Graham에게 물어보세요 |
★★☆ 중급 |
RAG 맵 리듀스 TTS |
설계 문서 | 플로우 코드 |
| 유튜브 요약기 유튜브 비디오를 5세 아이에게 설명하듯이 설명해 줍니다 |
★☆☆ 초급 |
맵 리듀스 | 설계 문서 | 플로우 코드 |
| 콜드 오프너 생성기 차가운 리드를 뜨겁게 만드는 즉각적인 아이스브레이커 |
★☆☆ 초급 |
맵 리듀스 웹 검색 |
설계 문서 | 플로우 코드 |