awesome-ai-stack

AI 시스템을 만들 때 실제로 쓰는 도구와 서비스를 모았습니다 — 각 항목마다 상세 페이지와 바로 실행 가능한 샘플 코드를 제공합니다.

에이전트 프레임워크

추론 루프·도구·멀티 에이전트 흐름을 오케스트레이션하는 라이브러리

Agno

멀티 에이전트 시스템을 위한 고성능 프레임워크 — 런타임 AgentOS 포함

v2.8.02026-07-20PythonApache-2.0

#multi-agent #runtime #memory #python

41.4k 오픈소스 무료 티어 유료

AutoGen

Microsoft

Microsoft의 멀티 에이전트 대화 프레임워크. 현재 유지보수 전용 — 신규는 Microsoft Agent Framework 권장

유지보수 전용6개월 이상 업데이트 없음python-v0.7.52025-09-30PythonMIT

#multi-agent #conversation #microsoft #python

59.9k 완전 무료 오픈소스

CrewAI

역할 기반 멀티에이전트 오케스트레이션 — 목표와 작업을 가진 에이전트들을 crew로 묶습니다.

v1.15.52026-07-20PythonMIT

#multi-agent #orchestration #crew #python

56.0k 오픈소스 무료 티어 유료

DSPy

Stanford NLP

프롬프트가 아니라 프로그램으로 LM을 다룹니다 — 모듈을 선언하면 DSPy가 프롬프트를 컴파일·최적화합니다.

v3.2.12026-05-05PythonMIT

#prompt-optimization #modular #stanford #python

36.3k 완전 무료 오픈소스

instructor

567 Labs

어떤 LLM에서든 구조화·검증된 출력을 받습니다 — Pydantic 모델을 정의하면 타입이 있는 객체로 돌려줍니다.

v1.15.42026-06-28PythonMIT

#structured-output #pydantic #validation #python

13.6k 완전 무료 오픈소스

LangChain

LLM 앱 프레임워크의 원조 — 표준 모델·도구 인터페이스와 수백 개의 통합, 그리고 LangGraph 에이전트를 컴파일해 주는 create_agent 프리빌트

langchain-core==1.5.02026-07-21Python / JSMIT

#framework #agents #integrations #python

142.4k 완전 무료 오픈소스

LangGraph

LangChain

분기·루프·휴먼 인 더 루프를 갖춘 상태 기반 다단계 에이전트를 위한 그래프 오케스트레이션

v1.2.92026-07-10Python / JSMIT

#orchestration #state-machine #multi-agent #python

37.9k 오픈소스 무료 티어 유료

LlamaIndex

자체 데이터 위에서 RAG 파이프라인과 문서 에이전트를 만드는 데이터 프레임워크

v0.14.232026-06-24PythonMIT

#rag #retrieval #indexing #python

51.0k 오픈소스 무료 티어 유료

OpenAI Agents SDK

OpenAI

도구·핸드오프·가드레일을 갖춘 OpenAI의 경량 에이전트 SDK

v0.18.32026-07-17PythonMIT

#agents #tools #handoffs #python

28.1k 완전 무료 오픈소스

Pydantic AI

Pydantic

Pydantic 팀이 만든 타입 안전 에이전트 프레임워크 — 어떤 모델로든 구조화·검증된 결과를 돌려줍니다.

v2.16.02026-07-23PythonMIT

#agents #structured-output #pydantic #python

18.7k 완전 무료 오픈소스

smolagents

Hugging Face

코드를 작성·실행해 행동하는 에이전트를 위한 Hugging Face의 미니멀 라이브러리

v1.26.02026-05-29PythonApache-2.0

#code-agents #huggingface #litellm #python

28.5k 완전 무료 오픈소스

코딩 에이전트

코드를 읽고 쓰고 실행해 소프트웨어 작업을 자율적으로 수행하는 에이전트

Aider

터미널에서 하는 AI 페어 프로그래밍 — 코드를 편집하고 변경마다 git에 자동 커밋합니다.

6개월 이상 업데이트 없음v0.86.02025-08-09PythonApache-2.0

#coding #terminal #git #pair-programming

47.6k 완전 무료 오픈소스

Cline

VS Code 안에서 계획·파일 편집·명령 실행을 수행하고 MCP 도구를 지원하는 자율 코딩 에이전트

v4.0.102026-07-20TypeScriptApache-2.0

#vscode #ide #mcp #plan-act

65.0k 완전 무료 오픈소스

Continue

VS Code·JetBrains용 오픈소스 AI 코드 어시스턴트 — 자동완성·채팅·에이전트

v2.0.0-vscode2026-06-19TypeScriptApache-2.0

#coding #ide #autocomplete #vscode

35.0k 완전 무료 오픈소스

Goose

Block

터미널과 데스크톱에서 동작하는 Block의 오픈소스 확장형 코딩 에이전트

v1.43.02026-07-14RustApache-2.0

#coding #terminal #mcp #rust

51.5k 완전 무료 오픈소스

mini-SWE-agent

Princeton NLP

SWE-agent의 미니멀 후속작 — 약 100줄 코어로 GitHub 이슈를 자율 해결하며, 성능은 동등하지만 훨씬 단순합니다.

v2.4.62026-07-23PythonMIT

#github-issues #swe-bench #autonomous #python

6.0k 완전 무료 오픈소스

opencode

SST

SST의 오픈소스·모델 독립적 터미널 코딩 에이전트 — TUI 제공

v1.18.42026-07-20TypeScriptMIT

#coding #terminal #tui #typescript

188.8k 완전 무료 오픈소스

OpenHands

All Hands AI

코드를 편집하고 명령을 실행하며 웹을 탐색하는 자율 AI 개발자를 위한 오픈소스 플랫폼

cloud-1.47.12026-07-21PythonMIT

#autonomous #software-engineering #sandbox #python

81.8k 오픈소스 무료 티어 유료

Roomote

Roo Code

이전 Roo Code

Slack·GitHub·Linear에서 작업을 받아 끝까지 처리하는 클라우드 자율 코딩 에이전트

독점

#coding #autonomous #cloud #agent

유료

SWE-agent

Princeton NLP

에이전트–컴퓨터 인터페이스로 실제 GitHub 이슈를 자율적으로 해결하는 프린스턴의 에이전트. 현재 유지보수 전용 — mini-SWE-agent로 대체됨

유지보수 전용1년 이상 업데이트 없음v1.1.02025-05-22PythonMIT

#github-issues #swe-bench #autonomous #python

19.9k 완전 무료 오픈소스

LLM 제공자 & 게이트웨이

AI 시스템의 추론을 담당하는 파운데이션 모델 API와 이를 하나로 묶는 게이트웨이

Anthropic Claude

Anthropic

강력한 도구 사용과 긴 컨텍스트 추론을 갖춘 프런티어 LLM API — 에이전트의 핵심 모델로 이상적입니다.

API독점

#llm #tool-use #reasoning #api

유료

Google Gemini

Google

Google AI Studio API로 쓰는 Gemini 모델 — 긴 컨텍스트, 멀티모달, 무료 티어 제공

API독점

#llm #multimodal #long-context #free-tier

무료 티어 유료

Groq

전용 LPU 하드웨어에서 오픈 모델을 돌리는 초고속 추론 API

API독점

#llm #inference #fast #api

무료 티어 유료

LiteLLM

BerriAI

100개 이상의 LLM API를 하나의 OpenAI 스타일 인터페이스로 호출하고, 라우팅·폴백·비용 추적 프록시까지 제공합니다.

v1.93.02026-07-19PythonMIT

#gateway #multi-provider #proxy #python

54.4k 오픈소스 유료

LM Studio

로컬 LLM을 찾고 실행·서빙하는 데스크톱 앱 — OpenAI 호환 서버 내장

App독점

#llm #local #desktop #gguf

무료 티어 유료

Mistral AI

강력한 오픈 웨이트 모델과 호스팅 API(La Plateforme)를 갖춘 유럽 모델 연구소

API독점

#llm #open-weights #api #europe

무료 티어 유료

Ollama

명령 한 줄로 오픈 LLM을 로컬에서 실행 — 오프라인·프라이빗 에이전트를 위한 OpenAI 호환 API

v0.32.12026-07-16GoMIT

#local #open-models #self-host #runtime

176.7k 오픈소스 무료 티어 유료

OpenAI

OpenAI API로 쓰는 GPT 모델 — 함수 호출, 구조화 출력, 그리고 사실상 표준이 된 API 형식

v2.47.02026-07-22API독점

#llm #function-calling #structured-output #api

31.2k 유료

OpenRouter

여러 제공자의 300개 이상 모델을 하나의 OpenAI 호환 API로 — 라우팅·폴백 포함

API독점

#gateway #multi-provider #routing #api

무료 티어 유료

vLLM

PyTorch Foundation

OpenAI 호환 API로 오픈 LLM을 구동하는 고처리량 서빙 엔진

v0.25.12026-07-14PythonApache-2.0

#llm #serving #inference #python

86.9k 완전 무료 오픈소스

벡터 스토어 & 메모리

장기 기억과 RAG를 위한 임베딩 저장·검색

Chroma

RAG를 위한 오픈소스 임베딩 데이터베이스 — 몇 줄로 벡터를 저장하고 유사도로 질의합니다.

v1.5.92026-05-05PythonApache-2.0

#vector-db #embeddings #rag #python

28.9k 오픈소스 무료 티어 유료

LanceDB

Lance 컬럼형 포맷 기반의 임베디드 벡터 데이터베이스 — 서버리스·로컬 우선

python-v0.35.0-beta.22026-07-14Rust / PythonApache-2.0

#vector-db #embeddings #embedded #rust

11.0k 오픈소스 무료 티어 유료

Mem0

에이전트를 위한 메모리 레이어 — 원본 대화 로그가 아니라 사실을 추출해 세션을 넘어 기억합니다.

v2.0.132026-07-22PythonApache-2.0

#memory #rag #personalization #python

61.5k 오픈소스 무료 티어 유료

Milvus

Zilliz

수십억 규모 유사도 검색을 위해 만들어진 오픈소스 벡터 데이터베이스

v2.6.202026-07-14GoApache-2.0

#vector-db #embeddings #rag #go

45.3k 오픈소스 무료 티어 유료

pgvector

벡터 유사도 검색을 위한 Postgres 확장 — 별도 DB 없이 에이전트 메모리와 RAG를 추가합니다.

v0.8.52026-07-08SQL / CPostgreSQL

#embeddings #rag #postgres #similarity-search

22.3k 완전 무료 오픈소스

Qdrant

유사도 검색과 에이전트 메모리를 위한 고성능 오픈소스 벡터 데이터베이스

v1.18.32026-07-17RustApache-2.0

#vector-db #embeddings #rag #rust

33.5k 오픈소스 무료 티어 유료

Sentence Transformers

Hugging Face

임베딩 모델(bge-m3 등)을 로컬에서 실행해 텍스트를 벡터로 바꿉니다 — RAG·메모리용, API 불필요

v5.6.02026-06-16PythonApache-2.0

#embeddings #rag #local #python

18.9k 완전 무료 오픈소스

Weaviate

하이브리드 검색·필터링·내장 벡터라이저를 갖춘 오픈소스 벡터 데이터베이스

v1.38.62026-07-21GoBSD-3-Clause

#vector-db #embeddings #hybrid-search #go

16.6k 오픈소스 무료 티어 유료

Zep

대화로부터 시간적 지식 그래프를 만드는 에이전트용 장기 기억 계층

6개월 이상 업데이트 없음zep-crewai-v1.1.12025-09-11PythonApache-2.0

#memory #agents #knowledge-graph #python

4.8k 오픈소스 무료 티어 유료

관측성 & 평가

AI 시스템 실행에 대한 트레이싱·평가·모니터링

Arize Phoenix

Arize AI

오픈소스 LLM·에이전트 관측성 — self-host 가능한 OpenTelemetry 트레이싱과 평가

arize-phoenix-v19.4.02026-07-22PythonElastic-2.0

#tracing #eval #observability #opentelemetry

10.7k 오픈소스 무료 티어 유료

DeepEval

Confident AI

LLM용 Pytest 같은 오픈소스 — 모델·RAG 출력을 지표로 유닛 테스트

v4.1.32026-07-12PythonApache-2.0

#evaluation #testing #metrics #python

17.1k 오픈소스 무료 티어 유료

Helicone

한 줄 프록시로 붙이는 오픈소스 LLM 관측 — 로깅·캐싱·비용 추적

6개월 이상 업데이트 없음v2025.08.21-12025-08-21TypeScriptApache-2.0

#observability #proxy #logging #typescript

6.0k 오픈소스 무료 티어 유료

Langfuse

LLM·에이전트 애플리케이션을 위한 오픈소스 트레이싱·평가·분석 도구

v3.224.02026-07-22TypeScriptMIT

#tracing #eval #monitoring #analytics

31.7k 오픈소스 무료 티어 유료

LangSmith

LangChain

LLM·에이전트 앱의 트레이싱·평가·모니터링을 위한 LangChain의 호스팅 플랫폼 (LangChain 없이도 사용 가능)

SaaS / SDK독점

#tracing #eval #monitoring #prompts

무료 티어 유료

Opik

Comet

트레이싱·평가·모니터링을 한데 묶은 Comet의 오픈소스 LLM 플랫폼

v2.1.322026-07-17PythonApache-2.0

#observability #tracing #evaluation #python

20.8k 오픈소스 무료 티어 유료

Ragas

Exploding Gradients

RAG 파이프라인과 LLM 애플리케이션을 위한 오픈소스 평가 프레임워크

6개월 이상 업데이트 없음v0.4.32026-01-13PythonApache-2.0

#evaluation #rag #metrics #python

15.0k 완전 무료 오픈소스

에이전트 도구·연동

에이전트에 끼워 넣는 역량 — 웹 접근·브라우저 제어·샌드박스·통합 허브

Browser Use

LLM 에이전트가 실제 브라우저를 직접 조작 — 페이지를 이동하고 클릭·입력하며 데이터를 추출합니다.

v0.13.62026-07-17PythonMIT

#browser #automation #agent #python

106.2k 오픈소스 무료 티어 유료

Composio

관리형 인증과 준비된 도구 정의로 에이전트를 1000개 이상의 외부 앱에 연결합니다.

@composio/experimental@0.2.02026-07-16PythonMIT

#tool-use #integrations #auth #agent

29.3k 오픈소스 무료 티어 유료

Daytona

AI가 생성한 코드를 빠르고 완전히 격리된 샌드박스에서 실행하는 안전·탄력 인프라

v0.190.02026-06-23GoAGPL-3.0

#sandbox #runtime #code-execution #isolation

72.2k 오픈소스 무료 티어 유료

Docker

Docker, Inc.

자체 호스팅 에이전트 샌드박스 대부분이 올라타는 컨테이너 런타임 — 모델이 만든 코드를 일회용 컨테이너에 가둬 실행

docker-v29.6.22026-07-16GoApache-2.0

#container #runtime #sandbox #isolation

71.9k 오픈소스 무료 티어 유료

E2B

AI 에이전트가 모델이 생성한 코드를 안전하게 실행하도록 격리된 클라우드 샌드박스를 제공합니다.

e2b@2.35.12026-07-22PythonApache-2.0

#sandbox #code-execution #agent #python

13.1k 오픈소스 무료 티어 유료

Exa

에이전트를 위한 뉴럴 웹 검색 API — 의미 기반 검색과 페이지 본문을 한 번에 가져옵니다.

v2.16.12026-07-08Python / TypeScript독점

#search #web #embeddings #rag

222 무료 티어 유료

Firecrawl

어떤 URL이나 사이트든 크롤링·스크래핑해 LLM에 바로 쓰는 깔끔한 마크다운이나 구조화 데이터로 돌려줍니다.

v2.11.02026-06-19TypeScriptAGPL-3.0

#scraping #crawling #markdown #web

154.7k 오픈소스 무료 티어 유료

Modal

Modal Labs

모델이 만든 신뢰할 수 없는 코드를 격리된 컨테이너에서 즉석 실행하는 서버리스 클라우드 런타임

v1.3.12026-01-22PythonApache-2.0

#sandbox #runtime #serverless #code-execution

494 무료 티어 유료

Stagehand

Browserbase

AI 브라우저 자동화 프레임워크 — 자연어 act·extract·observe로 Playwright를 제어

stagehand-server-v3/v3.7.42026-07-21TypeScriptMIT

#browser #automation #playwright #typescript

23.6k 오픈소스 무료 티어 유료

Tavily

LLM·에이전트를 위한 웹 검색 API — 한 번의 호출로 정제된 랭킹 결과를 RAG에 바로 넣을 수 있게 돌려줍니다.

Python / TypeScript독점

#search #web #rag #api

무료 티어 유료

가드레일 & 안전

런타임에 모델 입출력을 검증·제약·유도하는 도구

Guardrails AI

Guardrails Hub의 조합형 검증기로 LLM 입출력을 검증하고 구조화합니다.

v0.10.22026-06-04PythonApache-2.0

#guardrails #validation #safety #python

7.2k 오픈소스 유료

NeMo Guardrails

NVIDIA

LLM 앱을 위한 프로그래밍형 레일 — Colang 흐름으로 대화를 안전하고 주제·정책에 맞게 유지합니다.

v0.23.02026-07-01PythonApache-2.0

#guardrails #safety #dialogue #python

6.8k 완전 무료 오픈소스

음성 에이전트

실시간 대화형 음성·멀티모달 에이전트를 위한 프레임워크

LiveKit Agents

LiveKit

LiveKit WebRTC 스택 위에서 음성·영상·물리 AI 에이전트를 만드는 실시간 프레임워크입니다.

livekit-agents@1.6.62026-07-18PythonApache-2.0

#voice #webrtc #real-time #python

11.5k 오픈소스 무료 티어 유료

Pipecat

Daily

실시간 음성·멀티모달 대화형 에이전트를 위한 오픈소스 파이썬 프레임워크

v1.6.02026-07-21PythonBSD-2-Clause

#voice #real-time #multimodal #python

13.7k 오픈소스 무료 티어 유료