Production RAG의 검색 품질은 chunking, embedding, retrieval, reranking이 함께 결정한다. 이 글은 각 단계의 선택지가 어떤 trade-off를 만드는지 정리한다. Chunking Strategy 청킹은 RAG 품질의 기초다. 전략에 따라 검색 정확도가 20~40% 달라질 수 있다. Vectara 벤치마...

Production RAG는 검색 파이프라인 하나로 끝나지 않는다. ingestion, query processing, hybrid retrieval, reranking, generation, evaluation, cache, monitoring이 함께 설계되어야 운영 가능한 시스템이 된다. 이 글은 프로덕션 RAG의 전체 아키텍처와 핵심 설계 지점...

RAG 평가는 검색과 생성을 분리해서 봐야 한다. 좋은 답변이 나오지 않았을 때 검색 실패인지, 컨텍스트 구성 실패인지, 생성 실패인지 구분할 수 있어야 개선이 가능하다. RAG 평가하기 RAG 시스템의 품질은 faithfulness, answer relevancy, context precision, context recall로 나눠 측정할 수 있...

RAG는 단순한 Query -> Retrieve -> Generate 구조에서 시작해, 검색 전후 최적화와 동적 모듈 조합으로 확장되어 왔다. 이 글은 Naive, Advanced, Modular, Agentic RAG가 어떤 문제를 해결하려고 등장했는지 정리한다. RAG의 진화 RAG는 3세대에 걸쳐 발전해 왔다. 각 세대는 이전 구조...

RAG는 LLM이 답변을 만들기 전에 외부 지식을 검색해 참고하도록 만드는 구조다. 모델의 기억만 믿는 방식보다 최신성, 근거성, 도메인 지식 보강에 유리하다. 이 글은 RAG가 필요한 이유와 기본 파이프라인을 먼저 정리한다. 이후 글에서 Naive RAG, Advanced RAG, Modular RAG, Production RAG로 확장한다. 왜...

RAG를 실무에 적용할 때는 최신 기법을 한 번에 넣는 것보다 작은 baseline을 만들고, 검색 품질과 평가 체계를 순서대로 붙이는 편이 안전하다. 실전 가이드 RAG 시스템을 실무에 적용할 때의 권장 사항과 로드맵이다. 추천 프로덕션 스택 Application LangChain / LlamaIndex / Custom LLM Claud...

AI Agent를 실제 서비스로 만들 때는 모델 호출보다 운영 구조가 더 중요해진다. Memory, RAG, guardrails, protocol, cost control이 붙는 순간 Agent는 단순 챗봇이 아니라 상태를 가진 시스템이 된다. 핵심 아키텍처 개념 에이전트 시스템의 내부를 구성하는 핵심 개념을 memory, retrieval, sa...

AI Agent는 한 번에 복잡해지는 것이 아니다. 단순 LLM 호출에서 시작해 도구 사용, 순차 실행, 분기, 반복, 계획, 멀티 에이전트 구조로 점점 자율성과 운영 난도가 올라간다. 레벨 이름 핵심 차이 L0 Simple LLM Call ...

AI Agent를 설계할 때 가장 먼저 구분해야 하는 것은 Workflow와 Agent다. 둘 다 LLM을 쓰지만, 실행 흐름을 누가 결정하는지가 다르다. Workflow는 사람이 정한 경로를 따르고, Agent는 실행 중에 다음 행동을 선택한다. 이 글은 AI Agent의 기본 정의와 구성 요소, 그리고 Workflow와 Agent의 차이를 정리한...

AI Agent를 학습할 때는 프레임워크 이름보다 어떤 실행 구조를 만들 수 있는지부터 봐야 한다. 이 글은 프레임워크 비교, 도입 로드맵, 운영 체크리스트를 기준으로 Agent 학습 순서를 정리한다. 실무 가이드 에이전트를 성공적으로 구축하고 운영하기 위한 실전 지침이다. 주요 프레임워크 비교 LangGraph Graph-based 그래프...