RAG 평가는 검색과 생성을 분리해서 봐야 한다. 좋은 답변이 나오지 않았을 때 검색 실패인지, context 구성 실패인지, 생성 실패인지 구분할 수 있어야 개선이 가능하다. RAG 평가하기 RAG 시스템의 품질은 answer quality 하나로 평가하기 어렵다. retrieval quality, context quality, faithfuln...

RAG는 단순한 Query -> Retrieve -> Generate 구조에서 시작해, 검색 전후 최적화와 동적 모듈 조합으로 확장되어 왔다. 이 글은 Naive, Advanced, Modular, Agentic RAG가 어떤 문제를 해결하려고 등장했는지 정리한다. RAG의 진화 RAG는 3세대에 걸쳐 발전해 왔다. 각 세대는 이전 구조...

RAG는 LLM이 답변을 만들기 전에 외부 지식을 검색해 참고하도록 만드는 구조다. 모델의 기억만 믿는 방식보다 최신성, 근거성, 도메인 지식 보강에 유리하다. 이 글은 RAG가 필요한 이유와 기본 파이프라인을 먼저 정리한다. 이후 글에서 Naive RAG, Advanced RAG, Modular RAG, Production RAG로 확장한다. 왜...

RAG를 실무에 적용할 때는 최신 기법을 한 번에 넣는 것보다 작은 baseline을 만들고, 검색 품질과 평가 체계를 순서대로 붙이는 편이 안전하다. RAG 학습은 개념보다 실패 유형을 기준으로 잡는 편이 좋다. 검색 실패, chunk 실패, context noise, hallucination, citation 오류를 하나씩 줄이는 방식으로 접근하...

AI Agent를 실제 서비스로 만들 때는 모델 호출보다 운영 구조가 더 중요해진다. Memory, RAG, guardrails, protocol, cost control이 붙는 순간 Agent는 단순 챗봇이 아니라 상태를 가진 실행 시스템이 된다. 핵심 구성 요소 flowchart TB U[User] --> A[Agent Core] ...

AI Agent는 한 번에 복잡해지는 것이 아니다. 단순 LLM 호출에서 시작해 도구 사용, 순차 실행, 분기, 반복, 계획, 멀티 에이전트 구조로 점점 자율성과 운영 난도가 올라간다. 중요한 것은 높은 단계가 항상 좋은 선택은 아니라는 점이다. 성숙도 단계는 “더 복잡하게 만들기 위한 순서”가 아니라, 문제에 필요한 최소 복잡도를 고르기 위한 기준...

AI Agent를 설계할 때 가장 먼저 구분해야 하는 것은 Workflow와 Agent다. 둘 다 LLM을 쓰지만, 실행 흐름을 누가 결정하는지가 다르다. Workflow는 사람이 정한 경로를 따르고, Agent는 실행 중에 다음 행동을 선택한다. 이 글은 AI Agent의 기본 정의와 구성 요소, 그리고 Workflow와 Agent의 차이를 정리한...

AI Agent를 학습할 때는 프레임워크 이름보다 실행 구조를 먼저 이해해야 한다. LangGraph, CrewAI, AutoGen, ADK, Agents SDK는 모두 유용하지만, 어떤 문제에 어떤 실행 구조가 필요한지 모르면 도구만 바꿔가며 같은 실수를 반복하게 된다. 이 글은 Agent 학습 순서를 개념 -> 도구 사용 -> memo...

바이브코딩과 Claude Code를 처음 배울 때 핵심은 도구 사용법을 외우는 것이 아니다. 자연어 요청을 작업 단위로 쪼개고, AI가 만든 결과물을 검토하고, 다시 수정 지시를 내리는 흐름을 익히는 것이 먼저다. 이 글은 1~2시간 교육 세션을 구성한다고 가정하고, 어떤 순서로 설명하고 실습하면 좋은지 정리한 학습 노트다. 교육 목표 Claud...

LLMOps 패턴 정리 수업 위치 이 수업은 Service Deployment와 LLMOps 주차를 마무리하는 정리 강의다. 빈 프로젝트 폴더에서 시작해 FastAPI, LangGraph, RAG, Tool Calling, Streaming, CI/CD, LiteLLM, 상태 관리, Observability, Error Analysis까지 붙인 흐...