Error Analysis 실습 실습 정보 주차: Week 09, Day 04 유형: 분석 리포트 작성 상태: 보강 정리 실습 목표 Lumi 챗봇을 여러 케이스로 사용해 trace 데이터를 만들고, Langfuse 또는 export 데이터를 기준으로 오류 유형을 분류한다. 최종 목표는 “좋아 보인다” 수준의...

Error Analysis 수업 위치 이 수업은 Observability 다음 단계다. Observability를 통해 trace, latency, token usage, node 실행 흐름을 볼 수 있게 되면 다음 질문이 생긴다. 데이터는 쌓였는데, 이걸 어떻게 개선으로 연결할 것인가? Error Analysis는 이 질문에 답하는 과...

Observability (관측 가능성) 한줄 정의 시스템의 내부 상태를 로그, 메트릭, 트레이스로 추적해 “무슨 일이 왜 일어났는지” 설명할 수 있게 만드는 운영 능력. 핵심 이해 Observability는 단순히 로그를 많이 남기는 것이 아니다. 장애가 났을 때 원인을 좁히고, 성능이 느려졌을 때 병목을 찾고, LLM 답변 품질이 흔들...

Observability 수업 위치 이 수업은 LLMOps 흐름에서 API 장애 대응과 상태/비용 관리 다음에 위치한다. 앞 수업에서 primary/fallback 모델, timeout, retry 같은 방어 장치를 만들었다면, 여기서는 “실제로 어떤 일이 벌어졌는지 어떻게 볼 것인가”를 다룬다. 에이전트 서비스는 일반 API 서버보다 원인 추적...

상태관리 (State Management) 한줄 정의 LangGraph 에이전트의 실행 상태를 저장, 복원, trimming, 영속화하여 멀티 턴 대화와 운영 추적을 가능하게 하는 메커니즘. 핵심 이해 LangGraph에서 상태는 그래프 전체가 공유하는 데이터 구조다. 각 node는 상태를 읽고 필요한 값을 업데이트한다. 예를 들어 rou...

idol-agent v0.7 - 상태관리 + 비용 추적 프로젝트 정보 위치: Week09/Day02/Day7_mission/ 기술 스택: FastAPI, LangGraph, Supabase, PostgreSQL, tiktoken 주차: Week 09 아키텍처 문제 정의 v0.7의 목표는 에이전트가 대화...

상태관리 + 비용 추적 실습 실습 정보 주차: Week 09, Day 02 유형: 코드 구현 (Python) 상태: 완료 실습 목표 LangGraph checkpoint를 이용해 에이전트의 대화 상태를 저장하고, token usage 기반으로 비용을 추적하며, context window 초과를 막기 위해 메...

상태 관리 수업 위치 이 수업은 LiteLLM을 통한 API 장애 대응 다음 단계다. Day01에서 모델 호출 계층의 안정성을 다뤘다면, Day02에서는 에이전트가 대화와 실행 상태를 어떻게 유지할지 다룬다. 에이전트 서비스는 stateless API처럼 매 요청을 독립적으로 처리하기 어렵다. 사용자의 이전 발화, 선택된 tool, 검색된 문서,...

LiteLLM 한줄 정의 다양한 LLM API provider를 하나의 호출 계층으로 묶고, retry, fallback, timeout, routing을 관리하기 위한 LLMOps 도구. 핵심 이해 LiteLLM을 단순히 “여러 모델을 같은 문법으로 호출하는 라이브러리”로만 보면 활용 범위가 좁아진다. 수업에서 중요한 지점은 모델 호출을...

idol-agent v0.6 - LiteLLM + Docker + CI/CD 프로젝트 정보 위치: Week09/Day01/day6-mission/ 기술 스택: FastAPI, LangGraph, LiteLLM, Docker, Supabase 주차: Week 09 아키텍처 문제 정의 v0.6의 목표는 에...