AI Assistant Engineering
AI Assistant Engineering은 챗봇을 만드는 공부가 아니다. 사용자의 작업을 안정적으로 도와주는 assistant system을 설계하는 학습 주제다. assistant는 겉으로는 대화 인터페이스처럼 보이지만, 내부에는 LLM, context 설계, RAG, tool use, memory, evaluation, guardrail이 함...
AI Assistant Engineering은 챗봇을 만드는 공부가 아니다. 사용자의 작업을 안정적으로 도와주는 assistant system을 설계하는 학습 주제다. assistant는 겉으로는 대화 인터페이스처럼 보이지만, 내부에는 LLM, context 설계, RAG, tool use, memory, evaluation, guardrail이 함...
Agentic pattern은 복잡한 구조부터 고르는 것이 아니다. 비용, latency, 예측 가능성, 실패 복구 가능성을 기준으로 가장 단순한 구조부터 선택해야 한다. 어떤 패턴을 써야 할까? 원칙 위로 갈수록 단순 · 저렴 · 예측 가능, 아래로 갈수록 복잡 · 비싸지만 강력. 항상 위쪽부터 시도하고, 한계에 부딪힐 때만 아래로 내려가세요....
Agentic Workflow의 패턴은 결국 LLM + Tools + Memory + Retrieval 블록을 어떻게 연결하느냐의 문제다. 아래 8가지 패턴은 단순한 순차 처리부터 자율 실행, Human-in-the-Loop까지 복잡도가 점점 올라간다. 전체 요약 패턴 핵심 구조 적합한 상황 ...
LLM 시스템을 설계할 때 가장 먼저 정해야 할 것은 Workflow로 충분한지, Agent가 필요한지다. 대부분의 문제는 단일 LLM 호출, RAG, 정해진 workflow로 해결된다. Agent는 실행 중 판단과 도구 선택이 필요할 때만 추가하는 편이 안전하다. Workflow vs Agent Workflows는 미리 정의된 경로로 LLM을 오...
Agentic Workflow는 패턴 이름을 외우는 것보다 유즈케이스를 어떤 실행 구조로 바꿀지 판단하는 것이 중요하다. 같은 문제도 비용, 품질 기준, 실패 비용에 따라 다른 패턴을 선택할 수 있다. 실전 유즈케이스 매핑 Prompt Chaining 마케팅 카피 생성 브리프 → 아웃라인 → 초안 → 편집 → 번역. 각 단계 게이트로 품질 보장...
AI를 ‘도구’로 쓰는 팀에서, AI를 ‘전제’로 설계된 팀으로. 6가지 운영 원칙, 4가지 핵심 역할, 5단계 도입 로드맵까지. AI Native 팀의 정의, 운영 원칙, 실전 적용법, 도입 로드맵을 다루는 종합 가이드입니다. “각자 알아서 AI 써요”가 아니라, 팀의 일하는 방식 자체를 다시 설계하는 방법을 정리했습니다. Copilot을 쓰고...
AI Engineering은 모델 사용법만 배우는 분야가 아니다. LLM 기능을 실제 서비스에 넣으려면 데이터, 백엔드, 평가, 관측, 비용 관리, 배포까지 함께 다뤄야 한다. 이 로드맵은 AI 기능을 제품 안에 안정적으로 넣기 위해 어떤 역량을 순서대로 쌓아야 하는지 정리한 것이다. 학습 축 AI Engineering 학습은 네 축으로 나눌 수...
Production RAG의 품질은 검색 단계에서 끝나지 않는다. 검색된 컨텍스트를 어떻게 생성 단계에 전달하고, 응답을 어떻게 평가하며, 운영 중 어떤 지표를 볼지가 함께 설계되어야 한다. Generation & Prompting 검색된 context를 LLM에 전달할 때는 “많이 넣기”보다 “필요한 근거를 읽기 좋은 구조로 넣기”가 중요...
Production RAG의 검색 품질은 chunking, embedding, retrieval, reranking이 함께 결정한다. 이 글은 각 단계의 선택지가 어떤 trade-off를 만드는지 정리한다. Chunking Strategy 청킹은 RAG 품질의 기초다. 전략에 따라 검색 정확도가 20~40% 달라질 수 있다. Vectara 벤치마...
Production RAG는 검색 파이프라인 하나로 끝나지 않는다. ingestion, query processing, hybrid retrieval, reranking, generation, evaluation, cache, monitoring이 함께 설계되어야 운영 가능한 시스템이 된다. 이 글은 프로덕션 RAG의 전체 아키텍처와 핵심 설계 지점...