Advanced RAG Advanced RAG는 처음 들으면 기법 이름이 너무 많다. HyDE, RAGRouter, Small-to-Big, Self-RAG, GraphRAG, RAPTOR처럼 이름만 보면 다 따로 외워야 할 것 같다. 그런데 수업을 정리하면서 생각을 바꿨다. 이건 기법 이름 목록이 아니라 Naive RAG가 실패하는 지점을 고치는...

RAG Knowledge Conflict 실습 Day4 실습은 RAG에서 제일 불편하지만 중요한 부분을 다뤘다. 검색된 문서가 항상 맞다고 볼 수 없고, 문서끼리도 서로 다른 말을 할 수 있다는 점이다. 처음에는 “RAG를 쓰면 모델이 모르는 걸 문서에서 찾아오니까 더 정확해진다”고만 생각했다. 그런데 이 실습을 하면서 생각이 바뀌었다. ...

Advanced RAG 2 & LLM 보안 Naive RAG 다음에 바로 막히는 지점 지난 수업에서 Naive RAG를 만들었을 때는 흐름이 꽤 단순해 보였다. 문서 자르기 -> embedding -> 가까운 chunk 찾기 -> LLM에 넣기 그런데 오늘 수업은 이 방식이 실제 서비스에서는 금방 ...

RAG (Retrieval-Augmented Generation) RAG는 처음 보면 “검색해서 LLM에 넣는 것”으로 끝나는 개념처럼 보인다. 실제로 큰 흐름은 맞다. 그런데 공부하면서 느낀 건, RAG의 어려움은 생성이 아니라 검색된 근거를 믿을 수 있게 만드는 과정에 있다는 점이다. 내가 이해한 RAG RAG는 LLM이 원래 알고 있는 지식...

Naive RAG 파이프라인 구축 실습 Day3 실습은 PDF 하나를 가지고 직접 RAG 파이프라인을 만들어보는 내용이었다. 처음에는 LangChain 코드만 따라가면 되는 실습이라고 생각했는데, 막상 정리해보니 핵심은 코드보다 중간 결과를 계속 확인하는 습관이었다. 실습에서 한 일 PDF 문서를 읽고, chunk로 나누고, embedding을 ...

RAG Fundamentals & Advanced RAG 1 수업에서 처음 잡은 감 프롬프트 수업을 들을 때까지만 해도 “질문을 잘 쓰면 모델이 더 잘 답한다” 정도로 생각했다. 그런데 RAG 수업은 관점이 조금 달랐다. 모델에게 더 잘 물어보는 문제가 아니라, 모델이 모르는 자료를 어떻게 가져와서 읽게 할 것인가의 문제였다. 처음에는 R...

“제주도 맛집을 찾아서 메신저 채널에 보내줘.” 이 요청은 단순 질문이 아니다. 검색하고, 결과를 고르고, 내용을 요약하고, 보낼 채널을 찾고, 실제 전송까지 이어지는 작업이다. 일반 챗봇은 답변을 만들 수 있지만, 이 흐름을 끝까지 실행하려면 Agent 구조가 필요하다. 왜 PC Agent인가 기존 AI 비서는 웹이나 모바일 앱 안에서 잘 동작...

고급 LLM 프롬프팅 전략 수업 위치 이 수업은 Basic Prompting 이후 “어떤 유형의 문제에 어떤 프롬프팅 전략을 쓸 것인가”를 다룬다. 강의자료에서는 고급 프롬프팅을 크게 지시사항 기반, 예시 기반, 검증 기반으로 나누었다. 기본 프롬프트가 역할과 지시를 명확히 하는 단계라면, 고급 프롬프팅은 추론 과정, 하위 질문, 여러 후보 답변...

Prompt Engineering 한줄 정의 LLM에 최적의 출력을 유도하기 위한 입력 설계 기법. 프롬프트의 구조, 예시, 지시 방식에 따라 모델 성능이 크게 달라진다. 수업 근거 02-Basic_Prompting.pptx.pdf, 03-Advanced LLM Prompting Strategies_1.pdf, 2-04-Advanced L...

GPT-3: Language Models are Few-Shot Learners 논문 요약 OpenAI의 GPT-3 논문. 175B 파라미터 모델이 Few-shot 프롬프팅만으로 다양한 NLP 태스크에서 SOTA에 근접하는 성능을 달성. 핵심 아이디어 Few-Shot Learning: 소수의 예시만으로 새로운 태스크 수행 In-C...