RAG (Retrieval-Augmented Generation) RAG는 처음 보면 “검색해서 LLM에 넣는 것”으로 끝나는 개념처럼 보인다. 실제로 큰 흐름은 맞다. 그런데 공부하면서 느낀 건, RAG의 어려움은 생성이 아니라 검색된 근거를 믿을 수 있게 만드는 과정에 있다는 점이다. 내가 이해한 RAG RAG는 LLM이 원래 알고 있는 지식...

Naive RAG 파이프라인 구축 실습 Day3 실습은 PDF 하나를 가지고 직접 RAG 파이프라인을 만들어보는 내용이었다. 처음에는 LangChain 코드만 따라가면 되는 실습이라고 생각했는데, 막상 정리해보니 핵심은 코드보다 중간 결과를 계속 확인하는 습관이었다. 실습에서 한 일 PDF 문서를 읽고, chunk로 나누고, embedding을 ...

RAG Fundamentals & Advanced RAG 1 수업에서 처음 잡은 감 프롬프트 수업을 들을 때까지만 해도 “질문을 잘 쓰면 모델이 더 잘 답한다” 정도로 생각했다. 그런데 RAG 수업은 관점이 조금 달랐다. 모델에게 더 잘 물어보는 문제가 아니라, 모델이 모르는 자료를 어떻게 가져와서 읽게 할 것인가의 문제였다. 처음에는 R...

고급 LLM 프롬프팅 전략 수업 위치 이 수업은 Basic Prompting 이후 “어떤 유형의 문제에 어떤 프롬프팅 전략을 쓸 것인가”를 다룬다. 강의자료에서는 고급 프롬프팅을 크게 지시사항 기반, 예시 기반, 검증 기반으로 나누었다. 기본 프롬프트가 역할과 지시를 명확히 하는 단계라면, 고급 프롬프팅은 추론 과정, 하위 질문, 여러 후보 답변...

Prompt Engineering 한줄 정의 LLM에 최적의 출력을 유도하기 위한 입력 설계 기법. 프롬프트의 구조, 예시, 지시 방식에 따라 모델 성능이 크게 달라진다. 수업 근거 02-Basic_Prompting.pptx.pdf, 03-Advanced LLM Prompting Strategies_1.pdf, 2-04-Advanced L...

GPT-3: Language Models are Few-Shot Learners 논문 요약 OpenAI의 GPT-3 논문. 175B 파라미터 모델이 Few-shot 프롬프팅만으로 다양한 NLP 태스크에서 SOTA에 근접하는 성능을 달성. 핵심 아이디어 Few-Shot Learning: 소수의 예시만으로 새로운 태스크 수행 In-C...

GPT-2: Language Models are Unsupervised Multitask Learners 논문 요약 OpenAI의 GPT-2 논문. 대규모 언어 모델이 별도의 지도 학습 없이도 다양한 NLP 태스크를 수행할 수 있음을 보여줌. 핵심 아이디어 Unsupervised Multitask Learning: 하나의 모델로 번역...

Week05 실습: 프롬프트 설계 연습 관련 강의: W05D01 프롬프팅 기초, W05D02 고급 프롬프팅 이 글은 Week05의 프롬프트 실습을 블로그에서 다시 풀어볼 수 있도록 정리한 연습지다. 핵심은 프롬프트를 한 번에 잘 쓰는 것이 아니라, baseline을 만들고 평가 기준을 정한 뒤 개선하는 흐름을 익히는 것이다. 공통 평가 기준 ...

MMLU로 확인한 기본 프롬프팅 튜토리얼 실습 정보 주차: Week 05, Day 01 유형: Jupyter Notebook 상태: 완료 원본 자료: SeSAC_2강_Tutorial.ipynb, [Daily Mission] Day1 Prompt Engineering을 적용하여 MMLU 풀이하기 실습 목...

Week 05 - Prompt Engineering & RAG 요약 LLM을 더 잘 쓰기 위한 입력 설계에서 시작해, 외부 지식 결합(RAG), RAG 고도화, 프롬프트 기반 보안, 멀티모달/개인화, Agentic AI로 이어지는 흐름을 학습한 주차다. 주간 목표 Week 05의 핵심은 “LLM에게 잘 질문하는 법”에서 끝나지 않는...