figure.2

LLM 보안

LLM 보안 LLM 보안은 처음에는 조금 별도 과목처럼 느껴졌다. 그런데 RAG를 배우고 나니 바로 연결됐다. RAG는 외부 문서를 읽고, Agent는 도구를 실행한다. 그러면 LLM은 단순히 답변만 만드는 모델이 아니라 외부 입력을 읽고 행동을 결정하는 시스템 일부가 된다. 이때부터는 prompt injection, 권한 없는 데이터 접근, 도구...

RAG Knowledge Conflict 실습

RAG Knowledge Conflict 실습 Day4 실습은 RAG에서 제일 불편하지만 중요한 부분을 다뤘다. 검색된 문서가 항상 맞다고 볼 수 없고, 문서끼리도 서로 다른 말을 할 수 있다는 점이다. 처음에는 “RAG를 쓰면 모델이 모르는 걸 문서에서 찾아오니까 더 정확해진다”고만 생각했다. 그런데 이 실습을 하면서 생각이 바뀌었다. ...

RAG (Retrieval-Augmented Generation)

RAG (Retrieval-Augmented Generation) RAG는 처음 보면 “검색해서 LLM에 넣는 것”으로 끝나는 개념처럼 보인다. 실제로 큰 흐름은 맞다. 그런데 공부하면서 느낀 건, RAG의 어려움은 생성이 아니라 검색된 근거를 믿을 수 있게 만드는 과정에 있다는 점이다. 내가 이해한 RAG RAG는 LLM이 원래 알고 있는 지식...

Naive RAG 파이프라인 구축 실습

Naive RAG 파이프라인 구축 실습 Day3 실습은 PDF 하나를 가지고 직접 RAG 파이프라인을 만들어보는 내용이었다. 처음에는 LangChain 코드만 따라가면 되는 실습이라고 생각했는데, 막상 정리해보니 핵심은 코드보다 중간 결과를 계속 확인하는 습관이었다. 실습에서 한 일 PDF 문서를 읽고, chunk로 나누고, embedding을 ...