figure.2

LLM 보안

LLM 보안 LLM 보안은 처음에는 조금 별도 과목처럼 느껴졌다. 그런데 RAG를 배우고 나니 바로 연결됐다. RAG는 외부 문서를 읽고, Agent는 도구를 실행한다. 그러면 LLM은 단순히 답변만 만드는 모델이 아니라 외부 입력을 읽고 행동을 결정하는 시스템 일부가 된다. 이때부터는 prompt injection, 권한 없는 데이터 접근, 도구...

RAG Knowledge Conflict 실습

RAG Knowledge Conflict 실습 Day4 실습은 RAG에서 제일 불편하지만 중요한 부분을 다뤘다. 검색된 문서가 항상 맞다고 볼 수 없고, 문서끼리도 서로 다른 말을 할 수 있다는 점이다. 처음에는 “RAG를 쓰면 모델이 모르는 걸 문서에서 찾아오니까 더 정확해진다”고만 생각했다. 그런데 이 실습을 하면서 생각이 바뀌었다. ...