RAG란 무엇입니까?

기억만으로는 부족합니다

대규모 언어 모델은 파라미터 안에 엄청난 양의 지식을 저장합니다. 하지만 Lewis 등이 2020년에 지적했듯이, 모델이 그 지식에 접근하고 정확하게 다루는 능력은 제한적이며, 답이 어디에서 왔는지 보여 주거나 모델이 아는 내용을 갱신하는 일은 아직 풀리지 않은 연구 과제였습니다. 세상이 바뀔 때마다 모델을 다시 학습시키는 것은 느리고 비용이 많이 듭니다.

먼저 찾아보고, 그다음에 답하기

1. 검색. 질문을 검색 질의로 바꿉니다. 원래 논문에서는 신경망 검색기가 위키백과 색인을 뒤졌습니다. 오늘날에는 웹 검색일 수도, 회사 문서일 수도, 사용자 자신의 메일일 수도 있습니다.
2. 가져오기. 가장 잘 맞는 구절을 뽑아 옵니다.
3. 답하기. 언어 모델이 그 구절을 앞에 두고 답을 쓰며, 그 구절을 근거로 가리킬 수 있습니다.

저자들은 이렇게 만든 모델이 당시 세 가지 오픈 도메인 질의응답 테스트에서 새로운 최고 성적을 냈고, 기억에만 의존해 답하는 비슷한 모델보다 더 구체적이고 다양하며 사실에 맞는 텍스트를 썼다고 보고합니다.

RAG가 해결하는 것

• 더 최신의 답. 검색 대상 모음을 갱신하기만 하면 되고, 모델을 다시 학습시킬 필요가 없습니다.
• 확인할 수 있는 출처. 답이 어떤 구절에서 나왔는지 보여 줄 수 있습니다.
• 사용자 자신의 정보. 허락하시면 비서가 캘린더나 메일에서 내용을 찾아와 그에 관해 답할 수 있습니다.

RAG가 해결하지 못하는 것

• 잘못된 검색. 검색기가 틀리거나 오래된 페이지를 찾으면, 답은 그 페이지를 바탕으로 똑같이 유창하게 만들어집니다.
• 잘못 읽기. 모델이 출처의 내용을 여전히 잘못 전할 수 있으므로, 중요한 일이라면 출처를 한번 살펴볼 만합니다.
• 숨은 지시. AI가 읽는 페이지나 이메일에 AI를 조종하려고 쓴 텍스트가 들어 있을 수 있습니다. 이를 프롬프트 인젝션이라고 합니다.
• 개인정보. 사용자의 파일을 검색하려면 무언가가 그 파일을 읽고 색인을 만들어야 합니다. 그 색인이 어디에 있는지, 누가 볼 수 있는지 물어보십시오. 자세한 내용은 AI 비서의 기억(영어)에 있습니다.

Lychnos Ring이 RAG를 쓰는 방식

어떤 주장을 따라 말하고 그것이 맞는지 물으시면, Lychnos는 웹과 뉴스의 실시간 출처와 대조해 확인하고, 그 이유를 링 화면에 보여 주며, 출처는 앱에 남겨 둡니다. 확인하는 대상은 사람이 아니라 주장입니다. Lychnos Ring은 개발 중입니다. 자세한 내용은 ‘그게 사실일까?’(영어)에 있습니다.

출처(2026년 11월 4일 확인): Lewis 외, retrieval-augmented generation for knowledge-intensive NLP tasks, 2020(arXiv).