청킹

청킹은 수십 페이지에 달하는 원본 문서를 RAG 시스템이 검색하고 임베딩하기 적절한 크기(보통 몇백 토큰 단위)의 조각으로 미리 잘라두는 전처리 작업으로, 조각의 크기와 자르는 기준이 전체 검색 품질에 직접적인 영향을 준다. 문장이나 문단 중간에서 뚝 끊어버리면 문맥이 유실되어 검색기가 엉뚱한 조각을 관련 있다고 잘못 판단할 수 있어, 의미 단위(문단)를 존중하며 인접 조각끼리 일부 겹치게(Overlap) 자르는 방식이 일반적으로 권장된다. 문서 유형(코드, 법률 문서, 대화록)에 따라 최적의 청킹 전략이 달라 실무에서는 여러 방식을 실험적으로 비교하는 과정이 필요하다.

실무 적용 및 비즈니스 영향#

문맥 유실 없이 검색기가 질문에 꼭 맞는 핵심 단락만을 정확히 찾아내도록 지원

구현 가이드 및 주의사항#

의미가 끊기지 않도록 문단 단위 청킹과 적절한 오버랩(Overlap) 비율 설정