robots.txt
Robots Exclusion Standard
검색 크롤러의 사이트 디렉터리 접근 권한을 규정하는 루트 디렉터리의 텍스트 파일
LLM 및 AI 에이전트가 웹사이트의 핵심 정보와 문서를 빠르고 간결하게 파악할 수 있도록 돕는 마크다운 규격입니다. 정의와 상세 설명을 통해 기술적 원리를 이해하고, 비즈니스에 미치는 영향과 실무 적용 방법, 구현 시 고려할 주의사항을 관련 용어와 함께 확인하세요.
llms.txt Standard
llms.txt는 사이트 루트에 마크다운 형식으로 핵심 페이지 목록과 요약을 정리해 두어, AI 크롤러나 에이전트가 사이트 전체를 무작정 크롤링하지 않고도 가장 중요한 정보를 효율적으로 파악할 수 있게 돕는 신생 제안 표준이다. 아직 구글이나 오픈AI가 공식적으로 지원을 확정하지는 않았지만, 일부 AI 도구와 커뮤니티에서 채택이 확산되고 있어 선제적으로 도입해 두는 사이트가 늘고 있다. robots.txt가 ‘접근 허용 여부’를 다룬다면 llms.txt는 ‘무엇이 중요한지’를 요약해 알려주는 보완적 역할을 한다는 점에서 구분된다.
토큰 소모를 줄이면서 AI 크롤러가 사이트의 진정한 핵심 페이지만 정확히 소비하도록 지원
사이트 루트(/llms.txt)에 마크다운 포맷으로 중요 페이지 요약과 링크를 명시
Robots Exclusion Standard
검색 크롤러의 사이트 디렉터리 접근 권한을 규정하는 루트 디렉터리의 텍스트 파일
Crawling
검색엔진 로봇이 링크를 따라 웹을 탐색하며 새 페이지와 갱신된 정보를 수집하는 과정
AI Crawler
생성형 AI 모델 학습 데이터 구축 및 실시간 웹 검색 답변 생성을 위해 웹을 수집하는 전용 로봇
Large Language Model
방대한 텍스트 데이터를 사전 학습하여 인간과 유사하게 언어를 이해하고 생성하는 딥러닝 신경망 모델
Token
AI 모델이 텍스트를 처리할 때 사용하는 최소 언어 단위(단어 글자 서브워드 조각)
Answer Engine Optimization
AI 검색이나 음성 비서가 직접 생성하는 단일 정답에 브랜드와 콘텐츠가 인용되도록 최적화하는 전략