AI 검색 & GEO·AEO

llms.txt Standard

llms.txt는 사이트 루트에 마크다운 형식으로 핵심 페이지 목록과 요약을 정리해 두어, AI 크롤러나 에이전트가 사이트 전체를 무작정 크롤링하지 않고도 가장 중요한 정보를 효율적으로 파악할 수 있게 돕는 신생 제안 표준이다. 아직 구글이나 오픈AI가 공식적으로 지원을 확정하지는 않았지만, 일부 AI 도구와 커뮤니티에서 채택이 확산되고 있어 선제적으로 도입해 두는 사이트가 늘고 있다. robots.txt가 ‘접근 허용 여부’를 다룬다면 llms.txt는 ‘무엇이 중요한지’를 요약해 알려주는 보완적 역할을 한다는 점에서 구분된다.

실무 적용 및 비즈니스 영향#

토큰 소모를 줄이면서 AI 크롤러가 사이트의 진정한 핵심 페이지만 정확히 소비하도록 지원

구현 가이드 및 주의사항#

사이트 루트(/llms.txt)에 마크다운 포맷으로 중요 페이지 요약과 링크를 명시

robots.txt

Robots Exclusion Standard

검색 크롤러의 사이트 디렉터리 접근 권한을 규정하는 루트 디렉터리의 텍스트 파일

크롤링

Crawling

검색엔진 로봇이 링크를 따라 웹을 탐색하며 새 페이지와 갱신된 정보를 수집하는 과정

AI 크롤러

AI Crawler

생성형 AI 모델 학습 데이터 구축 및 실시간 웹 검색 답변 생성을 위해 웹을 수집하는 전용 로봇

LLM

Large Language Model

방대한 텍스트 데이터를 사전 학습하여 인간과 유사하게 언어를 이해하고 생성하는 딥러닝 신경망 모델

토큰

Token

AI 모델이 텍스트를 처리할 때 사용하는 최소 언어 단위(단어 글자 서브워드 조각)

AEO

Answer Engine Optimization

AI 검색이나 음성 비서가 직접 생성하는 단일 정답에 브랜드와 콘텐츠가 인용되도록 최적화하는 전략