Robots Meta·X-Robots 생성기
브라우저 처리index·follow 여부와 max-snippet·max-image-preview·noarchive 같은 지시로 meta robots 태그와 PDF·이미지용 X-Robots-Tag 헤더를 함께 만들고, noindex를 robots.txt로 막으면 안 된다는 점 등을 알려 줍니다.
장바구니, 검색결과, 테스트 페이지처럼 검색결과에 나오지 않아야 하는 페이지에는 noindex 지시를 넣습니다. HTML 페이지는 meta robots 태그로, PDF나 이미지처럼 HTML이 아닌 파일은 서버의 X-Robots-Tag 응답 헤더로 지시합니다.
<meta name="robots" content="noindex, follow, max-image-preview:large"> # PDF·이미지처럼 HTML이 아닌 파일은 HTTP 헤더로 X-Robots-Tag: noindex, follow, max-image-preview:large # noindex 페이지는 robots.txt에서 막지 마세요. 막으면 검색엔진이 noindex를 읽지 못합니다.
Robots Meta·X-Robots 생성기 사용 가이드
장바구니, 검색결과, 테스트 페이지처럼 검색결과에 나오지 않아야 하는 페이지에는 noindex 지시를 넣습니다. HTML 페이지는 meta robots 태그로, PDF나 이미지처럼 HTML이 아닌 파일은 서버의 X-Robots-Tag 응답 헤더로 지시합니다.
이 생성기는 index=yes·no, follow=yes·no와 max-snippet(설명 글자 수 제한), max-image-preview(none·standard·large), max-video-preview, noarchive, nosnippet, noimageindex, unavailable_after 지시를 받아 두 형식을 모두 만듭니다. bot=googlebot처럼 적으면 특정 검색로봇에만 적용되는 태그가 됩니다.
noindex를 고르면 '이 페이지를 robots.txt에서 막지 마세요'라는 안내가 붙습니다. robots.txt로 접근을 막으면 검색엔진이 페이지를 읽지 못해 noindex 지시 자체를 보지 못하기 때문입니다.
사용 방법
- '지시값 (index=yes·no, follow=yes·no, max-snippet=, max-image-preview=, noarchive=yes, bot=googlebot)' 칸에 필요한 값을 한 줄에 하나씩 적습니다.
- 적지 않은 index와 follow는 yes로 처리됩니다.
- '실행'을 누르면 meta 태그와 X-Robots-Tag 헤더 한 줄이 함께 나옵니다.
- HTML 페이지는 meta 태그를 head에, 파일은 서버 설정에 헤더를 넣습니다.
예시: 검색에서 빼되 링크는 따라가게
index=no follow=yes max-image-preview=large
<meta name="robots" content="noindex, follow, max-image-preview:large"> # PDF·이미지처럼 HTML이 아닌 파일은 HTTP 헤더로 X-Robots-Tag: noindex, follow, max-image-preview:large # noindex 페이지는 robots.txt에서 막지 마세요. 막으면 검색엔진이 noindex를 읽지 못합니다.
yes·no 대신 예·아니오, on·off, 1·0도 알아듣습니다.
이럴 때 쓰면 좋아요
- 장바구니·마이페이지를 검색결과에서 뺄 때
- PDF 파일이 검색에 노출되지 않게 서버 헤더를 정할 때
- 검색결과 설명 길이(max-snippet)를 제한하고 싶을 때
- 행사 페이지를 종료일 이후 검색에서 빼고 싶을 때(unavailable_after)
문제가 생겼을 때
그러면 검색엔진이 페이지를 읽지 못해 noindex를 확인할 수 없습니다. 검색에서 빼려면 robots.txt 차단을 풀고 noindex만 두세요.
허용 값은 none, standard, large 세 가지입니다. 큰 이미지 미리보기를 원하면 large를 쓰세요.
공통 템플릿에 noindex를 넣었을 가능성이 큽니다. 빼려는 페이지에만 태그가 들어가도록 조건을 확인하세요.
활용 팁
- index, follow는 기본값이라 아무 지시가 없어도 같은 효과입니다. 굳이 넣을 필요는 없습니다.
- max-snippet=-1은 '설명 길이 제한 없음', 0은 '설명 표시 안 함'입니다.
- unavailable_after에는 2026-12-31처럼 날짜를 적으면 그 뒤로 검색결과에서 빠집니다.
자주 묻는 질문
효과는 같습니다. meta 태그는 HTML 안에, X-Robots-Tag는 서버 응답 헤더에 넣습니다. PDF처럼 태그를 넣을 수 없는 파일에는 헤더를 씁니다.
네이버 검색로봇(Yeti)도 meta robots의 noindex, nofollow를 따릅니다. bot=yeti로 네이버에만 지시할 수도 있습니다.
이 페이지의 링크를 검색엔진이 따라가지 않게 할 때입니다. 대부분은 noindex만 쓰고 follow는 그대로 두는 편이 사이트 구조 파악에 유리합니다.