12CODE
← 아카데미 academy 2강. 검색엔진은 어떻게 콘텐츠를 찾고 순위를 매기는가 - 크롤링·색인·랭킹 예상 5분

들어가며

좋은 글이 검색에 안 뜨는 이유

콘텐츠 마케팅을 처음 시작하는 분들이 가장 자주 하는 오해가 있습니다. "글만 잘 쓰면 검색엔진이 알아서 찾아준다"는 생각입니다. 절반만 맞습니다. 검색엔진이 순위를 매기려면 그 전에 콘텐츠가 검색엔진의 데이터베이스에 등록되어 있어야 합니다. 아무리 잘 쓴 글이라도 이 등록 단계를 통과하지 못하면, 검색창에 정확한 제목을 그대로 쳐도 결과에 나타나지 않습니다. 이 등록 단계를 이해하려면 검색엔진이 콘텐츠를 처리하는 3단계를 알아야 합니다.

3단계: 크롤링 → 색인 → 랭킹

1단계, 크롤링(Crawling). 검색엔진은 크롤러(또는 봇, 스파이더)라는 프로그램을 계속 웹 전체에 돌려보내 새 페이지와 바뀐 페이지를 찾아냅니다. 이 크롤러는 링크를 따라 이동합니다. 즉 어딘가에서 내 페이지로 연결되는 링크가 있어야 크롤러가 그 페이지를 발견할 확률이 올라갑니다. 아무 곳에서도 연결되지 않은, 이른바 "고립된 페이지"는 크롤러가 우연히 찾아오길 기다려야 하거나 사이트맵 제출 같은 별도 조치가 필요합니다.

2단계, 색인(Indexing). 크롤러가 페이지를 읽어들였다고 바로 검색 결과에 나오는 것은 아닙니다. 검색엔진은 그 페이지의 내용을 분석해서 "이 페이지는 어떤 주제를 다루는가"를 판단하고, 이를 자기 데이터베이스(색인)에 저장합니다. 이 단계에서 중복 콘텐츠, 너무 짧은 내용, 기술적 오류(robots.txt 차단, noindex 태그 등)가 있으면 색인에서 제외될 수 있습니다. 색인이 안 된 페이지는 아무리 검색해도 나오지 않습니다.

3단계, 랭킹(Ranking). 색인된 페이지 중에서 특정 검색어에 대해 어떤 순서로 보여줄지 결정하는 단계입니다. 검색 의도와의 일치도, 콘텐츠 품질, 사용자 경험(로딩 속도·모바일 대응), 다른 사이트에서 받은 링크의 양과 질 등 수백 가지 요소를 종합해 순위를 매깁니다. 우리가 보통 "SEO"라고 부르며 신경 쓰는 대부분의 활동이 이 3단계에 속합니다.

이 세 단계가 왜 중요한가

세 단계는 순서대로 통과해야 하는 관문입니다. 랭킹을 아무리 잘 노려도 색인이 안 되어 있으면 소용이 없고, 색인이 잘 되어 있어도 크롤링 자체가 안 되어 있으면 애초에 색인될 기회가 없습니다. 그래서 새 사이트나 새로 만든 콘텐츠는 "글이 좋은가"를 따지기 전에 먼저 "검색엔진이 이 글을 찾아서 등록했는가"부터 확인하는 것이 순서입니다.

색인 여부, 직접 확인하는 법

가장 간단한 확인 방법은 검색창에 site:내도메인.com/페이지주소를 입력해보는 것입니다. 결과가 나오면 최소한 색인은 되어 있는 것이고, 아무것도 안 나오면 색인이 안 되어 있다는 뜻입니다. 구글은 서치 콘솔(Search Console), 네이버는 서치어드바이저에서 더 정확하게 색인 상태와 크롤링 오류를 확인할 수 있습니다. 이 도구들에 사이트를 등록하고 사이트맵을 제출하는 것은 콘텐츠를 쓰기 전에 먼저 해두어야 하는 최소한의 기술적 준비입니다.

자주 색인이 막히는 원인

이 항목들은 대부분 콘텐츠의 질과 무관한 기술적 문제입니다. 아무리 잘 쓴 글이어도 이 지점에서 막히면 순위 경쟁에 아예 참가하지 못합니다.

즉시 확인

  1. 크롤링, 색인, 랭킹 중 "콘텐츠 품질이 좋다/나쁘다"를 판단하는 단계는 어느 것인가요?
  2. site:내도메인.com/페이지주소 검색으로 무엇을 확인할 수 있나요?
  3. 아무 곳에서도 연결되지 않은 "고립된 페이지"가 발견되기 어려운 이유는 무엇인가요?

정답·해설

  1. 랭킹 단계입니다. 크롤링은 페이지를 찾는 단계, 색인은 등록 여부를 판단하는 단계이고, 품질 비교와 순서 결정은 랭킹 단계에서 이루어집니다.
  2. 해당 페이지가 검색엔진의 색인에 등록되어 있는지를 확인할 수 있습니다. 결과가 없으면 색인이 안 된 것입니다.
  3. 크롤러는 링크를 따라 이동하며 새 페이지를 찾기 때문에, 어디서도 연결되지 않은 페이지는 크롤러가 우연히 방문할 기회가 거의 없어 발견이 늦어지거나 아예 안 될 수 있습니다.

다음 레슨

자연 검색(오가닉) vs 검색광고 - 같은 검색결과, 다른 채널에서 색인·랭킹으로 얻는 자연 검색 순위와 검색광고 영역이 SERP에서 어떻게 다르게 작동하는지 비교합니다.

핵심 정리

  1. 검색엔진은 크롤링(발견) → 색인(등록) → 랭킹(순위) 3단계를 거쳐 콘텐츠를 검색 결과에 보여줍니다.
  2. 콘텐츠가 아무리 좋아도 크롤링·색인 단계를 통과하지 못하면 랭킹 경쟁 자체에 참가할 수 없습니다.
  3. site: 검색과 서치 콘솔·서치어드바이저로 색인 상태를 직접 확인하는 것이 콘텐츠 작업보다 먼저 해야 할 최소 점검입니다.

→ 이 강의 퀴즈 풀어보기 (챌린지)