검색창에 단어를 입력하면 벌어지는 일
인터넷 전체를 그때그때 뒤지지 않고도 답을 빠르게 찾는 이유
주말 아침, 수아는 검색창에 '서울 비 오는 날 갈 곳'을 입력했습니다.
잠깐 사이에 실내 전시와 박물관, 카페를 소개하는 페이지들이 나타났습니다. 수아는 목록을 보다가 문득 손을 멈췄습니다.
인터넷에는 페이지가 셀 수 없이 많은데, 검색엔진은 어떻게 이 짧은 시간에 필요한 글을 찾아낼까요? 수아가 엔터를 누른 순간부터 모든 사이트를 하나씩 방문한 걸까요?
이야기 속 IT 개념
수아의 주말 검색을 따라가며, 웹 검색이 준비되고 결과가 만들어지는 과정을 살펴보겠습니다. 검색엔진마다 세부 구현은 다르지만, 여기서는 구글이 공개한 수집·색인·결과 제공의 흐름을 중심으로 설명합니다.
1. 검색하기 전부터 페이지를 찾아 읽어 둡니다
검색엔진은 수아가 질문하기 전부터 웹페이지를 발견하고 내용을 가져오는 작업을 합니다. 이를 크롤링이라고 부르고, 자동으로 돌아다니는 프로그램을 크롤러라고 합니다. 이미 알고 있는 페이지의 링크 등을 따라 새 페이지와 변경 내용을 찾습니다. 도서관 직원이 독자가 오기 전에 새 책을 들여오는 모습과 비슷합니다.
페이지를 발견했다고 무조건 읽을 수 있는 것은 아닙니다. 로그인 뒤에 있거나 수집이 제한된 내용은 접근하지 못할 수 있고, 발견과 방문에도 시간이 필요합니다. 인터넷에 방금 올린 글이 검색에서 바로 보이지 않는 이유 중 하나입니다. 이처럼 데이터를 지속적으로 수집하고 처리하는 흐름은 넓게 보면 데이터 파이프라인으로 이해할 수 있습니다. 수집의 조건과 한계는 Google Search Central의 검색 작동 설명에 안내되어 있습니다.
2. 읽어 둔 내용을 검색용 색인으로 정리합니다
가져온 페이지에서는 본문과 제목, 이미지 등 내용을 분석합니다. 무엇에 관한 페이지인지 파악하고, 같은 내용이 여러 주소에 있으면 대표 페이지를 판단하는 과정도 거칩니다. 이후 검색에 활용할 정보를 색인에 정리합니다. 책 전체를 매번 처음부터 읽는 대신 주제와 단어별로 찾을 수 있게 만든 도서관의 검색 목록을 떠올리면 됩니다.
색인은 단순히 파일을 쌓은 창고와 달리 검색을 위한 정리 구조입니다. 제목과 언어 같은 메타데이터도 이해를 돕습니다. 다만 수집했다고 모두 색인에 포함되는 것은 아니고, 색인에 들어갔다고 모든 질문에 노출되는 것도 아닙니다. 구글은 이 단계를 거대한 검색용 데이터베이스에 정보를 정리하는 과정으로 설명합니다. 수집과 색인의 차이 역시 구글의 공식 안내에서 확인할 수 있습니다.
3. 입력한 글자뿐 아니라 찾으려는 뜻을 해석합니다
수아가 검색한 문장에는 '실내'라는 단어가 없습니다. 그래도 검색엔진은 비 오는 날 갈 곳을 찾는 사람에게 실내 장소가 유용할 수 있다는 관계를 다룹니다. 철자와 단어의 관계, 질문의 의도 등을 해석해 후보를 고르는 것입니다. 예를 들어 구글은 단어와 개념의 연결을 이해하기 위해 여러 머신러닝 기반 시스템을 활용한다고 설명합니다.
의미가 가까운 표현을 숫자로 나타내는 임베딩도 이런 기술을 이해하는 데 도움이 됩니다. 다만 실제 검색 전체가 벡터 사이 거리만 계산해서 끝나는 것은 아닙니다. 관련성, 신뢰할 만한 정보인지, 최신성이 필요한 질문인지, 언어와 위치 같은 맥락을 함께 고려합니다. 같은 '재규어'라도 동물인지 자동차인지에 따라 좋은 결과가 달라지는 이유입니다. 관련 기준은 구글의 검색 순위 결정 설명과 검색 순위 시스템 안내에 공개되어 있습니다.
4. 후보의 순서를 정해 화면에 보여 주지만, 사실 확인이 끝난 것은 아닙니다
검색엔진은 후보 가운데 무엇을 먼저 보여 줄지 순서를 정하고, 제목과 설명 등으로 화면을 구성합니다. 결과는 지금까지 준비한 색인과 질문 해석을 활용한 것이므로, 검색할 때마다 인터넷 전체를 처음부터 탐색하는 구조는 아닙니다. 광고가 포함되는 경우에는 일반 검색 결과와 구분되며, 구글은 광고비가 자연 검색 순위를 사는 수단이 아니라고 설명합니다. 이 구분은 검색 순위에 대한 공식 설명에서도 확인할 수 있습니다.
다만 맨 위에 나온 페이지가 언제나 최신이고 정확하다는 보장은 없습니다. 가게가 폐업했거나 운영 시간이 달라졌을 수도 있죠. 수아는 마음에 드는 장소를 찾은 뒤 공식 홈페이지에서 오늘 운영 여부를 한 번 더 확인합니다. 검색창의 짧은 기다림 뒤에는 오래전부터 이어진 수집과 정리가 있고, 그 결과를 자기 상황에 맞게 판단하는 마지막 단계는 여전히 검색하는 사람에게 남아 있습니다.