搜索引擎原理詳解

搜索引擎,通常指的是收集了因特網上幾千萬到幾十億個網頁並對網頁中的每一個詞(即關鍵詞)進行索引,建立索引數據庫的全文搜索引擎。當用户查找某個關鍵詞的時候,所有在頁面內容中包含了該關鍵詞的網頁都將作為搜索結果被搜出來。在經過複雜的算法進行排序後,這些結果將按照與搜索關鍵詞的相關度高低,依次排列。根據自己的優化程度,獲得相應的名次。

搜索引擎原理詳解

  原理概述

在搜索引擎的後台,有一些用於蒐集網頁信息的程序。所收集的信息一般是能表明網站內容(包括網頁本身、網頁的URL地址、構成網頁的代碼以及進出網頁的連接)的關鍵詞或者短語。接着將這些信息的索引存放到數據庫中。

搜索引擎的系統架構和運行方式吸收了信息檢索系統設計中許多有價值的經驗,也針對萬維網數據和用户的特點進行了許多修改,如右圖所示的搜索引擎系統架構。其核心的文檔處理和查詢處理過程與傳統信息檢索系統的運行原理基本類似,但其所處理的數據對象即萬維網數據的繁雜特性決定了搜索引擎系統必須進行系統結構的調整,以適應處理數據和用户查詢的需要。

  工作原理

  爬行和抓取

搜索引擎派出一個能夠在網上發現新網頁並抓文件的程序,這個程序通常稱之為蜘蛛(Spider)。搜索引擎從已知的數據庫出發,就像正常用户的瀏覽器一樣訪問這些網頁並抓取文件。搜索引擎通過這些爬蟲去爬互聯網上的外鏈,從這個網站爬到另一個網站,去跟蹤網頁中的鏈接,訪問更多的網頁,這個過程就叫爬行。這些新的網址會被存入數據庫等待搜索。所以跟蹤網頁鏈接是搜索引擎蜘蛛(Spider)發現新網址的最基本的方法,所以反向鏈接成為搜索引擎優化的最基本因素之一。搜索引擎抓取的頁面文件與用户瀏覽器得到的完全一樣,抓取的文件存入數據庫。

  建立索引

蜘蛛抓取的頁面文件分解、分析,並以巨大表格的形式存入數據庫,這個過程即是索引(index).在索引數據庫中,網頁文字內容,關鍵詞出現的位置、字體、顏色、加粗、斜體等相關信息都有相應記錄。

  搜索詞處理

用户在搜索引擎界面輸入關鍵詞,單擊“搜索”按鈕後,搜索引擎程序即對搜索詞進行處理,如中文特有的分詞處理,去除停止詞,判斷是否需要啟動整合搜索,判斷是否有拼寫錯誤或錯別字等情況。搜索詞的處理必須十分快速。

  排序

對搜索詞處理後,搜索引擎程序便開始工作,從索引數據庫中找出所有包含搜索詞的網頁,並且根據排名算法計算出哪些網頁應該排在前面,然後按照一定格式返回到“搜索”頁面。

再好的搜索引擎也無法與人相比,這就是為什麼網站要進行搜索引擎優化。沒有SEO的幫助,搜索引擎常常並不能正確的返回最相關、最權威、最有用的信息。

  數據結構

搜索引擎的核心數據結構為倒排文件(也稱倒排索引),倒排索引是指用記錄的非主屬性值(也叫副鍵)來查找記錄而組織的'文件叫倒排文件,即次索引。倒排文件中包括了所有副鍵值,並列出了與之有關的所有記錄主鍵值,主要用於複雜查詢。 與傳統的SQL查詢不同,在搜索引擎收集完數據的預處理階段,搜索引擎往往需要一種高效的數據結構來對外提供檢索服務。而現行最有效的數據結構就是“倒排文件”。倒排文件簡單一點可以定義為“用文檔的關鍵詞作為索引,文檔作為索引目標的一種結構(類似於普通書籍中,索引是關鍵詞,書的頁面是索引目標)。

  全文搜索引擎

在搜索引擎分類部分我們提到過全文搜索引擎從網站提取信息建立網頁數據庫的概念。搜索引擎的自動信息蒐集功能分兩種。一種是定期搜索,即每隔一段時間(比如Google一般是28天),搜索引擎主動派出“蜘蛛”程序,對一定IP地址範圍內的互聯網站進行檢索,一旦發現新的網站,它會自動提取網站的信息和網址加入自己的數據庫。

另一種是提交網站搜索,即網站擁有者主動向搜索引擎提交網址,它在一定時間內(2天到數月不等)定向向你的網站派出“蜘蛛”程序,掃描你的網站並將有關信息存入數據庫,以備用户查詢。由於搜索引擎索引規則發生了很大變化,主動提交網址並不保證你的網站能進入搜索引擎數據庫,因此目前最好的辦法是多獲得一些外部鏈接,讓搜索引擎有更多機會找到你並自動將你的網站收錄。

當用户以關鍵詞查找信息時,搜索引擎會在數據庫中進行搜尋,如果找到與用户要求內容相符的網站,便採用特殊的算法——通常根據網頁中關鍵詞的匹配程度,出現的位置/頻次,鏈接質量等——計算出各網頁的相關度及排名等級,然後根據關聯度高低,按順序將這些網頁鏈接返回給用户。