搜索引擎系統(tǒng)是最復(fù)雜的計(jì)算系統(tǒng)之一,當(dāng)今主流搜索引擎服務(wù)商都是有財(cái)力、人力的大公司。即使有技術(shù)、人力、財(cái)力的保證,搜索引擎還是面臨很多技術(shù)挑戰(zhàn)。搜索引擎誕生后的十多年中,技術(shù)已經(jīng)得到了長(zhǎng)足的進(jìn)步。我們今天看到的搜索結(jié)果質(zhì)量與10年 前相比己經(jīng)好得太多了。不過(guò)這還只是一個(gè)開(kāi)始,搜索引擎必然還會(huì)有更多創(chuàng)新,提供更多、更準(zhǔn)確的內(nèi)容。
總體來(lái)說(shuō),搜索引擎主要會(huì)面對(duì)以下幾方面的挑戰(zhàn)
1.頁(yè)面抓取需要快而全面互聯(lián)網(wǎng)是一個(gè)動(dòng)態(tài)的內(nèi)容網(wǎng)絡(luò),每天有無(wú)數(shù)頁(yè)面被更新、創(chuàng)建,無(wú)數(shù)用戶(hù)在網(wǎng)站上發(fā)布內(nèi)容、溝通聯(lián)系,要返回最有用的內(nèi)容,搜索引擎就要抓取最新的頁(yè)面,但是由于頁(yè)面數(shù)量巨大,搜索引擎蜘蛛更新一次數(shù)據(jù)庫(kù)中的頁(yè)面要花很長(zhǎng)時(shí)間,搜索引擎剛誕生時(shí),這個(gè)抓取周期往往以幾個(gè)月計(jì)算,這也就是Google在2003年以前每個(gè)月有一次大更新的原因所在。
現(xiàn)在主流搜索引擎都已經(jīng)能在幾天之內(nèi)更新重要頁(yè)面,權(quán)重高的網(wǎng)站上的新文件幾小時(shí)甚至幾分鐘之內(nèi)就會(huì)被收錄,不過(guò),這種快速收錄和更新也只能局限于高權(quán)重網(wǎng)站,很多頁(yè)面幾個(gè)月不被重新抓取和更新,也是非常常見(jiàn)的。
要返回最好的結(jié)果,搜索引擎也必須抓取盡量全面的頁(yè)面,這就需要解決很多技術(shù)問(wèn)題。一些網(wǎng)站并不利于搜索引擎蜘蛛爬行和抓取,諸如網(wǎng)站鏈接結(jié)構(gòu)的缺陷、大量使用Flash,JavaScript腳本,或者把內(nèi)容放在用戶(hù)必須登錄以后才能訪問(wèn)的部分,都增大了搜索引擎抓取內(nèi)容的難度。
2.海量數(shù)據(jù)存儲(chǔ)一些大型網(wǎng)站單是一個(gè)網(wǎng)站就有百萬(wàn)千萬(wàn)個(gè)頁(yè)面,可以想象網(wǎng)上所有網(wǎng)站的頁(yè)面加起來(lái)是一個(gè)什么數(shù)據(jù)量。搜索引擎蜘蛛抓取頁(yè)面后,還必須有效存儲(chǔ)這些數(shù)據(jù),數(shù)據(jù)結(jié)構(gòu)必須合理,具備極高的擴(kuò)展性,寫(xiě)入及訪問(wèn)速度要求也很高。
除了頁(yè)面數(shù)據(jù),搜索引擎還需要存儲(chǔ)頁(yè)面之間的鏈接關(guān)系及大量歷史數(shù)據(jù),這樣的數(shù)據(jù)量是用戶(hù)無(wú)法想象的,據(jù)說(shuō)Google有幾十個(gè)數(shù)據(jù)中心,上百萬(wàn)臺(tái)服務(wù)器,這樣大規(guī)模的數(shù)據(jù)存儲(chǔ)和訪問(wèn)必然存在很多技術(shù)挑戰(zhàn) 。
我們經(jīng)常在搜索結(jié)果中看到,排名會(huì)沒(méi)有明顯原因地上下波動(dòng),甚至可能刷新一下頁(yè)面,就看到不同的排名,有的時(shí)候網(wǎng)站數(shù)據(jù)也可能丟失。這些都可能與大規(guī)模數(shù)據(jù)存儲(chǔ)的技術(shù)難題有關(guān)。
3.索引處理快速有效,具可擴(kuò)展性搜索引擎將頁(yè)面數(shù)據(jù)抓取和存儲(chǔ)后,還要進(jìn)行索引處理,包括鏈接關(guān)系的計(jì)算、正向索引、倒排索引等。由于數(shù)據(jù)庫(kù)中頁(yè)面數(shù)量大,進(jìn)行PR之類(lèi)的迭代計(jì)算也是耗時(shí)費(fèi)力的要想及時(shí)提供相關(guān)又及時(shí)的搜索結(jié)果,僅僅抓取沒(méi)有用,還必須進(jìn)行大量索引計(jì)算。由于隨時(shí)都有新數(shù)據(jù)、新頁(yè)面加入,因此索引處理也要具備很好的擴(kuò)展性。
4.查詢(xún)處理快速準(zhǔn)確查詢(xún)是普通用戶(hù)唯一能看到的搜索引擎工作步驟。用戶(hù)在搜索框輸入關(guān)鍵詞,單擊“搜索”按鈕后,通常不到一秒鐘就會(huì)看到搜索結(jié)果。表面最簡(jiǎn)單的過(guò)程,實(shí)際上涉及非常復(fù)雜的后臺(tái)處理。在最后的查詢(xún)階段,最重要的難題是怎樣在不到一秒鐘的時(shí)間內(nèi),快速?gòu)膸资f(wàn)、幾百萬(wàn),甚至幾千萬(wàn)包含搜索詞的頁(yè)面中,找到最合理、最相關(guān)的1000個(gè)頁(yè)面并且按照相關(guān)性、權(quán)威性排列。
5.判斷用戶(hù)意圖及人工智能應(yīng)該說(shuō)前4個(gè)挑戰(zhàn)現(xiàn)在的搜索引擎都已經(jīng)能夠比較好地解決,但判斷用戶(hù)意圖還處在初級(jí)階段,不同用戶(hù)搜索相同的關(guān)鍵詞,很可能是在尋找不同的東西。比如搜索“蘋(píng)果”,用戶(hù)到底是想了解蘋(píng)果這個(gè)水果,還是蘋(píng)果電腦?還是電影《蘋(píng)果》的信息?沒(méi)有上下文,沒(méi)有對(duì)用戶(hù)個(gè)人搜索習(xí)慣的了解,就完全無(wú)從判斷。
搜索引擎目前正在致力于基于用戶(hù)搜索習(xí)慣及歷史數(shù)據(jù)的了解上,判斷搜索意圖,返回更相關(guān)的結(jié)果。
蕪湖網(wǎng)站建設(shè)今后搜索引擎是否能達(dá)到人工智能水平,真正了解用戶(hù)搜索詞的意義和目的,讓我們拭目以待。
新聞標(biāo)題:搜索引擎面對(duì)的挑戰(zhàn)有哪些?
文章路徑:http://jinyejixie.com/news45/147245.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供域名注冊(cè)、品牌網(wǎng)站設(shè)計(jì)、品牌網(wǎng)站制作、外貿(mào)網(wǎng)站建設(shè)、自適應(yīng)網(wǎng)站、標(biāo)簽優(yōu)化
廣告
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶(hù)投稿、用戶(hù)轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源:
創(chuàng)新互聯(lián)