谷歌不會(huì)始終以相同的頻率抓取所有的網(wǎng)址。谷歌會(huì)每天抓取一些網(wǎng)址,但有些網(wǎng)址可能每周抓取一次,還有一些網(wǎng)址每隔幾個(gè)月抓取一次,有的甚至可能半年左右才抓取一次。之所以這樣做是為了避免服務(wù)器過(guò)載。
此外,如果你在網(wǎng)站上進(jìn)行了重大更改,那么可能大部分更改很快就會(huì)被發(fā)現(xiàn),但一般是會(huì)有遺留一些更改未被及時(shí)發(fā)現(xiàn)。
因此,特別當(dāng)你執(zhí)行網(wǎng)站查詢(xún)等操作時(shí),很有可能會(huì)看到那些每半年才被抓取一次的網(wǎng)址。幾個(gè)月了,他們還是老樣子。
這是谷歌重新處理、抓取網(wǎng)頁(yè)的正常時(shí)間。因此,這并不一定表明某些事情在技術(shù)上有漏洞。如果你仍然認(rèn)為這些網(wǎng)址根本不應(yīng)該被編入索引,或許你可以給谷歌提交一個(gè)最后修改過(guò)站點(diǎn)地圖的文件,以便Google能夠以其他方式加快檢索的速度。
Google URL檢查工具
使用谷歌的URL檢查工具,這一點(diǎn)John Mueller沒(méi)有提到。通過(guò)Google站長(zhǎng)工具重新提交索引,提交過(guò)程可能需要一到兩周的時(shí)間。URL檢查工具適用于需要重新抓取的個(gè)別網(wǎng)址,如果有大量網(wǎng)頁(yè),Google建議改為提交站點(diǎn)地圖。
通過(guò)Site Map觸發(fā)蜘蛛進(jìn)行新的爬行和抓取
建議更新站點(diǎn)地圖,讓Googlebot發(fā)現(xiàn)最近修改日期并將給予提示,以便移除舊網(wǎng)頁(yè)、觸發(fā)新的抓取。