6、什么是Robots？Robots.txt文件放在哪里?

發(fā)布時(shí)間:2019-11-12 19:49:23   瀏覽人數(shù): 17412 次  

答：搜索引擎通過(guò)一種程序robot（又稱spider），自動(dòng)訪問(wèn)互聯(lián)網(wǎng)上的網(wǎng)頁(yè)并獲取網(wǎng)頁(yè)信息。

可以在網(wǎng)站中創(chuàng)建一個(gè)純文本文件robots.txt，在這個(gè)文件中聲明該網(wǎng)站中不想被robot訪問(wèn)的部分，這樣，該網(wǎng)站的部分或全部?jī)?nèi)容就可以不被搜索引擎收錄了，或者指定搜索引擎只收錄指定的內(nèi)容。

robots.txt文件應(yīng)該放在網(wǎng)站根目錄下。舉例來(lái)說(shuō)，當(dāng)robots訪問(wèn)一個(gè)網(wǎng)站（比如http://www.abc.com）時(shí)，首先會(huì)檢查該網(wǎng)站中是否存在http://www.abc.com/robots.txt這個(gè)文件，如果機(jī)器人找到這個(gè)文件，它就會(huì)根據(jù)這個(gè)文件的內(nèi)容，來(lái)確定它訪問(wèn)權(quán)限的范圍。