6、什么是Robots?Robots.txt文件放在哪里?

      發布時間:2019-11-12 19:49:23   瀏覽人數: 7350 次  

      答:搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

      可以在網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

      robots.txt文件應該放在網站根目錄下。舉例來說,當robots訪問一個網站(比如http://www.abc.com)時,首先會檢查該網站中是否存在http://www.abc.com/robots.txt這個文件,如果機器人找到這個文件,它就會根據這個文件的內容,來確定它訪問權限的范圍。


      資料來源網絡,僅供學習交流,如您發現本文中有涉嫌抄襲,請發送郵件至:support@iisp.com,一經查實,本站將立刻刪除涉嫌侵權內容。


      上一篇:7、什么是外鏈?如何做?
      下一篇:5、什么是sitemap?

      旗下網站:耐思智慧 - 淘域網 - 我的400電話 - 中文域名:耐思尼克.cn 耐思尼克.top

      耐思智慧 © 版權所有 Copyright © 2000-2025 IISP.COM,Inc. All rights reserved

      備案號碼: 粵ICP備09063828號  公安備案號: 公安備案 粵公網安備 44049002000123號  域名注冊服務機構許可:粵D3.1-20240003 CN域名代理自深圳萬維網

      聲明:本網站中所使用到的其他各種版權內容,包括但不限于文章、圖片、視頻、音頻、字體等內容版權歸原作者所有,如權利所有人發現,請及時告知,以便我們刪除版權內容

      本站程序界面、源代碼受相關法律保護, 未經授權, 嚴禁使用; 耐思智慧 © 為我公司注冊商標, 未經授權, 嚴禁使用

      法律顧問:珠海知名律師 廣東篤行律師事務所 夏天風 律師

      主站蜘蛛池模板: 亚洲色精品aⅴ一区区三区| 射精专区一区二区朝鲜| 国产乱码一区二区三区四| 精品久久综合一区二区| 久久亚洲色一区二区三区| 亚洲一区二区三区高清不卡 | 亚洲宅男精品一区在线观看| www.亚洲一区| 夜精品a一区二区三区| 亚洲av无码一区二区三区天堂古代| 国产福利电影一区二区三区久久久久成人精品综合 | 国产乱码精品一区二区三区| 无码囯产精品一区二区免费 | 国产精品高清一区二区三区| 一区二区三区免费电影| 精品国产日韩一区三区| 无码人妻精品一区二区三区东京热 | 久久一区二区精品综合| 国产一区麻豆剧传媒果冻精品| 国产成人免费一区二区三区| 午夜福利无码一区二区| 精品深夜AV无码一区二区老年| 亚洲一区在线免费观看| 91大神在线精品视频一区| 精品一区二区三区在线成人 | 男人的天堂亚洲一区二区三区| 亚洲欧美国产国产综合一区 | 亚洲国产综合精品一区在线播放| 日韩AV片无码一区二区不卡| 无码aⅴ精品一区二区三区| 亚洲色无码专区一区| 国精产品一区一区三区有限公司| 国产乱码精品一区二区三区香蕉 | 无码少妇一区二区性色AV | 少妇激情AV一区二区三区| 性色AV一区二区三区| 91久久精品国产免费一区| 精品午夜福利无人区乱码一区 | 中日av乱码一区二区三区乱码| 精品人妻少妇一区二区三区在线| 精品国产毛片一区二区无码|