6、什么是Robots?Robots.txt文件放在哪里?

      發布時間:2019-11-12 19:49:23   瀏覽人數: 7352 次  

      答:搜索引擎通過一種程序robot(又稱spider),自動訪問互聯網上的網頁并獲取網頁信息。

      可以在網站中創建一個純文本文件robots.txt,在這個文件中聲明該網站中不想被robot訪問的部分,這樣,該網站的部分或全部內容就可以不被搜索引擎收錄了,或者指定搜索引擎只收錄指定的內容。

      robots.txt文件應該放在網站根目錄下。舉例來說,當robots訪問一個網站(比如http://www.abc.com)時,首先會檢查該網站中是否存在http://www.abc.com/robots.txt這個文件,如果機器人找到這個文件,它就會根據這個文件的內容,來確定它訪問權限的范圍。


      資料來源網絡,僅供學習交流,如您發現本文中有涉嫌抄襲,請發送郵件至:support@iisp.com,一經查實,本站將立刻刪除涉嫌侵權內容。


      上一篇:7、什么是外鏈?如何做?
      下一篇:5、什么是sitemap?

      旗下網站:耐思智慧 - 淘域網 - 我的400電話 - 中文域名:耐思尼克.cn 耐思尼克.top

      耐思智慧 © 版權所有 Copyright © 2000-2025 IISP.COM,Inc. All rights reserved

      備案號碼: 粵ICP備09063828號  公安備案號: 公安備案 粵公網安備 44049002000123號  域名注冊服務機構許可:粵D3.1-20240003 CN域名代理自深圳萬維網

      聲明:本網站中所使用到的其他各種版權內容,包括但不限于文章、圖片、視頻、音頻、字體等內容版權歸原作者所有,如權利所有人發現,請及時告知,以便我們刪除版權內容

      本站程序界面、源代碼受相關法律保護, 未經授權, 嚴禁使用; 耐思智慧 © 為我公司注冊商標, 未經授權, 嚴禁使用

      法律顧問:珠海知名律師 廣東篤行律師事務所 夏天風 律師

      主站蜘蛛池模板: 国产色综合一区二区三区| 影院成人区精品一区二区婷婷丽春院影视| 香蕉免费一区二区三区| 欧美人妻一区黄a片| 亚洲一区二区三区四区在线观看| 亚洲精品日韩一区二区小说| 国产激情无码一区二区app| 深夜福利一区二区| 国产情侣一区二区| 国精产品一区一区三区有限在线| 国产日韩精品视频一区二区三区 | 无码国产精品一区二区免费虚拟VR | 麻豆AV无码精品一区二区| 无码人妻一区二区三区在线 | 精品无码人妻一区二区三区18| 日韩精品中文字幕无码一区 | 国产成人精品一区二三区| 波多野结衣AV一区二区三区中文| 精品无人区一区二区三区在线| 日韩精品无码一区二区三区不卡| 国产AV午夜精品一区二区三| 久久精品中文字幕一区| 中文字幕一区在线播放| 本免费AV无码专区一区| 欧洲精品无码一区二区三区在线播放 | 国产成人无码aa精品一区| 冲田杏梨AV一区二区三区| 日韩AV片无码一区二区不卡 | 天堂资源中文最新版在线一区 | 亚洲一区二区三区在线网站| 日韩精品一区二区三区中文| 亚洲第一区二区快射影院| 亚洲AV无码片一区二区三区| 日本一区免费电影| 亚洲毛片不卡av在线播放一区| 国产成人无码一区二区三区在线| 亚洲综合一区二区精品导航| 亚洲日韩一区精品射精| 波多野结衣在线观看一区 | 精品动漫一区二区无遮挡| 麻豆va一区二区三区久久浪|