您的當前位置:首頁 > 時尚 > 谷歌推出爬蟲擴展代理 網站管理員可以屏蔽谷歌抓取內容用于訓練AI – 藍點網 正文
時間:2025-12-11 21:07:19 來源:網絡整理 編輯:時尚
在 OPENAI 公布 GPTBot 爬蟲的相關信息后,今天谷歌宣布在 GoogleBot 基礎上推出 Google-Extended 爬蟲擴展代理,允許網站管理員使用 robots.txt 文件屏蔽 長沙開福找酒店上門服務電vx《189-4143》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達
在 OPENAI 公布 GPTBot 爬蟲的谷歌管理谷歌相關信息后,今天谷歌宣布在 GoogleBot 基礎上推出 Google-Extended 爬蟲擴展代理,推出允許網站管理員使用 robots.txt 文件屏蔽谷歌抓取網站內容用來訓練 AI 模型。爬蟲屏蔽長沙開福找酒店上門服務電vx《189-4143》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達
谷歌沒有推出單獨的擴展 AI 爬蟲,AI 爬蟲仍然使用 GoogleBot,代理但網站可以聲明是網站網否拒絕其抓取內容后訓練 AI,如果要聲明那就需要使用 Google-Extende代理令牌。員可用于

谷歌稱,內容Google-Extended 是訓練一種新控件,網絡發(fā)布商可以使用它管理其網站是藍點長沙開福找酒店上門服務電vx《189-4143》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達否有助于改進 Bard 和 Vertex AI 等生成式 AI 模型,在博客中谷歌多次提到網站可以幫助谷歌改進 AI,谷歌管理谷歌比如網站管理員可以選擇是推出否幫助這些 AI 模型隨著時間推移變得更準確和強大。
不過最終還是爬蟲屏蔽網站管理員自己決定是否允許谷歌拿內容去訓練 AI,如果不愿意的擴展話,可以在 robots.txt 中添加以下內容:
User-Agent: Google-ExtendedDisallow:/
需要提醒的代理是谷歌對于 robots.txt 的處理遵循了多種原則,而且 Google Bot 本身有一大堆用于不同用途的 bot,例如常規(guī)的 GoogleBot、GoogleBot-News、GoogleBot-Image 等,這些 bot 是可以在 robots.txt 里混用的。
例如要允許谷歌搜索抓取網站內容、不允許谷歌抓取內容用于訓練 AI,那么 robots.txt 可以這么寫:
User-Agent: GooglebotAllow: /User-Agent: Google-ExtendedDisallow: /
動作冒險游戲《暗影火炬城》Epic限時免費截止8月1日2025-12-11 20:34
索僧XA3 Ultra甚么時候公布 賣價要4100元?2025-12-11 20:30
英偉達2060隱卡甚么時候出 公版諜照與上市時候暴光2025-12-11 20:14
京東足機小時購10月28日早8面搶陳下單 限量收與千元大年夜額券 -2025-12-11 20:08
《戰(zhàn)神4》戰(zhàn)斗視頻曝光 奎托斯父子二人迷霧探索2025-12-11 20:02
三翼鳥的商業(yè)魅力:從家庭到社區(qū)、從場景到生活2025-12-11 19:34
華碩Zenfone 5Z進級安卓9 Pie 更新包開端推支2025-12-11 19:30
《蜘蛛俠2》BUG讓毒液周游紐約:能蹬單車 姿式喜感2025-12-11 19:11
《月圓之夜》S4團建第二戰(zhàn)來襲,看主播再度對決2025-12-11 19:04
游族旗下公司拖短百萬用度 被強執(zhí)260萬余元2025-12-11 18:42
舍肉救人的故事的故事2025-12-11 20:59
三星S10 Lite國止代價有欣喜 配驍龍855或賣價5688元2025-12-11 20:54
小米等獨角獸企業(yè)背后:海中上市常破收 出有良性循環(huán)2025-12-11 20:50
20款足游已成年庇護測評陳述:《蛋仔派對》得分最下2025-12-11 20:22
第一人稱射擊游戲《零時》1.0正式版本8月15日正式登陸Steam2025-12-11 20:19
寶馬Skytop概念車官圖發(fā)布 定位雙門敞篷轎跑車2025-12-11 19:53
小雞念退回電力賬戶內的余額如何操縱 螞蟻莊園小講堂12月29日問案2025-12-11 19:49
小米8系列體系進級 推支MIUI 10穩(wěn)定版:拍照體驗劣化2025-12-11 19:34
《洛奇》愛琳夏季游園會 圓滿落幕2025-12-11 19:10
成龍自曝曾做過“假慈悲”是甚么環(huán)境 成龍慈悲義舉有哪些2025-12-11 18:59
免責聲明:本站所有信息均來源于互聯(lián)網搜集,并不代表本站觀點,本站不對其真實合法性負責。如有信息侵犯了您的權益,請告知,本站將立刻刪除。
Copyright © 2025 Powered by 谷歌推出爬蟲擴展代理 網站管理員可以屏蔽谷歌抓取內容用于訓練AI – 藍點網,桑間濮上網 sitemap