每一個網站根目錄都有一份「哪些機器可以進來」的清單。Google 的機器和 AI 的機器是不同的身分,要分開放行——很多網站的清單裡從來沒提過 AI,於是它們套用到一堆原本是為了擋別的東西而寫的規則,意外被關在門外。AI 的機器分兩種:一種是拿你的內容去訓練模型(長期讓 AI「知道」你的品牌),一種是客人問問題的當下現場來讀你的網頁、組出回答並附上你的連結。後面這一種才是會帶真實流量的那一種,如果只能放一類,放後面這一類。另外有一個最常被忽略的隱藏原因:如果你用了網站防護服務(例如 Cloudflare)並開了「封鎖 AI 爬蟲」那個開關,它的作用在那份清單之前——你的清單寫得再對都沒用
一個做手工家具的老闆跟我們抱怨:「我文章寫了三年、Google 搜『實木餐桌 保養』我在第一頁,但我問 ChatGPT『台灣實木家具推薦』,它一次都沒提過我。」
我們做了兩件事
第一,打開他的網站根目錄那份機器清單——裡面一個 AI 的名字都沒有。它只有一個通用區塊,而那個通用區塊為了防某個比價機器人,寫了一條範圍很寬的規則,把一大半網址都擋掉了。AI 的機器套用的就是這一份
第二,我們請他的工程師查了伺服器紀錄。那些 AI 的機器確實來過,但得到的回應全部是「拒絕」——不是因為那份清單,是因為他半年前在網站防護服務的後台開了一個叫「封鎖 AI 爬蟲」的開關
所以他的問題有兩層,而且兩層都不在他的網站程式裡
這篇不講那份清單技術上怎麼寫(那是廠商的事),講的是:這件事在吃你哪一筆錢、你自己三分鐘怎麼看、如果只能放一類要放哪一類、該不該為了保護內容而擋掉、以及怎麼驗收。
結論先給:吃的是一條正在長大、而且免費的新管道
第一筆:客人問了 AI,得到的是同業的答案。消費者的行為已經在變——以前是先搜尋再比較,現在很多人先問 AI「哪一家比較好」,拿到三個名字之後才去查那三家。如果那三個名字裡從來沒有你,你連進入比較的機會都沒有
這一筆的特徵和前面幾篇一樣:你在報表上看不到它。沒有一行數字會告訴你「這個月有多少客人問了 AI、而答案裡沒有你」
第二筆:你放棄的是會帶連結的那種曝光。即時回答型的 AI 通常會在答案裡附上來源連結。那是真實的點擊、真實的到站,而且你一毛錢都沒花。擋掉它等於自己關掉一個免費的流量來源
第三筆(長期):AI 不知道你的品牌存在。另一類機器是把內容拿去訓練模型用的。它的效果是慢的、累積的——讓 AI 在沒有開搜尋功能的情況下也「知道」有你這個品牌。這一筆看不到立即回報,但它是三年後的差距
不會有的損失(講清楚免得誤會):放行 AI 不會影響你的 Google 排名,兩者是完全不同的機器、不同的系統。反過來,擋掉 AI 也不會讓 Google 更喜歡你
結論先給:如果你只能放行一類,放「客人問的當下現場來讀」那一類
這是這篇最需要老闆理解的一件事,因為它決定了取捨的方向
| 類型 | 它在做什麼 | 對你的價值 | 代價 |
|---|---|---|---|
| 拿去訓練模型 | 把你的內容收進模型的學習資料 | 長期讓 AI「知道」你的品牌 | 看不到立即回報,內容確實被用於訓練 |
| 現場來讀(即時檢索) | 客人問的當下去讀你的網頁、組出回答、附上你的連結 | 直接的曝光加真實流量 | 幾乎沒有 |
所以取捨很清楚:擋掉訓練那一類,只是放棄長期的品牌認知;擋掉現場來讀那一類,是放棄每一次被引用的機會,連帶放棄那些點擊
目前該認識的大致是這幾個身分(你不用記,交給廠商就好):OpenAI 的三個(訓練用一個、ChatGPT 搜尋用一個、客人主動要求時用一個)、Perplexity 的一個、Anthropic 的兩個(訓練用與檢索用各一)、Google 的一個控制開關、以及一個公開資料集
Google 那個要特別講一下:它不是一個會來抓網頁的機器,它是一個「Google 已經抓到的內容,能不能用在它的 AI 功能上」的開關。關掉它不會影響你的一般搜尋排名——Google 明確說過——但你會從 Google 搜尋結果最上面那塊 AI 摘要的來源裡消失。而那塊摘要現在出現在相當比例的搜尋結果上方
跟廠商這樣說「請在 robots.txt 為 GPTBot、OAI-SearchBot、ChatGPT-User、PerplexityBot、ClaudeBot、Claude-SearchBot、Google-Extended、CCBot 各寫獨立區塊並明確 Allow,並在每個區塊重寫通用區塊的全部 Disallow。」
結論先給:一個網址你自己打開看,兩件事要問廠商
測法一:打開你自己的那份清單(你自己做)
在瀏覽器網址欄打:你的網域/robots.txt。它會顯示一份純文字。你不用看懂規則,只要用 Ctrl+F 搜這幾個字:GPTBot、PerplexityBot、OAI-SearchBot
三個都搜不到 → 代表你的網站從來沒有針對 AI 做過設定,它們現在套用的是通用規則,有被意外擋到的風險。搜得到而且附近寫著 Allow → 這一關可能是過的,但還要看第二層
測法二:問廠商一句話(最關鍵的一題)——「請幫我查伺服器紀錄,過去 30 天有沒有 GPTBot、OAI-SearchBot、PerplexityBot、ClaudeBot 來過,以及它們拿到的回應是成功還是被拒絕。」
這一題的答案有三種,而且三種的意思完全不同:
| 廠商回報 | 意思 | 下一步 |
|---|---|---|
| 完全沒有紀錄 | 它們從來沒來過 | 回去檢查那份清單 |
| 有紀錄,但大量被拒絕 | 清單沒問題,是別的東西在擋 | 看第四節,這是最常見的隱藏原因 |
| 有紀錄,而且是成功的 | 這一關過了 | 看第七節,問題在後面三層 |
為什麼一定要看伺服器紀錄?因為 Google Search Console(Google 提供的免費網站管理後台)只報告 Google 自己的機器,AI 來過沒來過它完全不會告訴你。伺服器紀錄是唯一的真實證據
測法三:直接問 AI(最快但最粗略)
打開 ChatGPT 或 Perplexity,問「某某品牌是誰?他們賣什麼?」如果它完全答不出來,那很可能是它從來沒讀過你的網站
結論先給:如果你用了網站防護服務並開了「封鎖 AI 爬蟲」的開關,那份清單寫得再對都沒用
這一節是整篇最值錢的一段,因為它解釋了為什麼很多老闆「該做的都做了但還是沒效」
很多網站前面掛了一層防護服務(Cloudflare 這一類),用來擋攻擊、擋惡意機器人、加速網站。那些服務近年大多加了一個很顯眼的開關,名字大概叫「封鎖 AI 爬蟲」或「AI Bot 防護」。聽起來像在保護你,所以很多人順手就打開了
問題是它的作用位置在那份清單之前。AI 的機器還沒看到你的清單就已經被攔下來了。你的廠商在網站端做的設定,一行都沒有生效
所以如果第三節的測法二回報「大量被拒絕」,九成是這個。處理方式不是改網站,是去那個防護服務的後台把放行設定打開
跟廠商這樣說「請檢查 CDN 或防火牆是否啟用了封鎖 AI 爬蟲的功能(例如 Cloudflare 的 AI Bot 防護或 Bot Fight Mode),如果有,請為上述 AI 爬蟲加入放行名單。」
順便提醒一個相關的陷阱:那份清單的規則不會往下繼承。這個概念用店裡的比喻最好懂——你在門口貼了一張「所有廠商共用的規則」,然後又單獨給某家物流公司一張專屬的規則。那家物流公司只看自己那一張,門口那張他完全不看
所以如果你在通用規則裡擋了結帳頁和後台,在 AI 的專屬區塊裡必須再寫一次,不然 AI 會跑去抓你的結帳頁。這是廠商最常漏的一項,請他確認
結論先給:對電商品牌幾乎沒有道理。但有兩種例外,誠實講清楚
想擋的理由通常是「不想內容被 AI 免費拿去用」。這個顧慮對某些生意成立——但對電商不成立,原因很簡單:你的生意是賣商品,不是賣內容。
AI 不會因為讀了你的保養教學就取代你賣家具。你的文章被引用並附上連結,等於免費曝光加導流
兩種真的該考慮擋的情況:
第一種:內容本身就是你的商品。付費課程、付費報告、會員專屬資料庫。這些該擋——但正確做法是把它們放在登入之後,不是只靠那份清單。因為那份清單是「請求」不是「門鎖」,遵守與否靠對方自律。真的不能外流的東西,要放在登入後面
第二種:某個機器造成主機負載問題。這是技術問題不是立場問題,而且做法是針對那一個設限速,不是全面擋掉所有 AI。而且請先量數字——用第三節測法二看它一天來幾次,多數老闆會發現量比想像的小很多
一個誤會要澄清:那份清單沒有強制力,它是業界慣例。主流廠商的機器會遵守,但你不能靠它保護真正機密的東西
結論先給:兩層驗收——技術驗收看紀錄,成效驗收問 AI。只做後者的話,沒效果你也不知道問題在哪
技術驗收(一到四週後)
成效驗收(四到八週後,這一項你自己做)
準備 10 題不提你品牌名的行業問題,例如「台灣有推薦的實木餐桌品牌嗎」「訂製家具大概要多久」。然後到 ChatGPT(要開搜尋功能)、Perplexity、以及 Google 搜尋結果最上面的 AI 摘要,各問一輪
記錄兩件事:十題裡有幾題提到你、提到的資訊正不正確
每個月做一次,記成一條趨勢線。這是這條管道唯一可行的成效指標——目前沒有任何後台會提供「AI 曝光次數」這種報表,所以你得自己量。十題固定不變,這樣月與月之間才比得出變化
結論先給:門打開只是第一關,後面還有三關,照順序排除
第一關:它進來了,但讀不到東西。最常見的下一道關卡——你的價格和規格是靠程式在客人瀏覽器裡現場填進去的,AI 抓到一個空殼。見〈你的商品價格,Google 和 AI 可能根本看不到〉
第二關:讀到了,但摘不出一段話。AI 需要一段能單獨成立的內容。結論埋在第八段、句子互相依賴,它抓不出東西來引用。見〈先給答案再講理由〉
第三關:摘得出來,但沒有值得引用的事實。沒有具體數字、沒有價格、沒有規格、沒有步驟的內容,AI 沒有引用它的動機
另外一個常被忽略的因素:如果 Google 連你的新頁面都很久才看到,AI 能讀到的內容量也會受限,見〈新商品上架兩週,Google 還是搜不到〉。四關加起來的完整順序見〈客人在 Google 和 AI 都搜不到你的店〉
先把門打開
八個 AI 身分各自明確放行,結帳與後台路徑在每個區塊分別排除,並指向自動維護的店家簡介檔。你只要照這篇的方式驗一次,不用自己研究規則怎麼寫。14 天免費試用
請填寫以下資訊,以便我們為您服務