AIクローラーは何階層まで潜るのか—GPTBot・PerplexityBot・Googlebot実測比較
GPTBot・PerplexityBot・Googlebotの3社が実際に何階層目まで潜るかをサーバーログで実測しました。8日間・610件のアクセスデータから見えたクローラーごとの個性と、サイト設計への示唆をまとめています。
GPTBot・PerplexityBot・Googlebotの3社が実際に何階層目まで潜るかをサーバーログで実測しました。8日間・610件のアクセスデータから見えたクローラーごとの個性と、サイト設計への示唆をまとめています。
公開から2週間のサイトを4大AIに質問した実測レポート。ChatGPT・Claude・Gemini・Perplexityはサイトを正しく認識できるのか。新しいサイトがAIにどう見えているかをサーバーログと実際の回答で検証しました。
Anthropicが運用する3種類のボット(ClaudeBot・Claude-User・Claude-SearchBot)の役割の違いと、robots.txtで個別に制御する方法を公式ドキュメントをもとに解説します。
MetaのAI学習クローラー「Meta-ExternalAgent」をサーバーログで実測。117件の訪問記録から並列クロールの実態、wp-jsonや画像ファイルまで取得する動きを解説。robots.txtの設定方法も紹介します。
「タグページはnoindexにするのが正解」——そう信じてあるSEOツールの設定を変えた日から、GPTBotがAI観測ラボに来なくなりました。 Googleのための設定が、AIクローラーを遠ざけていたのです。サーバーログ … 続きを読む
「AIに引用されたい」と思ってサイトを整えているつもりでも、たった1行の設定が抜けているだけで、AIがコンテンツを読めない状態になっていることがあります。 AI観測ラボでは、業種の異なる10サイトのソースコードを実際に開 … 続きを読む
AIクローラーの判定にIPアドレスを使うのは構造的に無理があります。ChatGPT-UserはAzureのIPを毎回変えてアクセスし、Sakana ChatはUAすら持たずフェッチしてきました。実測ログをもとに、User-Agentを主軸にした判定設計が正解である理由を解説します。
一生懸命書いた記事が、Googleに要約されて終わる。 「ゼロクリック問題」として、この現象はすでに広く知られるようになりました。 検索1位を取っても、AI Overviewsが答えをまとめてしまうため、 ユーザーが外部 … 続きを読む
サーバーログを眺めていたら、見慣れないユーザーエージェント(UA)が目に入りました。 「ChatGPT-User」 GPTBotやOAI-SearchBotは以前から観測していましたが、ChatGPT-Userははじめて … 続きを読む
ChatGPTに「〇〇とは?」と聞いたとき、回答の末尾に他のサイトのURLが並ぶことがあります。並んでリスト化したURLが「引用されたページ」です。 引用されたサイトと引用されなかったサイト——両者のコンテンツの質に大差 … 続きを読む