AIクローラーは記事より先に運営者情報を読む?llms.txt・trust.txtの巡回ログを実測
AIクローラーは記事本文だけでなく、運営者情報・llms.txt・trust.txt・security.txtのようなサイト説明ファイルも確認している可能性があります。2026年5月13日のサーバーログをもとに、GPTBot・PerplexityBot・Bingbotの巡回パターンを実測データで整理します。
AIクローラーは記事本文だけでなく、運営者情報・llms.txt・trust.txt・security.txtのようなサイト説明ファイルも確認している可能性があります。2026年5月13日のサーバーログをもとに、GPTBot・PerplexityBot・Bingbotの巡回パターンを実測データで整理します。
AI Overviewが表示される検索結果では、順位があってもクリックされないことがあります。Google・Yahoo・Bingの3媒体で実測し、自サイトが引用されなかった理由とCTR0%の構造を整理します。
ClaudeBotが7日間でどう動いたかをサーバーログで実測しました。robots.txt→sitemap_index.xmlの定期確認、存在しないsitemap.xmlへの404ループ、llms.txt取得後の記事クロール開始など、ログから見えた4つの行動パターンと3つの対策を整理します。
GA4でAIエージェントと人間は判別できるのか。AI Assistantが少なくても、ChatGPT Agentのようなブラウザ型AIが人間の訪問に見える理由を実測ログから整理します。
日本企業はChatGPT広告をAds Managerから出稿できるのか。実際にads.openai.comで登録を試したところ、Japan・JPYの画面までは進めたものの、最後に「Ads Managerはまだ利用できません」と表示されました。
2026年5月下旬以降に観測され始めたGPTBot/1.4。4月のGPTBot/1.2と比べ、llms.txt取得、sitemap確認、自己紹介系ページ読取、noindexページ通過など、実測ログで見えた4つの行動を整理します。
SiriはWebサイトをどう見ているのか。Apple公式情報をもとに、SiriとApplebotの関係、Apple Intelligenceとの違い、サイト運営者が確認すべきApplebot対策を整理します。
Webページの「読者」は人間だけではなくなりました。AIクローラーが巡回し、GoogleのInformation Agentsがユーザーの代わりに情報を探す時代へ。サーバーログと海外情報から変化を整理します。
2026年4月以降、AI観測ラボのアクセスログに記録されたAranet-SearchBot。運営主体・目的ともに不明のまま、Google Cloud由来のIPからAIクローラー関連記事を巡回していた。確認できたことと確認できなかったことを実ログで記録します。
ShapBotとは、Parallel Web Systemsが運営するAIクローラーです。Gemini EnterpriseのWebグラウンディングとの関係や、robots.txtで許可・拒否する方法を解説します。