GPTBotより先に、ChatGPT-Userが来ていた—国別データとログで見えた意外な現実
GPTBotをブロックしてもChatGPT-Userは毎日来ていました。AI観測ラボの7日間64件のログと国別データで判明した、日本サイトのAIクローラーの盲点を解説します。
GPTBotをブロックしてもChatGPT-Userは毎日来ていました。AI観測ラボの7日間64件のログと国別データで判明した、日本サイトのAIクローラーの盲点を解説します。
SPA・llms.txt・SNSは効かない?AIに引用されない原因を86,000件のログと10の実測で解明。「読まれる前」「読まれた後」の2つの壁を一次データで整理します。
AI観測ラボは、サイトがAIに読まれやすい状態かをスコアで診断し、AIクローラーの訪問をリアルタイムで観測する無料ツールです。robots.txt・llms.txt・構造化データなど8項目を自動チェック。トラッキングコードを設置すれば、GPTBotやClaudeBotがいつどのページを訪問したかを観測ダッシュボードで確認できます。
Google-Agentが3/20追加。ログで拾えるAIエージェント4種と、Chromeに偽装する3種の違いを特定した。
サーバーログに記録されるfacebookexternalhitの正体を実測データで解説。7日間92件の訪問記録から、Xへの投稿をきっかけにMetaのクローラーがOGPを取得しに来る仕組みと、robots.txtでの制御方法をまとめました。
GoogleのAIエージェント専用フェッチャー「Google-Agent」の仕組みをサーバーログの視点で整理。Googlebot・ChatGPT-Userとの違いも解説します。
OAI-SearchBotはChatGPT Search専用のクローラーで、AIモデルの学習には使われません。GPTBot・ChatGPT-Userとの違いをサーバーログの実測データをもとに整理しました。robots.txtの設定方法もコピペOKで解説します。
TikTok親会社ByteDanceが運営するAIクローラー「ByteSpider」をサーバーログで実測。全期間1,018件のアクセスを確認し、CSSや画像まで取得する他のAIクローラーにない挙動を解説します。
タグページをnoindexにしたらGPTBotが来なくなった。AI観測ラボのサーバーログで確認した実測データをもとに、noindex・nofollow・robots.txtがAIクローラーにどう効くのかを整理します。
ChatGPT AgentはJSを実行しGA4にイベントが届きます。UAはChrome偽装で識別不能。実測ログと対策まで解説。