誰かがChatGPTにURLを貼った—サーバーログで見えた正体【AI実験室 #11】
サーバーログを眺めていたら、見慣れないユーザーエージェント(UA)が目に入りました。 「ChatGPT-User」 GPTBotやOAI-SearchBotは以前から観測していましたが、ChatGPT-Userははじめて … 続きを読む
サーバーログを眺めていたら、見慣れないユーザーエージェント(UA)が目に入りました。 「ChatGPT-User」 GPTBotやOAI-SearchBotは以前から観測していましたが、ChatGPT-Userははじめて … 続きを読む
ChatGPTに「〇〇とは?」と聞いたとき、回答の末尾に他のサイトのURLが並ぶことがあります。並んでリスト化したURLが「引用されたページ」です。 引用されたサイトと引用されなかったサイト——両者のコンテンツの質に大差 … 続きを読む
サーバーログを眺めていたら、見慣れないアクセスが目に入りました。 HTMLページを取得した直後に、同じコンテンツのREST APIエンドポイントを叩いているクローラーがいます。しかも毎回403(アクセス拒否)で弾かれてい … 続きを読む
あなたのサイトにもrobots.txtは設置してあるはずです。 でも、なぜそのファイルが存在するのか。誰がいつ作ったのか。知っている人はほとんどいません。 1994年、一人のエンジニアがメーリングリストに投稿した提案が起 … 続きを読む
AIクローラーは、毎日あなたのサイトに来ています。 サーバーログを開けば、ClaudeBotやGPTBotといった名前がずらりと並んでいます。「ちゃんと来ているな」と安心したくなる気持ちはわかります。でも、来ていることと … 続きを読む
広告を改善しているのに成果が落ちるのはなぜか。AI Overview導入後、Google広告のCTRは最大68%低下。ユーザーがAIで意思決定を終える新しい構造を解説します。
AIに引用されているサイトと、されていないサイト。何が違うのか気になりませんか。 コンテンツの質だけじゃないんです。実は「AIに読んでもらうための設定」が、そもそもできていないサイトが多い。 robots.txtの書き方 … 続きを読む
「AIクローラーをブロックしたい」と思って検索した人へ。robots.txtを書く前に、一度立ち止まって考えてほしいことがあります。 2026年現在、AIクローラーを拒否する方法を解説した記事はたくさんあります。でも「拒 … 続きを読む
サーバーログを見て、驚いた。 クローラーが404を踏み続けていた。しかも1回や2回ではない。同じURLを何度も繰り返し叩いて、そのたびに404を返されている。 404といえば「ページが見つからない」というエラーです。人間 … 続きを読む
AI検索の仕組みをサーバーログの実測データで解説します。直近7日間でAIクローラーが約1,750件訪問したブログで、なぜ「AI検索とは」のページだけ読まれなかったのか。サイト運営者・マーケターが知るべき「引用される設計」を具体的に紹介します。