検索エンジンはURLをどうクロールするか:技術概要

5 分で読了

検索エンジンがサイトをどうクロールするかを理解すれば、効率よくインデックスされるURL構造を設計できます。

クロールのプロセス

  1. 発見: Googlebotはサイトマップ、内部リンク、外部被リンクを通じてURLを見つけます
  2. クロール: Googlebotがページコンテンツ(HTML、CSS、JS)を取得します
  3. レンダリング: JavaScriptを実行して最終的なDOMを得ます
  4. インデックス: コンテンツが処理され、インデックスに追加されます

クロールバジェット

Googleはサイトごとにクロールバジェット — 一定期間にクロールするページ数 — を割り当てます。クリーンなURL構造と適切なサイトマップが、このバジェットを最大化します。

クリーンなURLを生成

URLスラッグジェネレーターでクリーンでクロールしやすいURLを生成しましょう。