検索エンジンはURLをどうクロールするか:技術概要
5 分で読了
検索エンジンがサイトをどうクロールするかを理解すれば、効率よくインデックスされるURL構造を設計できます。
クロールのプロセス
- 発見: Googlebotはサイトマップ、内部リンク、外部被リンクを通じてURLを見つけます
- クロール: Googlebotがページコンテンツ(HTML、CSS、JS)を取得します
- レンダリング: JavaScriptを実行して最終的なDOMを得ます
- インデックス: コンテンツが処理され、インデックスに追加されます
クロールバジェット
Googleはサイトごとにクロールバジェット — 一定期間にクロールするページ数 — を割り当てます。クリーンなURL構造と適切なサイトマップが、このバジェットを最大化します。
クリーンなURLを生成
URLスラッグジェネレーターでクリーンでクロールしやすいURLを生成しましょう。