راهکارهای بهبود بودجه خزیدن (Crawl Budget) برای سایتهای بزرگ
پورتال ابری سامان 360 7 نکته برای بهینه سازی بودجه خزش Crawl Budget در سئو
همانطور که وقتی تعداد فراوانی از کاربران به طور همزمان وارد یک وبسایت میشوند روی عملکرد آن تأثیر میگذارند، خزیدن بیشازحد کراولرهای گوگل نیز میتواند یک مشکل باشد. به همین دلیل گوگل برای هر سایت یک محدودیت خزیدن تعریف میکند و رباتها تعداد معینی از صفحات را به طور همزمان بازدید میکنند؛ نه بیشتر و نه کمتر. خزیدن بیشتر رباتهای گوگل به این معنا نیست که شما رتبۀ بهتری کسب خواهید کرد، اما اگر صفحات شما خزیده و ایندکس نشده باشند بههیچوجه در سرپ گوگل رتبهای نخواهید داشت. در هر حال گوگل خودش تعیین میکند که در هر سایت چند صفحه را بخزد؛ اما به گفتۀ «مت کاتز» در درجه اول این بودجه بر اساس رتبه صفحه تعیین میشود. بودجه خزیدن همچنین تعیین میکند که مهمترین صفحات یک وبسایت چقدر خزیده شوند و هرچندوقتیکبار رباتهای گوگل به صفحه سربزنند.
در صورتی که بخواهید به صورت یک جا تعداد زیادی صفحه به سایت خود اضافه نمایید. به عنوان مثال در شرایطی که برای طراحی مجدد سایت خود از یک متخصص طراحی سایت در مشهد کمک گرفتهاید و میخواهید همه صفحات طراحی شده را مجدد و به صورت یکجا ایندکس کنید، این مشکل به وجود خواهد آمد. Crawl budget یکی از فاکتورهای مهم در سئو است که متخصصین سئو در مشهد به آن اهمیت ویژهای میدهند. هر صفحه از سایت برای دیدن شدن و موثر واقع شدن باید کرال شده و ایندکس شود. حالا که با این آشنا شدیم که موتور جستجو چطور کار میکنه و اصلا خزش چیه، وقتشه که بریم سراغ مفهوم بودجه خزش. بنابراین قبل از هر چیزی تا صفحه و محتوای شما توسط خزندهها، خزش یا کرال (Crawl) نشه، امکان نداره توی صفحات نتایج گوگل رتبه بگیرید.
وقتی میگوییم لینک داخلی چیست، منظورمان پیوندهایی است که بهصورت هدفمند و استراتژیک بین صفحات سایت قرار میگیرند تا ساختار سایت بهینه شود و تجربه کاربری و سئو بهبود یابد. این نکته را نیز به خاطر داشته باشید که در حالی که روباتهای خزنده موتورهای جست و جو دارای ظرفیت خزیدن عظیمی هستند، در پایان روز این ظرفیت محدود میشود. بنابراین در سناریویی که ۸۰ درصد از مراکز داده گوگل به طور همزمان آفلاین میشوند، ظرفیت خزیدن آنها به شدت کاهش مییابد و به نوبه خود بودجه خزیدن تمام وب سایتها کاهش مییابد. پس اینکه در ساعات مختلف روز، ظرفیت خزش سایت شما تغییر کند، ماجرای عجیبی نیست. از فایل robots.txt (فایلی که به رباتهای موتور جستجو میگه کدوم صفحات باید و کدوم نباید خزش بشن) استفاده کن تا احتمال خزش صفحات غیرضروری توسط گوگل رو کم کنی.
هر سایت یه بودجه خزش متفاوت داره که از چندین عامل مختلف تشکیل شده. به پرونده سایت ما نگاه میکنند تا ببینند هر چند وقت یکبار باید به سایت ما سر بزنند. این خزندههای پرتلاش خیلی سرشان شلوغ است و باید به سایتهای مختلفی سر بزنند. اگر یک سایت (مثلا سایت تجاری) با بالای 10k صفحه دارید، گوگل ممکن است در پیدا کردن همه آن صفحات با مشکل مواجه شود. این مدل هاستها در حین شلوغی موجب کاهش کراول سایت شما میشوند.
اگر قرار باشد صفحات جدید در همان روزی که منتشر میشوند، ایندکس شوند، پس بودجه خزش چیزی نیست که لازم باشد مدیران وب سایتها روی آن تمرکز کنند. رباتهای گوگل به صفحاتی که تعداد بسیار زیادی لینک خارجی و داخلی به آنها اشاره دارند اولویت بالایی میدهند. اگر اخیرا یک بخش جدید به سایتتان اضافه کردهاید که دارای صدها صفحه است، باید بدانید آیا به اندازه کافی بودجه خزش دارید که همه آن صفحات به سرعت ایندکس شوند یا خیر. لینکهای شکسته و زنجیره ریدایرکت Redirect Chain بنبست موتورهای جستوجو هستند. مشابه مرورگرها، به نظر میرسد گوگل حداکثر پنج تغییر مسیر را در یک خزیدن دنبال میکند. وقتی به پاسخ این سؤالها برسید، بهراحتی میتوانید بودجه خزش را کنترل و کراولرها را به سمت خزیدن صفحههای مهم سوق دهید.
این سایتها به دلیل تعداد زیاد صفحهای که دارند، باید بتوانند بودجه خزش خود را افزایش دهند تا تمامی صفحات آنها ایندکس شده و دیده شود. درباره SEO و ربات گوگل هم این محدودیت در بررسی کردن و خزش کردن (Crawling) صفحات وب وجود داره. در واقع ربات گوگل نمیتونه همیشه و در هر لحظه تمام صفحات وب رو خزش کنه. در هر ثانیه تعداد بسیار زیادی صفحه جدید در سراسر وب ایجاد میشه و تعداد بسیار زیادی صفحه هم بهروز رسانی میشه. سایتهایی که سرعت بارگذاری صفحات آنها پایین است؛ معمولاًدیرتر ایندکس میشوند. سایتی که سرعت پایین دارد نه تنها برای کاربران خستهکننده است بلکه حتی برای خزندههای گوگل هم آزاردهنده است.
بدون وجود این ربات ها، گوگل قادر نبود محتوای مورد نیاز کاربر رو بهش نشون بده. هزاران سایت در بستر اینترنت وجود دارند که روزانه مطالب جدیدی را منتشر می کنند یا محتواهای قبلی خود را به روزرسانی می کنند. برای اینکه تمام این سایت ها بررسی شده و بهترین موارد برای نمایش به کاربران برگزیده شوند، گوگل نیازمند یک ساختار قدرتمند و عظیم است. خزنده های گوگل در هر روز تعداد زیادی از سایت ها را اسکن می کنند؛ با این حال هنوز هم نمی توانند زمان نامحدودی را برای اسکن یک سایت اختصاص دهند، بلکه برای هر سایت یک بودجه خزش معین وجود دارد. بودجه خزش (Crawl Budget) به تعداد صفحاتی از سایت شما گفته می شود که در هر روز توسط خزنده ها بررسی می شوند.
مثالی که ما در انتهای این مقاله خواهیم زد، یک مورد واقعی از آسیب دیدن SEO به دلیل هدر رفتن بودجه خزش هست. اگر صفحات فصلی وب سایت خود را ارتقاء می دهید، ابتدا این صفحات را بهینه سازی کنید. گزارشات ارائه شده توسط چگالی خزش ها نشان می دهند که کدام صفحات سایت شما مزایای بیشتری را از این بهینه سازی ها دریافت می کنند. تا زمانی که شما به ربات ها دستور توقف ندهید، آن ها لینک های مورد نظر را دنبال می کنند. از لینک های nofollow به خوبی استفاده کنید و محدودیت هایی را در فایل robots.txt خود اعمال کنید تا ربات ها را نسبت به محدودیت هایشان مطلع سازید. انجام این اقدامات تا حدی چگالی خزش شما را برای صفحات با اهمیت سایت، آزاد می کند.
اگر آنها در مورد صفحات اطلاعاتی نداشته باشند، آنها را نمی خزند و ایندکس نمی کنند. بنابراین توقع اینکه صفحات شما رتبه خوبی بگیرند یا اینکه بازدیدکنندگان زیادی به این صفحات مراجعه کنند، دور از ذهن است. اینا مشکلاتی مثل لینکهای خراب، ویژگیهای nofollow روی لینکهای داخلی و لینکهای بدون متن انکر رو پوشش میدن. اگه نیاز داری صفحات سریعتر خزش بشن، بررسی کن ببین واجد شرایط استفاده از API ایندکس گوگل هستی یا نه. در حال حاضر این فقط برای چند مورد خاص مثل پستهای شغلی یا ویدیوهای زنده در دسترسه.
این میزان می تواند به طور روزانه تغییر کند، اما در کل به عنوان یک فاکتور نسبتا پایدار شناخته می شود. تکرار محتوا دلیل دیگری است که باعث گیر کردن رباتهای خزنده هنگام بررسی سایت شما میشود. اساساً، ساختار کدگذاری شما آنها را گیج کرده است و نمیدانند کدام نسخه را ایندکس کنند. این ممکن است به دلیل مواردی مانند شناسههای جلسه، عناصر تکراری محتوا و مشکلات صفحه بندی ایجاد شود. این کار به ایندکس شدن کمک میکند زیرا به گوگل اجازه میدهد تا همزمان از چندین صفحه مطلع شود.
در نظر داشته باشید امکان دارد وقتی تگ نوایندکس را بردارید باز هم گوگل تا ماهها به صفحه سرنزند. این یه مثال خوبه که چرا ما باید با مفهوم Crawl Budget (کراول باجت) آشنا باشیم و بهش توجه کنیم. چون مفهوم بودجه و بودجه بندی جایی معنی پیدا میکنه که محدودیتی در منابع وجود داشته باشه. وگرنه اصلا چه نیازی به بودجه بندی هست؟ مثلا وقتی میخوایم منابع مالی شرکت رو به واحدهای مختلف تخصیص بدیم، به دلیل محدودیتی که در منابع مالی داریم، لازمه بودجه بندی کنیم. اگر به هر یک از این سوالات پاسخ مثبت دهید، می توانید چگالی خزش این منابع را با عدم پیمایش توسط ربات ها آزاد کنید.
هر روز نه تنها هزاران صفحه به صفحات موجود در وب اضافه میشود بلکه هزاران سایت جدید هم متولد میشوند که هرکدام روزانه چندین صفحه به وب اضافه میکنند. انواع وبسایتهای بزرگی که بیشتر در معرض خطر تمام شدن بودجه خزش هستند، معمولاً دههاهزار صفحه فرود دارند؛ بهویژه وبسایتهای بزرگ تجارت الکترونیک و فرشگاههای آنلاین. چند دلیل وجود دارد که چرا باید سایتهای تجارت الکترونیک و آنلاینشاپهای بزرگ توجه بیشتری به محدودیت خزش داشته باشند که در ادامه آنها را بررسی میکنیم. برای درک بهتر مفهوم «ذخیره بودجه خزیدن» باید بدانید که هر وبسایت بسته به اعتبار، اهمیت، فراوانی بهروزرسانی و تعداد صفحاتش کراول باجت مشخص دارد. اگر وبسایت شما صفحاتی با خطای 404 (صفحۀ حذفشده) دارد، باید بدانید که بخشی از بودجه شما صرف کاوش در این صفحات میشود.
همانطور که گفتیم وظیفه خزنده ها، کراول کردن صفحات سایت و ایندکس کردن موارد مفید است. برای این کار یک ربات لیستی از URLهای سایت را دریافت می کند و مطابق آن عمل می کند. این خزنده ها با مشاهده نقشه سایت و بک لینک ها تصمیم می گیرند که در گام بعدی چه صفحاتی را اسکن کنند. با استفاده استراتژیک از IndexNow، میتوانید قابلیت خزش و ایندکس شدن سایت خود را افزایش دهید. گاهی اوقات، این مشکل باعث ایجاد اخطار در کنسول جستجوی گوگل میشود و به شما اطلاع میدهد که گوگل با تعداد بیشتری از URLها مواجه شده است تا آنچه انتظار داشت.
افزایش کراول باجت یا بودجه خزش سایت، یکی از مفاهیم مهم و اصلی در سئوی سایت است که موتورهای جست و جو برای بررسی و ارزیابی صفحات یک وب از آن استفاده میکنند. این بودجه میزان دسترسی موتورهای جست و جو به محتوای یک سایت را نشان میدهد و نقش قابل توجهی در رتبه بندی سئوی سایت شما دارد. یکی از اصلیترین و مهمترین تکنیکهای سئوی سایت، استفاده از لینک دهی داخلی است. برای اینکه خزندههای گوگل به راحتی در صفحات شما چرخش داشته باشند، بهتر است لینکدهی درستی داشته باشید. هنگامی که صفحات به واسطه لینکها به هم متصل میشوند، مثل یک شبکه پیوسته عمل میکنند تا خزندهها راحتتر بتوانند در بین صفحات چرخش داشته باشند. فرایند لینک سازی داخلی هم باید طبق یک برنامه ریزی اصولی و درست انجام گردد.
حالت ایدهآل لینکسازی این است که همه صفحات سایت شما، لینکهای خارجی ارزشمندی داشته باشند و رباتهای گوگل را به سمت سایت شما هدایت کنند اما در واقعیت این اتفاق نمیافتد. معمولا فقط تعدادی از صفحات مهم سایت لینکهای خارجی خوبی میگیرند. اینجاست که لینکسازی داخلی بهکار میآید و میتواند رباتهای گوگل را به سمت چنین صفحاتی هدایت کند. آدرسهای اینترنتی محبوب تقاضای خزیدن بیشتری دارند؛ چراکه گوگل میخواهد جدیدترین محتوا را در اختیار کاربران قرار دهد. بودجه خزیدن وبسایت میتواند نوسان داشته باشد و به طور قطع ثابت نیست. اگر سرعت سایت خود را بهبود ببخشید، رباتهای گوگل ممکن است بیشتر در سایت شما بخزند و محتوای بهروزشده یا جدید را بررسی کنند.
سوال بعدی که باید به آن پاسخ دهیم این است که ربات ها کدام URLها را کراول یا اسکن می کنند؟ مهم ترین راهی که خزنده های گوگل از طریق آن به صفحات یک سایت دسترسی پیدا می کنند، نقشه xml سایت است. علاوه بر این پیوندهای داخلی یا خارجی نیز ربات ها را به سایت شما هدایت می کنند؛ به همین خاطر همواره توصیه می شود نقشه سایت را به طور مرتب چک کنید تا از سالم بودن URLها مطمئن شوید. اگر لینک داخلی شما ضعیف باشد، ممکن است با صفحات یتیم یا صفحاتی که به هیچ قسمت دیگری از وبسایت شما لینک نمیشوند، مواجه شوید. از آنجایی که هیچ چیزی به این صفحات هدایت نمیشود، موتورهای جستجو فقط میتوانند آنها را از طریق نقشه سایت شما پیدا کنند. برای از بین بردن این مشکل و سایر مشکلات ناشی از ساختار ضعیف، یک ساختار داخلی منطقی برای سایت خود ایجاد کنید. اگر شما هم به چنین موضوعی باور دارید، باید بگوییم که کاملاً در اشتباه هستید.
اگر در انتها عددی که به دست می آورید بیشتر از ۱۰ باشد، به این معناست که ربات های گوگل می توانند روزانه تنها یک دهم از صفحات شما را اسکن کنند. اگر عددی که به دست آوردید کمتر از ۳ باشد جای نگرانی نیست و بودجه خزش سایت شما نسبتا مطلوب است. بودجه خزش به تعداد صفحاتی اشاره دارد که موتورهای جست و جو در بازه زمانی مشخصی میخزند. به صورت معمول وبسایتها نباید با مشکلات چندانی در زمینه بودجه خزش رو به رو شوند. اما اگر وبسایت شما تعداد صفحات بسیار زیادی دارد یا اینکه با مشکلات زیادی مانند لینکهای شکسته، سرعت بارگذاری پایین، سایتمپ نادرست و … مواجه است، احتمالا با محدودیت خزش مواجه خواهید شد. لینکهای شکسته باعث هدر رفتن بودجه خزش میشن، چون رباتهای موتور جستجو همچنان سعی میکنن این صفحات رو خزش کنن.
در نتیجه با گوگل به این توافق رسیدهاند که برای هر سایت یک «بودجه خزش» تعریف کنند. به همین دلیل است که در بخش قبلی گفتیم، بودجه خزش به شرح وظایف رباتهای گوگل گره خورده است. روشن است که محتوای تکراری میتواند برای کراول باجت سایت مضر باشد. استفاده زیاد و مناسب ( نه اسپم) از لینک داخلی و نیز خارجی سبب افزایش کراول باجت می شود. صفحات با محتوای بسیار کم یا بهاصطلاح محتوای نازک (محتوای کمتر از 200 کلمه) برای موتورهای جستوجو جذاب نیستند. این صفحهها را به حداقل برسانید یا در صورت امکان به طور کامل آنها را حذف کنید.
همانطور که میدانید منابع نامحدود موتورهای جستجو، سبب شده است که توجه و تمرکز این موتورها بین میلیونها وب سایت تقسیم شود. این موضوع سبب شد که به دنبال راه حلی باشیم که میزان خزش را اولویت بندی کنیم. به عنوان مثال crawl budget یک سایت میتواند به اندازه 10 صفحه در هر روز باشد. این بدان معناست که در هر روز تنها 10 صفحه از این سایت کرال خواهند شد. به همین جهت بهتر است که با crawl budget آشنایی پیدا کنید و روشهای افزایش آن را بیاموزید تا بتوانید تمامی صفحات خود را ایندکس کنید. از طرف دیگه، بیاطلاع بودن از بودجه خزش میتونه باعث آسیب دیدن سئوی سایت بشه.
این گزارشها بهت کمک میکنن تغییرات در رفتار خزش، مشکلات خزش و اطلاعات بیشتری درباره چگونگی خزش گوگل روی سایتت رو شناسایی کنی. راهکار این است که برای این صفحات، یک صفحه را به عنوان کنونیکال انتخاب کنیم که رباتها بدانند ما میخواهیم کدام صفحه ایندکس شود. برای توسعه اطلاعاتتان درباره کنونیکال کردن یک صفحه، پیشنهاد میکنیم مقاله «تگ کنونیکال» را در اولین فرصت مطالعه کنید. به همین خاطر است که باید از یک ساختار سایت مسطح برای سایتتان استفاده کنید. بله، در نگاه ایدهآلگرایانه شما بکلینکهایی دریافت خواهید کرد که به هر کدام از صفحات سایت شما اشاره دارد.
توجه به این نکته بسیار ضروری است که اگر ایندکس صفحهای توسط گوگل انجام نشود، یعنی اینکه آن صفحه اصلاً وجود ندارد! در نتیجه در صورتی که تعداد صفحات بیشتر از کراول باجت باشد، برخی صفحات ایندکس نمیشود و در نهایت دیده نخواهند شد. مهمترین این عوامل شامل اندازه سایت، خطاهای سایت، سرعت بارگیری صفحات، محتواهای تکراری و بیکیفیت، صفحات هک شده و همچنین تعداد لینکهایی که سایت شما دریافت کرده، میشود. برای مثال پیدا شدن لینکهایی که به صفحه جدید اشاره دارند، خزندههای گوگل را به سمت آن هدایت میکند. همچنین اگر کسی صفحه جدید را توییت کند یا اگر آدرس صفحه در سایت مپ سایت وارد شود، صفحه موردنظر را در اولویت بالاتری برای خزش قرار میدهد. حقیقت آن است که نمیتوان لیست دقیق و کاملی از عواملی که بر تصمیم گوگل برای خزش یک سایت تاثیر دارند، تهیه کرد.
به صورت کلی هر صفحه بارها و بارها در زمانهای مختلف خزیده میشود. با اینحال، میزان خزیدن صفحات بر اساس معیاری به نام بودجه خزش تعیین میشود. نگهداشتن لینکهای ریدایرکت شده توی سایت میتونه کمی روی بودجه خزش تاثیر بذاره. معمولاً این صفحات اولویت پایینی دارن چون احتمالاً تغییر خاصی نکردن، ولی پاک کردن این مشکلات برای نگهداری کلی سایت خوبه و به بودجه خزش هم کمک میکنه. گوگل وقتی صفحات رو خزش میکنه، منابع رو دانلود و بعدش پردازش میکنه.
Crawl Budget یا بودجه خزش، تعداد صفحاتی هست که گوگل تو یه بازه زمانی مشخص تو سایتت خزش میکنه. این مفهوم برای سئو خیلی مهمه، چون اگه صفحات سایتت مرتب خزش نشن، ممکنه تو نتایج جستجو نمایش داده نشن و ترافیک ارگانیک سایتت کم بشه. مهمترین نکتهای که در این رابطه باید بدانید این است که هاست، قلب اصلی وب سایت شماست و شما باید وب سایتی را داشته باشید که کم ترین میزان خطا و ارور را داشته باشد. بسیاری از هاستها در طول استفاده دچار آسیب و مشکلات متعددی میشوند که ممکن است سایت شما را از دسترس خارج کنند. اینجاست که با هدر رفتن کراول باجت یا بودجه خزش سایت مواجه میشوید. چالش دیگر در تأثیرگذاری روی بودجه خزیدن این است که گوگل در هر زمان امکان دارد باجت خود را افزایش یا کاهش دهد.
محتوای بسیاری از سایتها، بلافاصله پس از انتشار، کراول و ایندکس میشود. مخصوصاً اگر تعداد صفحات کم باشد، سرعت بیشتر خواهد بود؛ اما برای سایتهای بزرگ که صفحات زیاد دارند، اینکه چه زمانی صفحات کراول شوند، از اهمیت بالایی برخوردار است. یکی دیگر از مواردی که در افزایش crawl budget اهمیت دارد، نو ایندکس کردن صفحاتی است که نیاز به دریافت ورودی ندارد. شما میتوانید با noindex کردن این صفحات از کرال شدن بیهوده آنها جلوگیری کرده و بودجه خزش را به صفحات مهم سایت اختصاص دهید. گوگل برای اینکه بتونه بهترین نتایج رو به کاربرانی که جستجو میکنند نمایش بده، باید این صفحات رو بررسی کرده باشه.
کراولرها گاهی اوقات فایل robots.txt شما را میبینند تا مطمئن شوند همچنان اجازه دارند هر یوآرالی را بخزند. سپس آنها هر آدرسی را که در فهرست وجود دارد به صورت جداگانه میخزند. هنگامی که کراولر یک صفحه را میخزد و محتویات آن را تجزیه میکند،URL های جدیدی را که در آن صفحه یافت میشود به فهرست اضافه میکند تا آنها را نیز بررسی کند. در این مقاله از مجله پیام آوران پارسیان به شما کمک میکنیم تا مفهوم بودجه خزش Crawl Budget برای سئو را درک کنید. همچنین با تعریفی از خزنده یا کراولر به شما میگوییم که نحوۀ عملکرد رباتهای گوگل چگونه است. بدیهی است که هر کسی تقریباً می تواند این کار را به طور دستی انجام دهد.
کنونیکالها میتوانند راه مفیدی برای گفتن به گوگل باشند که کدام صفحات را ایندکس کند و صفحات تکراری و قدیمی را نادیده بگیرد. بهترین توصیه کارشناسان سئو این است که که روی بهبود کیفیت صفحات خود تمرکز کنید (افزودن اطلاعات مفیدتر، غنیسازی محتوای صفحات و سایر اقدامات مفید). پس از این اقدامات به صورت معمول صفحات شما باید بیشتر خزیده شوند. برای دیدن اینکه آیا سایتت مشکل محتوای تکراری داره، به تب “Issues” در Site Audit برو. برای شناسایی لینکهای شکسته سایتت، به تب “Issues” در Site Audit برو و کلمه “broken” رو توی نوار جستجو وارد کن. اینجا یه تفکیک از سرعت بارگذاری صفحاتت و میانگین سرعت بارگذاری هر صفحه رو میبینی.
لینک بیلدینگ در سئو خارجی روشی بسیار عالی برای افزایش بودجه خزیدن شما است و باید یک استراتژی مناسب برای آن بچینید. بودجه خزش (Crawl Budget) تعداد صفحات از سایت شما است که گوگل در یک بازه زمانی خاص آن را ایندکس می کند. گوگل ممکن است طی روز 10 صفحه یا 10 هزار صفحه را بخرد و ایندکس کند. در صورتی که تعداد صفحات سایت بیش از ده هزار باشد، باید Crawl Budget را بهینه کنید. ما توی این مقاله از میزفا سعی کردیم دید خیلی روشنی از بودجه خزش و اهمیتی که داره بهتون بدیم. یه مثال واقعی هم زدیم براتون تا مشخصتر بدونید که عدم بهینه سازی بودجه خزش میتونه چه مشکلاتی به بار بیاره.
خرید دوره آموزش سئو کلاه خاکستری