صفحهها و خزش
خزش یعنی رصد صفحه را میگیرد، محتوا و وضعیت فنیاش را میخواند و با دورهٔ قبلی میسنجد. این صفحه توضیح میدهد چه چیزی ثبت میشود و چه چیزی هنوز قابل دیدن نیست.
کدام صفحهها خزش میشوند
فهرست آدرسهای پایش یکبار، هنگام ساخت سایت، بسته میشود:
| مورد | رفتار |
|---|---|
| آدرس ریشهٔ سایت | همیشه داخل فهرست |
| بقیهٔ فهرست | از نقشهٔ سایت، حداکثر تا سقف نخستین خزش |
| بدون نقشهٔ سایت | فقط آدرس ریشه |
| پیادهروی خودکار سایت | ندارد |
| افزودن آدرس جدید به فهرست | ندارد — بهزودی |
چه چیزی از هر صفحه ثبت میشود
| داده | چه چیزی را میگوید |
|---|---|
| وضعیت HTTP | صفحه سالم است یا خطا داده |
| متن استخراجشده | متن قابلمشاهدهٔ صفحه، پس از حذف نویز چیدمان |
| طول متن | برای مقایسهٔ دورهها و تشخیص تغییر |
| عنوان صفحه | پایهٔ تشخیص «تغییر عنوان» |
| متادیسکریپشن | پایهٔ تشخیص «تغییر متادسکریپشن» |
| لینکهای داخلی | صفحه به کجا لینک میدهد |
| لینکهای خارجی | صفحه به بیرون لینک میدهد |
| زمان خزش | چه زمانی داده گرفته شد |
تشخیص تغییر محتوا
اول یک نگاه کلی: رصد متن نرمالشدهٔ صفحه را اثر انگشتگیری میکند. اگر اثر انگشت با نسخهٔ قبلی یکی باشد، هیچ اتفاقی نمیافتد — نه امتیاز، نه رویداد.
اگر متن عوض شده باشد، امتیاز تغییر از شباهت دو متن حساب میشود: چقدر از واژههای دو نسخه روی هم میافتند. نتیجه از صفر (یکسان) تا یک (کاملاً متفاوت) است و به سه باند میافتد:
| باند | امتیاز | چه معنی دارد | کدی که در ستون «وضعیت تغییر» میبینید |
|---|---|---|---|
| بدون تغییر | زیر ۰٫۱۵ | نوسان جزئی، مثلاً یک کلمه | NO_CHANGE |
| کم | ۰٫۱۵ تا ۰٫۳۵ | ویرایش کوچک | MINOR_CHANGE |
| متوسط | ۰٫۳۵ تا ۰٫۶۰ | بخش قابلتوجهی بازنویسی شده | MODERATE_CHANGE |
| زیاد | ۰٫۶۰ به بالا | صفحه عملاً عوض شده | MAJOR_CHANGE |
چه رویدادهایی ساخته میشوند
برخلاف چیزی که ممکن است انتظار داشته باشید، این رویدادها یکیجا نیستند. هرکدام جداگانه سنجیده میشوند و اگر دو تایشان با هم اتفاق افتاده باشند، دو رویداد ثبت میشود:
| شرط | رویداد |
|---|---|
| صفحه برای نخستین بار دیده میشود | صفحهٔ جدید — و بررسی بقیه متوقف میشود |
| متن دقیقاً یکسان است | هیچ رویدادی |
| عنوان عوض شده | تغییر عنوان صفحه |
| متادسکریپشن عوض شده | تغییر متادسکریپشن |
| امتیاز تغییر از ۰٫۱۵ بیشتر است | تغییر محتوا |
| متن عوض شده ولی هیچکدام از شرطهای بالا نبود | بهروزرسانی صفحه |
خزش دستی
کارت اجرای خزش پایین همین صفحه، اجازه میدهد هر وقت خواستید یک برداشت فوری بگیرید.
| مورد | رفتار |
|---|---|
| هدف | یا پراپرتی خودم، یا سایت رقیب |
| آدرسها | هر خط یک آدرس؛ ویرگول انگلیسی و فارسی هم جداکننده است |
| مقدار پیشفرض | آدرس ریشهٔ سایت شما |
| سقف | ۱ تا ۲۰ آدرس در هر اجرا |
| نقش | عضو و بالاتر |
| پیشنیاز | سایت تأییدشده و پلن دارای قابلیت خزش |
نتیجهٔ هر اجرا در جدولی با سه ستون برمیگردد:
| ستون | چیست |
|---|---|
| نشانی | آدرسی که خزش شد |
| وضعیت تغییر | باند تغییر، یا «بدون تغییر» |
| تغییرات کلمات | تعداد کلمهٔ تغییرکرده در متن |
خزش خودکار
خزش خودکار با فاصلهٔ پلن سازمان شما انجام میشود:
| پلن | فاصلهٔ خزش |
|---|---|
| رایگان | ۲۴ ساعت |
| ترایال | ۱ ساعت |
| پایه | ۶ ساعت |
| حرفهای | ۱ ساعت |
| کامل | ۱۵ دقیقه |
در هر دوره، رصد آدرسهای فهرست پایش را میگیرد. یعنی خزش خودکار دقیقاً همان آدرسهایی را میبیند که در فهرست پایش هستند — نه بیشتر.
چیزی که هنوز نیست
| قابلیت | وضعیت |
|---|---|
| فهرست صفحات خزششده | بهزودی |
| تاریخچهٔ نسخههای هر صفحه | نسخهها ذخیره میشوند، ولی صفحهٔ نمایششان ساخته نشده — بهزودی |
| مقایسهٔ دو نسخه (نمایش تفاوت متن) | بهزودی |
| افزودن یا برداشتن آدرس از فهرست پایش | بهزودی |
| گزارش لینکهای شکسته | ندارد. در لینکها نشانیِ پاسخنامعتبر فهرست میشود، ولی خزش لینک انجام نمیشود |
| نمایش زمان بارگذاری صفحه | ثبت نمیشود |