ماهو ملف روبوت Robots.txt وما اهميته؟
باختصار شديد ملف روبوتس Robots.txt هو ملف يقوم بتوجيه روبوتات وعناكب البحث للصفحات المهمة علي موقعك او الصفحات التي سيتم ارشفتها حيث يخبر هذا الملف عناكب البحث بان هذه الصفحات هي الاهم علي موقعك وهي التي سوف يتم ارشفتها, ويبعدهم ايضاً عن الصفحات غير المهمة والتي لايجب علي عناكب البحث ارشفتها واظهارها علي محركات البحث.افضل ملف روبوت robots.txt مخصص
مثال بسيط لملف روبوتس مخصص لمدونات بلوجر:User-agent: Mediapartners-Google
Disallow:
User-agent: *
Sitemap: http://www.arabic-blogger.com/sitemap.xml
Allow: /
شرح ملف روبوتس Robots.txt مخصص
يتكون ملف الروبوت من 3 اجزاء مخصصة سنقوم بشرحها بالتفصيل:-
الجزء الاول: User-agent: Mediapartners-Google
وهو مخصص بشكل اساسي للاعلانات علي مدونتك وتحديداً جوجل ادسنس حيث يتم تحليل مدونتك بعد اضافة هذا الكود لمعرفة محتوي موقعك واضافة اعلانات تتناسب مع محتوي موقعك بشكل افضل.الجزء الثاني: User-agent: *هذا الجزء من الكود مخصص للمنع والسماح بالزحف لملفات معينة داخل محتوي موقعك فمثلاً اذا كنت تريد السماح بارشفة كل محتوي موقعك فسنضيف بعد هذا الامر مباشرة كلمة Allow: / كما هو في ملف الروبوت المرفق في الشرح اما اذا كنت تريد منع الزحف الي عمليات البحث مثلاً داخل موقعك فقم باضافة هذا الامر Disallow: /search.
الجزء الثالث: Sitemapوهو الملف الذي يحتوي علي محتوي موقعك بالكامل بشكل متجدد حيث يتم فحص هذا الملف بشكل مستمر في كل مرة يدخل فيها عناكب البحث علي موقعك في حالة ما اذا قمت باضافة تدوينة جديدة الي موقعك لكي يتم ارشفتها.
إضافة ملف روبوت robots.txt مخصص لمدونات بلوجر
بعد الدخول الي مدونتك علي بلوجر قم بالدخول الي الاعدادات ثم تفضيلات البحث كما هو موضح بالصورة ثم اضغط علي تعديل:قم بادخال الكود الخاص بملف robots.txt بعد نسخه من هنا: ملف روبوت مخصص ولا تنسي استبدال الجزء المظلل في الصورة التالية برابط موقعك ثم اضغط علي حفظ التغيرات بعد الانتهاء.
Tags
عالم التقنية