لو كان موقعك يريد الظهور في إجابات البحث بالذكاء الاصطناعي، راجع سياسة الزحف قبل مراجعة العناوين.
توضح وثائق OpenAI أن OAI-SearchBot يُستخدم لعرض المواقع داخل ميزات البحث في ChatGPT، وأن حظره قد يمنع ظهور الموقع في إجابات البحث هناك. وفي نفس الوقت تؤكد Google أن ميزات AI Overviews وAI Mode تعتمد على صفحات قابلة للفهرسة ومحتوى واضح داخل Search. لذلك لم يعد robots.txt ملفًا تقنيًا منسيًا؛ بل جزء من قرار الظهور.
ما الفرق المهم؟
ليس كل بوت ذكاء اصطناعي له نفس الغرض. OAI-SearchBot مرتبط بظهور الروابط داخل ChatGPT Search، بينما GPTBot له غرض مختلف ضمن منظومة OpenAI. الخلط بينهما قد يؤدي إلى حظر غير مقصود لقناة اكتشاف جديدة.
على جانب Google، لا توجد وصفة منفصلة باسم AEO أو GEO تكفي وحدها. الصفحة يجب أن تكون قابلة للفهرسة، مفيدة، واضحة، ومؤهلة للظهور بمقتطف عادي في البحث قبل التفكير في ميزات الذكاء الاصطناعي.
ماذا تراجع في موقعك؟
ابدأ بملف robots.txt: هل يمنع مجلدات المقالات أو صفحات الخدمة؟ هل توجد قواعد عامة تحظر بوتات لا تريد حظرها؟ ثم راجع noindex وcanonical وملفات sitemap.
بعد ذلك اختبر عينة من الصفحات المهمة: هل تحمل محتوى فريدًا؟ هل تشرح العرض أو الخدمة بوضوح؟ هل تحتوي بيانات محلية أو صور أو أسئلة شائعة تفيد الباحث؟
Checklist سريع
- افصل قواعد OAI-SearchBot عن قواعد GPTBot حسب قرارك التجاري.
- تأكد أن Googlebot لا يواجه منعًا غير مقصود في الصفحات المهمة.
- راجع noindex وcanonical قبل الحكم على ضعف الظهور.
- حدّث sitemap بعد نشر الصفحات الجديدة أو تعديلها.
- اكتب محتوى يخدم سؤال العميل بدل تكرار كلمة مفتاحية فقط.
- راقب زيارات البحث والتحويلات، وليس الانطباعات وحدها.
أين تخطئ الشركات؟
الخطأ الشائع هو نسخ قواعد جاهزة لحظر كل بوتات الذكاء الاصطناعي دون فهم أثرها. هذا قد يكون قرارًا صحيحًا لبعض الناشرين، لكنه ليس قرارًا آمنًا لكل شركة خدمات أو متجر يريد الظهور في البحث الحديث.
الأفضل هو سياسة واضحة: ماذا نسمح؟ ماذا نمنع؟ ولماذا؟ ثم اختبار فني دوري بدل ترك القرار لملف قديم كتبه شخص منذ سنوات.
المصادر
- OpenAI: Overview of OpenAI Crawlers.
- Google Search Central: Optimizing for generative AI features.
- Google Search Central Blog: AI optimization resource.
هل سياسة الزحف عندك تخدم الظهور؟
نراجع robots.txt والفهرسة والمحتوى الأساسي حتى لا تخسر قنوات بحث مهمة بسبب قاعدة قديمة.
اطلب مراجعة الموقع