ملف جديد لن يصلح صفحة لا يراها Googlebot أو لا تقدم إجابة مفيدة.
في دليل Google المحدث عن تحسين المواقع لميزات الذكاء الاصطناعي في البحث، الرسالة العملية واضحة: لا توجد ملفات خاصة أو schema خاص مطلوب للظهور في AI Overviews أو AI Mode. Google تقول إن llms.txt أو أي ملف مشابه لا يساعد ولا يضر ترتيب Google Search، لأن الأساس ما زال هو الزحف، الفهرسة، جودة المحتوى، وتجربة الصفحة.
أين يقع سوء الفهم؟
بعض الفرق تتعامل مع AI Search كأنه قناة منفصلة تحتاج ملفًا سحريًا. هذا يشتت الوقت عن الأساسيات: robots.txt، canonical، النص الظاهر، الروابط الداخلية، وسرعة الصفحة.
وجود llms.txt قد يكون مفيدًا لخدمات أخرى لو كانت تستخدمه فعلًا، لكنه ليس شرطًا لظهور صفحاتك في Google Search أو ميزاته التوليدية.
ما الفرق مع OpenAI؟
توثيق OpenAI يوضح أن OAI-SearchBot مخصص للبحث داخل ChatGPT، بينما GPTBot مرتبط بجمع بيانات قد تستخدم في تحسين النماذج. لذلك يجب الفصل بين سياسة الظهور في البحث وسياسة التدريب بدل استخدام منع شامل غير محسوب.
كذلك ChatGPT-User يعمل عند طلب المستخدم زيارة صفحة معينة، ولا يستخدم لتحديد ظهور المحتوى في Search. هذه التفاصيل تجعل robots.txt قرار حوكمة لا مجرد قالب ينسخ من موقع آخر.
Checklist عملي
- تأكد أن الصفحات المهمة indexable ولها snippet مسموح.
- راجع robots.txt للتمييز بين Googlebot وOAI-SearchBot وGPTBot.
- لا تعتمد على llms.txt كبديل عن HTML واضح وروابط داخلية.
- اجعل المحتوى المهم نصًا ظاهرًا لا صورة فقط.
- طابق structured data مع النص الظاهر فقط.
- سجل سبب كل منع أو سماح في crawler policy.
كيف تقيس الأثر؟
في Google، راقب Search Console وتقارير الأداء المرتبطة بميزات الذكاء الاصطناعي عندما تكون متاحة في حسابك. في ChatGPT Search، راقب server logs وطلبات OAI-SearchBot مع الحفاظ على حدود الخصوصية.
الأهم أن تربط القياس بالتحويلات والوقت داخل الصفحة، لا بمجرد ظهور اسم crawler في السجلات.
أسئلة شائعة
هل llms.txt ممنوع؟ لا، لكنه ليس عامل ظهور في Google Search.
هل أمنع GPTBot وأسمح لـ OAI-SearchBot؟ هذا قرار سياسة محتوى؛ يمكن الفصل بين الاثنين حسب هدفك.
هل أحتاج schema جديد للذكاء الاصطناعي؟ لا. استخدم schema صحيحًا عندما يصف محتوى ظاهرًا.
المصادر
- Google Search Central: Optimizing your website for generative AI features.
- Google Search Central: AI features and your website.
- OpenAI: Overview of OpenAI Crawlers.
- Google Search Central: robots.txt introduction.
هل سياسة الزحف عندك تخدم الظهور بدل أن تربكه؟
نراجع robots.txt والفهرسة ومحاور المحتوى حتى تكون قرارات AI Search واضحة ومقاسة.
اطلب مراجعة الموقع