Önemli yolları test edin
Şablonları, varlıkları, yönetici alanlarını, parametreleri ve kanonik içeriği ayrı ayrı denetleyin.
Robots.txt kurallarını getirin veya yapıştırın ve tarayıcının bir URL yoluna erişimini test edin.
Robots.txt, indekslemeyi garanti etmez, taramayı kontrol eder. Seçilen tarayıcı için belirli izin verme ve izin vermeme kuralları değerlendirilir.
Şablonları, varlıkları, yönetici alanlarını, parametreleri ve kanonik içeriği ayrı ayrı denetleyin.
Aşırı geniş izin vermeme kuralları, önemli sayfaları veya oluşturma varlıklarını taramadan kaldırabilir.
Bir robot bloğu, tarayıcıların sayfa düzeyinde bir noindex yönergesini görmesini engelleyebilir.
Üç basit adımda güvenilir bir sonuç elde edin.
Bir alan adından robots.txt dosyasını alın veya dosya içeriğini yapıştırın.
Önemsediğiniz URL yolunu ve kullanıcı aracısını test edin.
En spesifik eşleştirme kuralının taramaya izin verip vermediğini veya taramayı engelleyip engellemediğini görün.
Odaklanmış kontroller, anında geri bildirim ve sizinle sonuç arasında hiçbir hesap yok.
Googlebot, Bingbot ve yaygın AI tarayıcılarını karşılaştırın.
Yayınlamadan önce canlı bir dosyayı veya taslağı denetleyin.
Tam olarak hangi izin verme veya reddetme satırının sonuca karar verdiğini görün.
Bir robots.txt dosyası, tarayıcılara hangi yolları isteyebileceklerini bildirir. Taramayı kontrol eder, indekslemeyi garanti etmez ve farklı kullanıcı aracıları farklı kurallar alabilir.
Allow ve disallow yönergeleri yol uzunluğuna ve özgüllüğüne göre eşleştirilir. Robots.txt dosyasındaki bir sayfayı engellemek, tarayıcıların o sayfada daha sonra noindex etiketini görmesini de engelleyebilir.
URL yollarına tarama erişimi
Zaten dizine eklenmiş bir URL'yi güvenilir bir şekilde kaldırmaz
Getirilen bir sayfanın indekslenmesi
Tarayıcının sayfayı görmesi için istekte bulunmasına izin verilmelidir
Özel kullanıcı içeriği
Gerçekten gizli sayfalar için robots.txt'den daha güçlü
Yinelenen URL seçimi
Robot kurallarını tamamlayın; onların yerini almazlar
Ortak yollar Robots.txt Test Aracı gerçek projelere ve günlük görevlere uyar.
Önemli şablonların taranabilir durumda kaldığını doğrulayın.
Özel veya parametre ağırlıklı yolların engellendiğini doğrulayın.
GPTBot, ClaudeBot veya benzer aracılar için özel grupları test edin.
Bir bölümün neden aniden tarama günlüklerinden kaybolduğunu teşhis edin.
Web araçlarımız ve özelliklerimiz hakkında cevap mı arıyorsunuz? Yardımcı açıklamalarla yanınızdayız.