robots.txt Nedir? Nasıl Olmalı? Örnekler

robots.txt dosyası genellikle aşağıdaki gibi kullanılır;

User-Agent: *
Allow : /

Wordpress için ise aşağıdaki gibi kullanılır;

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php

Bu cevap yeterince yardımcı oldu mu?

 Bu dökümanı yazdır

Daha Fazlası

.htaccess ile tüm ipleri engelleyip belirli iplere izin verme

.htaccess ile yalnızca sizin belirleyeceğini ip adreslerinin sitenize erişmesini sağlayıp, kalan...

http'den https'ye Yönlendirme Ve www Yönlendirme

Aşağıdaki kuralı .htaccess dosyanıza ekleyerek web sitenin hem http den https şeklinde...

Http den Https SSL Yönlendirme

http linkleri https olarak yönlendirmek için aşağıdaki kodu .htaccess e ekleyerek...

.htaccess İle Tarayıcı Önbellekleme

Tarayıcı önbellekleme için .htaccess dosyanızın en altına ekleyebilirsiniz;<IfModule...

Web Siteyi www Şeklinde Yönlendirme

Eğer web sitenizin www açılmasını istiyor iseniz aşağıdaki kuralı .htaccess dosyası içerisine...