Pliki robots.txt potrafią zablokować roboty wyszukiwarek, aby nie pobierały zawartości stron, jednak nie blokują umieszczania adresów URL w indeksie. Powoduje to, że część stron nie przekazuje swojej mocy ratingowej. Zalecamy więc wyczyszczenie zawartości pliku...