hallo,
wird die datei robots.txt auch dazu verwendet, um spamcrawler nicht auf gewisse seiten zu führen?
gewissermassen als eine schutzmassnahme ?
Viren, Spyware, Datenschutz 11.217 Themen, 94.227 Beiträge
Das kannst Du über Einträge in der .htaccess lösen nach folgendem Schema:
order deny,allow
deny from 123.45.67.890
deny from weitere-ip
deny from weitere-ip