hallo,
wird die datei robots.txt auch dazu verwendet, um spamcrawler nicht auf gewisse seiten zu führen?
gewissermassen als eine schutzmassnahme ?

hallo,
wird die datei robots.txt auch dazu verwendet, um spamcrawler nicht auf gewisse seiten zu führen?
gewissermassen als eine schutzmassnahme ?
Das kannst Du über Einträge in der .htaccess lösen nach folgendem Schema:
order deny,allow
deny from 123.45.67.890
deny from weitere-ip
deny from weitere-ip