Viren, Spyware, Datenschutz 11.218 Themen, 94.243 Beiträge

robots.txt..verständnisfrage

ghartl1 / 11 Antworten / Flachansicht Nickles

hallo,

wird die datei robots.txt auch dazu verwendet, um spamcrawler nicht auf gewisse seiten zu führen?

gewissermassen als eine schutzmassnahme ?

bei Antwort benachrichtigen
Max Payne ghartl1 „robots.txt..verständnisfrage“
Optionen

Ich kann mir nicht vorstellen, dass ein Spamcrawler sich um das schert, was in der robots.txt steht.
Das ist in etwa so zuverlässig wie der "keine Werbung"-Aufkleber am Briefkasten...

The trouble with computers is that they do what you told them – not necessarily what you wanted them to do.
bei Antwort benachrichtigen