0 Пользователей и 1 Гость просматривают эту тему.
User-agent: * Crawl-delay: 10
типо задержка? Цитировать User-agent: * Crawl-delay: 10
так боты всё равно щя многие задержку делают в 2-3сек)
У меня вчера ваще повесили сайт, гоша, яша и китайский олень, весь день сканировали, я просто с доменами баловался, дабы с агс-17 соскочить, вот соскочил, сайт вернул и они с таким упоением его насиловали вчера, ваще пипец.
Аха... Данная функция в robots.txt читается только Яндексом, Гугл и прочие трогать даже не будут этот Crawl-delay
Crawl-delay: 10 работает только в яндексе. Но и для других есть свои методы_http://www.webmasterworld.com/forum93/768.htm
умер? Жив и будет жить... Яндекс, Google, Rambler, Yahoo! самые популярные. И если они имеют эту функцию, то и другие будут иметь.. Ну кроме msn...