Честно сказать полностью не знаю, но допустим индексация яндекса, в самом кабинете веб мастера там всё очень подробно расписано, с примерами вроде. Более точно чем там врядли кто скажет. По аналогу яндекса и на гугле тоже. Если для гугла, то почитайте на яндексеДоброго дня. Подскажите, пожалуйста, новичку как правильно запретить индексацию папкиИ как запретить индексацию файлов изображений имеющих в названии -mini, т.е. всех файлов images-mini.gpg ?Код:http://host/images/mini
User-agent: Yandex
Disallow: /images/
User-agent: Yandex
Disallow: /images/mini.jpg