Поиск по этому блогу

среда, 7 января 2015 г.

Настройка индексации средствами файла robots.txt

Примечание:
Если robots.txt - неверный, вот подробное объяснение. 
Анализ скорости загрузки сайта
Этот злополучный файл robots.txt, ох уж этот файл. Как правило, по-началу, новички не имеют о нем ни малейшего понятия, затем всячески игнорируют любую попадающую о нем информацию, так как все новое и непонятное отпугивает. Но, в конце-концов, наступает такой момент, когда настигает понимание того, что от файла robots.txt зависит судьба проекта. И тут, горе-веб-мастер, пускается во все тяжкие, в поисках нужной информации о том, что это за файл, как он влияет на сайт, и что с ним делать. С этого момента начинается настоящая работа по внутренней оптимизации сайта.
Файл robots.txt – это простой текстовый файл, находящийся в корневой директории каждого сайта. Необходим этот файл для записи необходимой информации и инструкций для роботов поисковых систем.  В зависимости от того, что написано в этом robots.txt файле, поисковый робот будет индексировать или не будет индексировать и допускать к выдаче указанные страницы.
Другими словами, благодаря файлу robots.txt и прописанным в нем рекомендациям можно исключить из индексации страницы которые имеют копипастный контент, дубликаты страниц, сгенерированные cms, что улучшает отношение поисковых систем к сайту и повышает его позиции в выдаче, а так же защищает от возможного фильтра АГС. Кроме того, файл robots.txt позволяет исключить из выдачи технические страницы сайта, что ускоряет индексацию нужных страниц сайта. Таким образом становится ясно, что знание правильного оформления файла robots.txt просто необходимо для успешного развития молодого сайта.
Стоит помнить о том, что именно файл robots.txt является одним из самых важных файлов на сайте для поисковых систем. Роботы, заходящие на сайт для его индексации, первым делом, считывают информацию и рекомендации заложенные в robots.txt
Отсутствие файла robots.txt или не корректное его заполнение является для поисковых роботов "зеленым сигналом светофора" к полной индексации сайта. Вот наглядная картинка:

Вот наглядный пример составления простенького robots.txt


А вот как сам Яндекс наглядно, для особо одаренных рассказывает что такое robots.txt и для чего он нужен.

Комментариев нет:

Отправить комментарий