Это интересно

Файл robots.txt

robots.txt
Элемент софта, который находится на ресурсе – это robots.txt. Он уготовлен для роботов-поисковиков. В этом файле специалист, занимающийся продвижением сайтов, может определять параметры индексирования своего проекта как для всех роботов одновременно, так и для каждого поисковика в отдельном порядке.

Такой файл создается текстовым редактором. Это может быть блокнот или ВордПэйд. Необходимо оформить такой файл под наименованием robots.txt и наполнить его с соответствующими положениями. При этом необходимо осуществлять определенные действия, в частности, предпринять загрузку такого файла в каталог личного сайта. Такой каталог носит название корневого. Для того чтобы проанализировать корректность работы такого файла, необходимо воспользоваться анализатором файлов.

Такой файл создается текстовым редактором. Это может быть блокнот или ВордПэйд. Необходимо оформить такой файл под наименованием robots.txt и Ресурс robots.txt вмещает в себя два поля, это «User-agent» и «Disallow». Отметим, что наименования указанных записей не чувствительны к буквенным регистрам. Определенные поисковые системы помогают еще и записям дополнительного характера. К примеру, поисковая система под именем Яндекс, применяет запись Хост для установления главного зеркала проекта. К основному зеркалу можно отнести ресурс, который находится в индексе поисковиков. Любая запись имеет свое строгое назначение и может встречаться неоднократно, в зависимости от числа закрываемых от индексации страниц и числа роботов, к которым обращается веб-мастер в процессе оптимизации.

Обычно, существует следующий формат строк формата robots.txt:

  • имя_записи[необязательные
  • пробелы]:[необязательные
  • пробелы]значение [не фиксируемые строго пробелы]

Для того чтобы рассматриваемый файл считался верным, необходима одна директива «Disallow». Она должна быть в наличии после сделанной и оформленной записи «User-agent», это не поддается сомнению. В том случае, если указанный файл, будет полностью пуст, то это предполагает его отсутствие и разрешение на индексирование всего проекта.

P.S. Ищите новый планшет на базе android? На сайте http://notebooker.ua вы найдете то что ищете. Огромный выбор планшетов по оптимальным ценам. Комфорт и качество для вас.

Опубликовано: 4 Февраль, 2013 | Просмотров: 1866 |     | Печать