В прошлой статье мы рассмотрели вопросы ускорения индексации сайта. Говорили о том, что это важная часть всех работ по продвижению.
Тем не менее, есть ситуации, когда нужно закрыть от индексации либо весь сайт, либо какую-то часть: разделы, страницы, ссылки и т.д.
Сегодня мы рассмотрим вопрос, как запретить индексацию сайта в поисковых системах. В каких случаях это требуется? Обычно запрет индексации ставится на различные служебные модули сайта. Которые не несут смысловой нагрузки, как для пользователей, так и для ПС.
Это администраторский раздел, формы регистрации и ввода информации, профили юзеров и т.д. Так же это может быть и секретный раздел на форуме, содержание которого мы не хотим показывать всем. Кроме того, надо закрыть дубли страниц от индексации, которые могут создавать различные движки сайтов.
Запрещать индексировать можно как всю страницу целиком, так и отдельную ее часть, например кусок текста или ссылку. Поэтому можно говорить как о глобальном запрете индексирования, так и о локальном. Теперь поговорим предметно, как это реализовать.
При помощи файла robots.txt мы можем запретить индексацию отдельной страницы или целого раздела сайта.
Я уже писал подробную статью с множеством примеров про robots.txt. Там вы можете прочитать, что это за файл, как его создавать и настраивать. В контексте данной статьи я напомню, как запретить индексацию в robots.txt
User-agent: *
Disallow: /kolobok.html
Disallow: /foto/
Где, * — определяет, что инструкции предназначены для всех ПС;
Disallow: /kolobok.html — запрещает индексировать файл kolobok.html;
Disallow: /foto/ — дает запрет на индексацию всего содержимого папки foto.
Если вам надо запретить несколько папок и/или страниц, все их указываем в роботсе.
Для запрета индексации отдельной страницы можно воспользоваться мета-тегом robots. Особенность его использования в отличие от robots.txt в том, что он дает указания сразу всем ПС. А в robots.txt можно настроить под отдельную поисковую систему. Этот мета тег подчиняется общим правилам формата html и должен находится в заголовке страницы между тегами head и /head.
Пример записи для запрета:
Атрибут content может содержать такие условия:
пример записи, которая разрешает все:
Или запрещает все и индексацию текста и ссылок:
Так же, можно указать для какой ПС предназначены ограничения в мета теге robots. Яндекс точно понимает такую запись:
Давайте теперь расскажу, как закрыть ссылку от индексации. Что бы закрыть конкретную ссылку от индексации можно воспользоваться атрибутом rel=»nofollow» в теге A. Пример записи атрибута:
Атрибут rel=»nofollow» учитывают все нужные нам поисковики: Яндекс и Google. В отличие от мета-тега «robots», который, запрещает индексировать сразу все ссылки, «rel» закрывать только одну ссылку.
Часто этот атрибут применяют, когда не желают терять по ссылкам ссылочный вес страницы.
При помощи тега Noindex можно закрыть от индексации определенную часть страницы. Это может быть кусок текста или кода, что угодно. Часто вебмастера закрывают этим тегом счетчики статистики и скрипты на сайтах. Пример записи:
Тег «noindex» может располагаться в любой части страницы и не чувствителен к вложенности. Что бы сделать его валидным, применяйте такую запись:
Файл htaccess может заблокировать доступ к определенной части сайта, например к отдельной странице. Если вы хотите закрыть страницу от Яндекса то вам нужна такая запись.
Вот мы и разобрали все возможные способы и методы запрета индексации как целых разделов или страниц сайта, так и каких-то определенных частей. Кстати, посмотреть какие страницы вашего сайта закрыты от индексации можно в панеле вебмастера, как в Яндексе, так и в Google. Для этого нужно сайт добавить свой сайт в аккаунт, и при анализе страниц будет видно, какие из них закрыты.
В следующей статье предлагаю рассмотреть вопрос, почему сайт не индексируется.
Оглавление
В данном топике описан процесс создания и управления большим количеством аккаунтов (или stealth ферма), предназначенных…
Ключевая задача антидетект браузера - обеспечить пользователя функционалом, позволяющим выглядеть в глазах поисковых и антифрод…
С каждым годом партнерская программа растёт и развивается! Следуя этой тенденции, Gagarin с гордостью представляет…
В сегодняшних реалиях 2022 года, особенно в условиях глобальных санкций, любому арбитражнику, вебмастеру и просто…
Всем привет, сегодня решил поделиться своим новым приложением - пятнашки (далее…)
Букмекерская компания Zenit – одна из самых узнаваемых не только на рынке РФ, но и…