Почему мы закрыли витрины заказчиков от поисковиков и отказались от лёгкого трафика
Сотни поддоменов с настоящим содержимым — готовый источник поискового трафика. Мы закрыли их полностью: это документы клиентов, а не наша поисковая поверхность.
У платформы, которая публикует витрины проектов, есть соблазн, о котором советуют все, кто смотрит на неё со стороны маркетинга: сотни поддоменов с настоящим, живым, регулярно обновляемым содержимым. Готовый источник трафика, который не надо писать.
Мы закрыли их полностью: noindex в разметке и запрет обхода в robots.txt.
Почему это решение, а не забывчивость
Витрина — это документы заказчика, выложенные для заказчика. Он согласился показать их своему кругу, а не поисковику.
Между «доступно по ссылке» и «находится в поиске» лежит разница, которую клиент не проговаривает, но подразумевает: страница, доступная тому, кому дали адрес, и страница, приходящая в выдаче по названию его компании, — это два разных согласия. Мы получали первое.
Индексировать витрины значило бы опубликовать чужие документы ради своих позиций. Сформулированное так, это перестаёт быть вопросом.
Второе: репутация домена
Витрины у нас уводятся на отдельный домен, и это отдельное решение с той же причиной — изоляция.
Содержимое сотен чужих проектов, которое мы не проверяем и не можем проверять, не должно влиять на репутацию домена, где живёт сама платформа. Один клиент, опубликовавший что-то не то, не должен утягивать всех.
Индексация витрин отменила бы обе половины разом: и согласие клиента, и смысл разделения доменов.
Как это сделано технически
Два рубежа, потому что один — это надежда:
noindex, nofollowв разметке каждой страницы витрины;Disallow: /вrobots.txt, который отдаётся поддоменам витрин, — файл для них отличается от файла апекса.
Разные файлы по классу хоста — обязательное условие. Один общий robots.txt
открыл бы витрины для обхода, и заметить это было бы можно только по факту
появления чужих документов в выдаче.
Когда так делать не надо
Если ваша витрина — это ваш собственный контент, закрывать её незачем. Правило не про технику, а про то, чьё содержимое лежит на странице.
Полезная проверка: представьте, что клиент нашёл свою страницу у себя в выдаче по запросу с названием его компании и позвонил спросить, как она туда попала. Если объяснение звучит неловко — страница должна быть закрыта.
Что из этого следует
Программное SEO на чужом содержимом — самый дешёвый способ нарастить индекс и самый быстрый способ потерять доверие сегмента, который покупает у вас именно осторожность с их данными.
Если такое и делать, то как продуктовую функцию с явным согласием владельца проекта, по одной витрине, с понятным переключателем и понятными последствиями. То есть не так, как это обычно предлагают.
Витрина у нас открывается на адресе проекта и в том режиме доступа, который выберете вы — вплоть до закрытой паролем целиком. Как это устроено — Клиентский портал.
Читайте также
- Счётчик посещаемости отправил бы наружу одноразовые токены, и увидеть это было бы негдеВнешняя аналитика шлёт адрес страницы целиком. У двух публичных адресов в адресе лежит секрет — подтверждение регистрации и сброс пароля. Поэтому список разрешительный.
- Ссылка на сайт уходила в чат без картинки — из-за одной строки в robots.txtРазметка Open Graph на месте, страница открывается, у других превью есть. Разборщик Telegram не отдаёт приоритет более длинному Allow — и за картинкой не идёт.
Автор
Александр ЦапковОснователь Скоупворк
Веду платформу и её боевой контур сам: разработка, выкат, дежурство. Пишу о том, на чём мы обожглись, — с датами, замерами и ссылками на решения в репозитории.