Пока напишу кратко. Более подробно потом распишу. Сначала этот сайт был на домене 1C-BITRIX-1C.ru, потом перехал на 1C-bx-1C.ru, потом переехал на Links-Pro.ru. Последний домен был зарегистрирован мной 20.11.2017. Сразу после регистрации этот сайт попал под АГС, а именно яндекс считал его дорвеем. Почему именно дорвеем, что такого дорвейного в моем сайте - это до сих пор для меня остается загадкой. Спрашивал нескольких SEO-специалистов, никто мне не ответил, что нужно сделать, что бы выйти из под фильтра. Перебирал несколько SEO-методов и только после одного метода (добавил везде слэши) сайт на следующий день вышел из под АГС. Совпадение это или нет - пока не знаю. Всего под АГС сайт находился в течении примерно 82 дней. У домена есть история, но я не нашел, что на него когда-либо накладывались санкции.
Логика у Яндекса странная. Что бы понять этот яндекс я и решил здесь записывать что делаю с сайтом в плане SEO и записывать иную информацю, имеющую существенно значение для понимания алгоритмов яндекса. Что бы потом можно было вернуться и посмотреть на даты, на скорость реакции яндекса на разные изменения.
В SEO люди приходят разными путями. В основном - это просто желание заработать деньги на продаже SEO-услуг. Я пришел к этому через другой вход - мне просто нужен стабильный и бесплатный источник клиентов по интеграции, поэтому я углубился в SEO. Разобравшись в SEO я обнаружил там применение 1С, то есть там, где обычные SEO-специалисты делают что-то вручную и долго, я могу сделать это программным образом и быстро. Данный сайт и еще один мой контентный сайт является типа тренировочным плацдармом для получения навыков в SEO-продвижении. Для развития SEO-навыком я анализирую другие сайты и особенно интернет-магазины и часто вижу, что с точки зрения SEO там есть технические ошибки. Часто эти ошибки связаны с тем, что, по-видимому, SEO-специалисты не являются программистами и не понимают как делать некоторые вещи. Другой причиной скорее всего является то, что в интернет-магазинах многие вещи являются трудоемкими, а программным образом SEO-специалист это сделать не может.
Другим движущим фактором прокачать SEO является то, что у меня есть интернет-магазины, которые нужно понятно, что нужно продвигать. Поэтому я накапливаю наработки в области автоматизации SEO с помощью 1С, особенно потому что это связано с механизмом интеграции.
# | Дата | Всего | В поиске | Дубли | Не качеств. |
---|---|---|---|---|---|
1 | 2018-02-16 | 88 | 3 | 26 | 11 |
2 | 2018-02-18 | 88 | 12 | 24 | 11 |
В общем понял, что вручную заполнять эту таблицу - это мартышкин труд. Дальнейший план здесь
Откуда на этом сайте столько дублей? Как я уже говорил, этот сайт сразу попал под АГС и выйти из под него после разнообразных SEO-экспериментов мне удалось только после того как я сделал слэши на абсолютно всех ссылках. В интернете есть мнение, что слэши нужно ставить только на тех ссылках, которые являются каталогами, то есть после которых есть более глубокие ссылки. Но я сделал везде и буквально на второй день сайт вышел из под АГС после 82-двух дневного пребывания там.
Контроль за дублями я осуществляю с помощью 1С следующим образом.
Сначала я парсю весь сайт и получаю для каждой страницы код ответа с помощью http-запроса «HEAD»:
Потом с помощью нажатия определенной кнопочки убираю у каждой страницы крайний справа слэш и опять получаю код ответа сайта для каждой страницы без слэша:
Таким образом 1С дает мне уверенность в том, что все 301-ые редиректы у меня сделаны правильно.
Фрагмент раздела "Важные страницы" сегодня выглядит так:
На сегодня расклад такой:
Остальных страниц в поиске нет, потому что буквально вчера или позавчера сайт вышел из под АГС.
Дубли висят давно, хотя кода ответов везде стоят правильные - 302. Периодически отправляю страницы на переобход, но дубли как были так и есть.
До сих пор пишет, что нет "description", хотя описания есть на всех страницах и я несколько раз уведомлял яндекс, что все описания есть.
Структура сайта - до сих пор не появились пользовательские разделы
До сих по Яндекс выдает "Возможные проблемы" в виде "Отсутствуют мета-теги <description>". Там же есть ссылки на те страницы, в которых отсутствуют описания. Этих страниц на моем сайте уже давным нет. Я их попробовал удалить в разделе "Удалить UR", но все мои заявки были отклонены.
Пользовательские разделы зашли в индекс:
У разделов, которые яндекс сам вычисляет, на конец слеша нет. Это ненормально.
Странная ситуация. Есть страницы, которые яндекс считал некачественными. Я на этих страницах ничего не делал, но через два дня яндекс почему-то стал их считать качественными и завел в поиск.
Вот так выглядит верхняя часть таблицы "Важных страниц" на 2018-02-18. Пока я не разобрался, почему некоторые строки выделяются оранжевым фоном.
Как уже было сказано выше - заполнять вручную таблицу важных страниц - это не круто. Поэтому сделаю так - каждый раз мой робот будет каждый день записывать список важных страниц со статусом. Потом можно будет делать следующее - каждый день по этому списку смотреть страницу, на которую яндекс-робот давно не заходил, потому добавлять контент на эту страницу и запускать ее в переобход. Естественно дорабатывать страницу с использованием Букварикса, Key Kollector, WordStat и тп. Имя такой робот, можно будет по каждой странице, включая новые, видеть, когда я добавил страницу на сайт, через сколько дней ее посетил Яндекс-робот, через сколько дней он понял, что это дубль (если есть 301-аналог), через сколько дней он решил, что эта страница не качественная, через сколько дней он понял, что она качественная и через сколько дней он добавил ее в индекс.
Яндекс может отдавать некоторые данные по API. Надо эту информацию будет объеденить с историческими данными по важным страницам. Ну и потом эту технологию использовать в интернет-магазинах.