Роботам вход воспрещен? ВТФ........

  • Автор темы Vadim Bobr
  • 34
  • Обновлено
  • 10, Jun 2024
  • #2
Google может ошибочно принять ваш robots.txt за исключение, поскольку их инструмент считается роботом.
https://webhostingharvest.com/robots.txt

Пустое значение disallow означает, что ВСЕ исключено из индексации.

Я бы сделал файл robots.txt пустым до тех пор, пока у вас не появятся конкретные файлы для блокировки — блокировка всех, как правило, является хорошим способом быть на 100% уверенным, что ваш сайт НИКОГДА не будет указан, индексирован или оценен НИГДЕ.



Это также может раздражать вашу тарабарскую разметку - смехотворно минимизированную и ВСЕ ЕЩЕ легко в три-четыре раза больше, чем должна использовать такая простая страница - с такими жемчужинами, как абзацы вокруг неграмматических абзацев, бесконечные бессмысленные теги для ничего, роли ARIA, когда вы даже нет логической структуры документа и т. д. и т. п....

Как я часто говорю, если вы не знаете, что здесь не так:







<body class="home blog full-width-content agency-pro-blue" itemscope itemtype="[URL='https://lumtu.com/yti/ZQYYQZ2VodHRwOi8vc2NoZW1hLm9yZy9XZWJQWZX']http://schema.org/WebPage[/URL]"><header class="site-header" itemscope itemtype="[URL='https://lumtu.com/yti/ZQWWQZXJodHRwOi8vc2NoZW1hLm9yZy9XUEhlYhEU']http://schema.org/WPHeader[/URL]"><div class="wrap"><div class="title-area"><h1 class="site-title" itemprop="headline"><a href="[URL='https://lumtu.com/yti/bvNNvbS9odHRwczovL3dlYmhvc3RpbmdoYXJ2ZXN0Lm0NX']https://webhostingharvest.com/[/URL]">Web Hosting Harvest</a></h1></div>

Код (разметка): Вероятно, пришло время отойти от клавиатуры и не возвращаться, пока вы не поймете, как правильно использовать HTML.

Конечно, это чушь, так что удачи в том, чтобы убедить его сделать HTML, достойный летающей фиолетовой рыбы.

У вас есть 17,2 тыс.

разметки, выполняющей работу 8 тыс.

или меньше.



в основном благодаря ролям ARIA, когда ни один законный UA их не использует, избыточному описанию набора правил ARIA, когда у вас был совершенно хороший набор правил, бесконечный бессмысленный DIV и SPAN просто так, сказочное использование REL и мало что напоминает семантическую разметку или логическую структуру документа.



(хотя отчасти это можно винить в несовершенстве HTML 5).... тем более в бессмысленных статических сценариях и стиле разметки.

Идя рука об руку со шрифтами с засечками сомнительной читаемости, цветовыми контрастами ниже минимального уровня доступности и декларациями размеров пикселей; ака "доступность, что это?!?"

Но опять же, это чушь, так что это нормально.

Я думаю, что ваша «настоящая» проблема с инструментами Google, которые не могут попасть на сайт, заключается в том, что вы заблокировали все с помощью файла robots.txt.
 

k_dh


Рег
03 Apr, 2015

Тем
1

Постов
2

Баллов
12
Тем
49554
Комментарии
57426
Опыт
552966

Интересно