Google может ошибочно принять ваш robots.txt за исключение, поскольку их инструмент считается роботом.
https://webhostingharvest.com/robots.txt
Пустое значение disallow означает, что ВСЕ исключено из индексации.
Я бы сделал файл robots.txt пустым до тех пор, пока у вас не появятся конкретные файлы для блокировки — блокировка всех, как правило, является хорошим способом быть на 100% уверенным, что ваш сайт НИКОГДА не будет указан, индексирован или оценен НИГДЕ.
Это также может раздражать вашу тарабарскую разметку - смехотворно минимизированную и ВСЕ ЕЩЕ легко в три-четыре раза больше, чем должна использовать такая простая страница - с такими жемчужинами, как абзацы вокруг неграмматических абзацев, бесконечные бессмысленные теги для ничего, роли ARIA, когда вы даже нет логической структуры документа и т. д. и т. п....
Как я часто говорю, если вы не знаете, что здесь не так:
<body class="home blog full-width-content agency-pro-blue" itemscope itemtype="[URL='https://lumtu.com/yti/ZQYYQZ2VodHRwOi8vc2NoZW1hLm9yZy9XZWJQWZX']http://schema.org/WebPage[/URL]"><header class="site-header" itemscope itemtype="[URL='https://lumtu.com/yti/ZQWWQZXJodHRwOi8vc2NoZW1hLm9yZy9XUEhlYhEU']http://schema.org/WPHeader[/URL]"><div class="wrap"><div class="title-area"><h1 class="site-title" itemprop="headline"><a href="[URL='https://lumtu.com/yti/bvNNvbS9odHRwczovL3dlYmhvc3RpbmdoYXJ2ZXN0Lm0NX']https://webhostingharvest.com/[/URL]">Web Hosting Harvest</a></h1></div>
Код (разметка): Вероятно, пришло время отойти от клавиатуры и не возвращаться, пока вы не поймете, как правильно использовать HTML.
Конечно, это чушь, так что удачи в том, чтобы убедить его сделать HTML, достойный летающей фиолетовой рыбы.
У вас есть 17,2 тыс.
разметки, выполняющей работу 8 тыс.
или меньше.
в основном благодаря ролям ARIA, когда ни один законный UA их не использует, избыточному описанию набора правил ARIA, когда у вас был совершенно хороший набор правил, бесконечный бессмысленный DIV и SPAN просто так, сказочное использование REL и мало что напоминает семантическую разметку или логическую структуру документа.
(хотя отчасти это можно винить в несовершенстве HTML 5).... тем более в бессмысленных статических сценариях и стиле разметки.
Идя рука об руку со шрифтами с засечками сомнительной читаемости, цветовыми контрастами ниже минимального уровня доступности и декларациями размеров пикселей; ака "доступность, что это?!?"
Но опять же, это чушь, так что это нормально.
Я думаю, что ваша «настоящая» проблема с инструментами Google, которые не могут попасть на сайт, заключается в том, что вы заблокировали все с помощью файла robots.txt.