Как использовать Robots.txt для блокировки GoogleBot, но не AdsBot

  • Автор темы ruslak
  • 36
  • Обновлено
  • 12, May 2024
  • #1
Привет,

Я управляю брендом электронной коммерции, в котором представлены тысячи продуктов.

Некоторые из этих продуктов имеют несколько SKU (вариантов цвета). Эти несколько SKU используют параметр строки запроса URL-адреса, чтобы различать варианты цвета.

Поскольку это один и тот же продукт, но различаются только цветом, все они канонизированы до бесцветной версии для SEO. Пример настройки продуктов:
Страница продукта «Футболка Hugo Boss» (/product/hugo-boss-red-t-shirt) с приведенными ниже вариантами;

/product/hugo-boss-red-t-shirt?color=red — канонизировать бесцветную версию

/product/hugo-boss-red-t-shirt?color=green — канонизировать бесцветную версию

/product/hugo-boss-red-t-shirt?color=blue — канонизировать бесцветную версию

Проблема в том, что роботы Google тратят много бюджета сканирования на сканирование этих цветовых вариантов.

я мог бы добавить Запретить: /*?цвет правило в robots.txt, чтобы робот Googlebot не сканировал эти варианты URL, но они могут вызвать проблемы для PPC PLA (я думаю...).

Не могли бы вы посоветовать, как мне заблокировать сканирование этих вариантов только поисковыми, а не рекламными ботами, чтобы эти правила в robots.txt не влияли на PLA?

Спасибо,

Хемант

ruslak


Рег
05 May, 2012

Тем
1

Постов
1

Баллов
11
  • 08, Jun 2024
  • #2
Привет, Используйте этот код в Robots.txt, чтобы заблокировать GoogleBot без блокировки AdsBot: Пользовательский агент: Googlebot
Запретить: /

Пользовательский агент: AdsBot-Google
Позволять: /
 

Роман745


Рег
17 Mar, 2014

Тем
2

Постов
5

Баллов
25
Тем
49554
Комментарии
57426
Опыт
552966

Интересно