Правильный robots.txt

Тема в разделе "Обо всём", создана пользователем Zlata Jesen, 28 июл 2015.

  1. Ravilr

    Ravilr Специалист

    Сообщения:
    3.883
    Симпатии:
    1.065
    Возможно в htaccess установлена переадресация с robots (http https) и поэтому разрешения не видны. Проверьте.
     
  2. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    что посмотреть (я не профи)!
     
  3. Ravilr

    Ravilr Специалист

    Сообщения:
    3.883
    Симпатии:
    1.065
    Оставили бы в самом начале адрес сайта, кто нибудь и посмотрел бы. А так обсуждение непонятно чего..
    Ну и htaccess приложить.
     
  4. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    Сайт здесь. htaccess, прикрепил.
     

    Вложения:

    • htaccess.txt
      Размер файла:
      3,8 КБ
      Просмотров:
      11
  5. solunski.d

    solunski.d Эксперт

    Сообщения:
    1.569
    Симпатии:
    432
    ExpiresByType image/jpg "access 1 year" - сразу видно copy/paste :)

    Код:
    RewriteCond %{HTTP_HOST} ^www\.(.*)$ [NC]
    RewriteRule ^(.*)$ http://%1/$1 [R=301,L]
    RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\ HTTP/
    RewriteRule ^index\.html$ / [R=301,L]
    RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.php\ HTTP/
    RewriteRule ^index\.php$ / [R=301,L]
    RewriteCond %{QUERY_STRING} ^route=common/home$
    RewriteCond %{REQUEST_METHOD} !^POST$
    RewriteRule ^index\.php$ http://%{HTTP_HOST}? [R=301,L]
    Эту кашку удаляем. В принципе, можно просто взять из сборки стандартный htaccess и заменить на то что сейчас у вас.
    Потому что ниже я вижу попытки оптимизации, но сделаны они по принципу copy/paste без раздумий.
     
  6. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    Сколько должно быть?
     
  7. solunski.d

    solunski.d Эксперт

    Сообщения:
    1.569
    Симпатии:
    432
    Зависит от того как часто вы можете изменяете те или иные файлы.
    Допустим, если часто проводите изменения на сайте или обновляете баннеры, то установить на целый год кэширование для файлов очень глупо. Можно поставить на неделю, 2 недели, но не на месяц и не на год. Крупные магазины которые почти каждый день меняют баннеры, ставят:
    Код:
    access plus 1 week
     
  8. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
  9. Ravilr

    Ravilr Специалист

    Сообщения:
    3.883
    Симпатии:
    1.065
    Попробуйте в начале добавить
    Код:
    Allow: /*/*.js
    Allow: /*/*.css
    А то что внизу, удалить. У гугла что то поменялось в приоритетах, нужно поиграться.
     
  10. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    Гугл ругается только на это в одной категории сайт/ofisnoe-oborudovanie/
    catalog/view/javascript/common.js - Disallow: /catalog (знак кирпич) googlebot не доступен
    catalog/view/javascript/jquery/jquery-2.1.1.min.js - Disallow: /catalog (знак кирпич) googlebot не доступен
    catalog/view/javascript/jquery/owl-carousel/owl.carousel.min.js - Disallow: /catalog (знак кирпич) googlebot не доступен
    catalog/view/javascript/bootstrap/js/bootstrap.min.js - Disallow: /catalog (знак кирпич) googlebot не доступен
    catalog/view/javascript/common.js - Disallow: /catalog (знак кирпич) googlebot не доступен
     
  11. karpov

    karpov Продвинутый пользователь

    Сообщения:
    1.519
    Симпатии:
    241
    Помогло это??
    Как то пишите однотипно... догадываться нужно что у вас не так. Т.е проблема осталась только в одной категории или как? Или что?? Если шаблон стандартный и хост нормальный (который отдает 404 при прямом доступе) то можно вообще убрать из запрещения это Disallow: /catalog
    и будет вам счастье. Вы хоть немного смотрите, читайте, изучайте, экспериментируйте, меняйте туда сюда. Чего ждать каждую строчку совета??
     
  12. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    просто открыть?
    Allow: /catalog
     
  13. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    Заблокированные страницы пропали, но предупреждения в карте сайта остались 151 шт.
     
  14. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    Проблема осталась!
     
  15. Ravilr

    Ravilr Специалист

    Сообщения:
    3.883
    Симпатии:
    1.065
    В этом robots виноват?
     
  16. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    Вебмастер Гугл пишет, что да. Заблокированы ресурсы в robot.txt
     
  17. Ravilr

    Ravilr Специалист

    Сообщения:
    3.883
    Симпатии:
    1.065
    Как они могут быть заблокированы, если у вас нет строки Disallow: /catalog
     
  18. Gluka

    Gluka Пользователь

    Сообщения:
    107
    Симпатии:
    0
    открыл каталог Allow: /catalog, ошибки остались.
    Значение по адресу сайт/категория/товар
     
  19. Ravilr

    Ravilr Специалист

    Сообщения:
    3.883
    Симпатии:
    1.065
    Я ничего не понимаю. Вы пишите как то отдаленно, намеками, отрывками. В общем я пас.
     
  20. SiteMix

    SiteMix Продвинутый пользователь

    Сообщения:
    1.021
    Симпатии:
    174
    Я не в начале, а в конце добавляю:
    Код:
    Allow: /catalog/view/*.css
    Allow: /catalog/view/*.js
    Allow: /catalog/view/javascript/font*
    Проблем с Гуглом не наблюдаю.