robots.txt и браузеры

Тема в разделе "Обо всём", создана пользователем forbs, 15 ноя 2015.

  1. sibrus

    sibrus Пользователь

    Сообщения:
    96
    Симпатии:
    7
    Здравствуйте, подскажите у меня домен и все урл на кирилице. Как в robots.txt закрывать страницы на кирилице? например домен.рф/сравнение-товаров.html ???
     
  2. solunski.d

    solunski.d Эксперт

    Сообщения:
    1.569
    Симпатии:
    432
    смысл их закрывать, кириллица конечно не очень, но никто не говорил, что прям всё, потом поисковик шайтан устроит на сайте. Вопрос другой, почему на кириллице???? o_O
     
  3. sibrus

    sibrus Пользователь

    Сообщения:
    96
    Симпатии:
    7
    ну домен кириллица, иметь адрес домен.рф/wishlist.html как то не красиво. Так домен.рф/готовые-наборы/день-мужчин.html и визуально симпотичнее и всё по русски и понятно - своего рода как хлебные крошки.

    Просто я убрал вообще ссылки на сравнение заказов. запустил сайт чере мега-индекс, смотрю а он эту страницу нашёл. хотя я вообще её везде убрал. Не хочу что бы мусор выдавало в поиске
     
  4. Vlad

    Vlad Эксперт

    Сообщения:
    4.129
    Симпатии:
    999
    конвертируйте адрес с помощью idn конвертора. Информацию о idn найдете в поисках.
     
    Zlata Jesen и sibrus нравится это.
  5. sibrus

    sibrus Пользователь

    Сообщения:
    96
    Симпатии:
    7
    про idn я знаю. просто в интернете про кириллицу не нашёл. Поэтому решил спросить "своих" знатоков.

    Влад, ответ на свой вопрос от вас получил, спасибо. Буду конвертировать...
     
  6. Vlad

    Vlad Эксперт

    Сообщения:
    4.129
    Симпатии:
    999
    sibrus нравится это.
  7. sibrus

    sibrus Пользователь

    Сообщения:
    96
    Симпатии:
    7
    ой, спасибо вам большое! я думал страницу в IDN
     
  8. Dmitry1980

    Dmitry1980 Пользователь

    Сообщения:
    27
    Симпатии:
    0
    Скажите а можно вообще убрать этот файл robots.txt ? Зачем он есть по умолчанию на сайте? Обычно этот файл добавляют когда хотят скрыть отдельные части? Что с этим файлом мне вообще делать? Удалить его? Или изменить на Allow отдельные поля robots.txt ? И какие? Просветите пожалуйста.
     
  9. solunski.d

    solunski.d Эксперт

    Сообщения:
    1.569
    Симпатии:
    432
    Не надо его убирать. Чтобы не спуститься на дно. Чтобы скрыть какие то не нужные атрибуты в ссылках. Оставить в покое, а лучше почитать статью. Нет. Нет.
     
  10. Dmitry1980

    Dmitry1980 Пользователь

    Сообщения:
    27
    Симпатии:
    0
    Я прошу прощения скажите какую статью почитать именно по выставлению нужных параметров в этом файле robots.txt Просто у меня пишет "Владелец сайта предпочёл скрыть описание страницы"
     
  11. solunski.d

    solunski.d Эксперт

    Сообщения:
    1.569
    Симпатии:
    432
    Если очень нужно Google в помощь ну или Yandex - там уйма информации.
     
  12. Dmitry1980

    Dmitry1980 Пользователь

    Сообщения:
    27
    Симпатии:
    0
    Да это все понятно что такое robots.txt я знаю. Но как это сообщение "Владелец сайта предпочёл скрыть описание страницы" убрать из robots.txt что и где в нем поправить или убрать? Кстати у моего другого сайта тоже на этом OpenСart сделанным месяцем ранее такого сообщения нет! Там все теги главной проиндексировались без проблем.
     
  13. Zhezkazganetcs

    Zhezkazganetcs Продвинутый пользователь

    Сообщения:
    819
    Симпатии:
    108
    Disallow: / удалить
     
  14. Dmitry1980

    Dmitry1980 Пользователь

    Сообщения:
    27
    Симпатии:
    0
    где в robots.txt удалить Disallow чтоб этой надписи не было "Владелец сайта предпочёл скрыть описание страницы"
     
  15. Zhezkazganetcs

    Zhezkazganetcs Продвинутый пользователь

    Сообщения:
    819
    Симпатии:
    108
    Dmitry1980, где сайт? давайте его сюда, чего гадать
     
  16. Dmitry1980

    Dmitry1980 Пользователь

    Сообщения:
    27
    Симпатии:
    0
    Вот смотрите [​IMG]
     

    Вложения:

  17. Zhezkazganetcs

    Zhezkazganetcs Продвинутый пользователь

    Сообщения:
    819
    Симпатии:
    108
    Dmitry1980 не надо тупить это дело яндекса (тупить)
    сайт просто еще не в индексе яндекса
    Дата регистрации:15-01-2016 (31 день)
    пару апов от яшки и будет нормальное описание

    хотя нет
    не будет он в индексе, ибо в данный момент он абсолютно бесполезен
     
    solunski.d нравится это.
  18. Dmitry1980

    Dmitry1980 Пользователь

    Сообщения:
    27
    Симпатии:
    0
    Да причем здесь индекс??? Как убрать надпись "Владелец сайта предпочёл скрыть описание страницы" явно ее не яндекс поставил???)))
     
  19. solunski.d

    solunski.d Эксперт

    Сообщения:
    1.569
    Симпатии:
    432
    "Владелец сайта предпочёл скрыть описание страницы" - откуда вы взяли это?
     
  20. Ален

    Ален Эксперт

    Сообщения:
    2.056
    Симпатии:
    640
    так гугл пишет на страницы закрытые роботсом. Потом конечно все нормализуется.
     
    solunski.d нравится это.