Вопрос по robots.txt

Новая тема Написать ответ    ГЛАВНАЯ ~ ТЕХНИЧЕСКИЕ ВОПРОСЫ

Rabbit
Кролики - это не только ценный мех
Зарегистрирован: 01.08.2005
Сообщ.: 18845
Звезда (Сумма: 1)
Обратиться по нику

# Добавлено:Пт Янв 05, 2007 8:12 pmОтветить с цитатой
Господа, такой вопрос:
есть определенные страницы, закрытые от индексации файлом robots.txt. Гугл и Яндекс послушно следуют указаниям данного файла.
А вот live.com и MSN мало того, что игнорируют данный запрет - они еще эту страницу на первую страницу в выдаче повесили :cool:
В чем может быть дело? Может быть для них какой-то свой, особый файл нужно составлять?
Гость, деньги тут !
GlavMed - лей трафик и живи без бед!
RenGoDating - $2 за анкету серфера, супер конвертация.

Li-Hua
Чинамэн
Зарегистрирован: 24.12.2005
Сообщ.: 10179
Обратиться по нику

# Добавлено:Сб Янв 06, 2007 3:49 pmОтветить с цитатой
баги лезут, ждите пока исправять :smile:
Главмед - круче всех
RuCash.net - Выгодная SMS партнерка для РУ, СНГ и д.р. адалт/развлекательного трафика

Вацлав
Сетевой Гугляка
Зарегистрирован: 21.02.2006
Сообщ.: 4831
Обратиться по нику

# Добавлено:Сб Янв 06, 2007 4:31 pmОтветить с цитатой
Ну, шоб перви, Гугл жрет файлы, запрещенные к индексации через robots.txt, в чем его не раз уже обвиняли. Официальная позиция примерно такова - "жрем, анализируем, но в выдачу не выкладываем. Проверяем для борьбы с клоакингом".

Касаемо лайва и мсна - пните админа, пускай сверит соответствие спецификациям роботс.ткст. Они же не вечные и иногда меняются. Я вот вообще на паре ресурсов забыл про появление лайвкома и забыл написать для него правила.
Гость, не изобретай велосипед. Для тебя все продумал ГЛАВМЕД

Rabbit
Кролики - это не только ценный мех
Зарегистрирован: 01.08.2005
Сообщ.: 18845
Звезда (Сумма: 1)
Обратиться по нику

# Добавлено:Сб Янв 06, 2007 8:11 pmОтветить с цитатой
Вацлав писал(а):
Касаемо лайва и мсна - пните админа, пускай сверит соответствие спецификациям роботс.ткст. Они же не вечные и иногда меняются. Я вот вообще на паре ресурсов забыл про появление лайвкома и забыл написать для него правила.


А такое
Цитата:
User-agent: *


разве не подразумевает всех-всех агентов?
Гость, деньги тут !
GlavMed - лей трафик и живи без бед!
RenGoDating - $2 за анкету серфера, супер конвертация.

user00
Banned
Зарегистрирован: 24.07.2006
Сообщ.: 723
Обратиться по нику

# Добавлено:Вс Фев 25, 2007 1:25 pmОтветить с цитатой
Я один скрипт разместил на сайте, а в robots.txt запретил папку со скриптом индексировать Яндексу. Каково было мое удивление, когда Яндекс забанил мой сайт именно из за этого скрипта (причину изложила служба поддержки Яндекса).
Буржуи хотят насилия! Ratio 1:80
Новая тема Написать ответ    ГЛАВНАЯ ~ ТЕХНИЧЕСКИЕ ВОПРОСЫ

Перейти:  

Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах




Генеральный спонсор



реклама на сайте

Rambler's Top100 Рейтинг@Mail.ru