Кроме полезных роботов, существует масса «пауков», сканеров, которые создают лишь избыточную нагрузку на ваш сайт, увеличивая время отклика сервера на запросы реальных пользователей.
Более менее приличные боты сообщают о том, кто они, представляясь в заголовках запроса User-Agent. Например:
|
|
Mozilla/5.0 (compatible; AhrefsBot/6.1; +http://ahrefs.com/robot/) |
Обычно заголовки содержат имя бота и url сайта, где назначение робота описано более подробно.
Если вы используете varnish в качестве кеша, то благодаря этой информации можно настроить фильтр, запрещающий определенным роботам получать информацию с вашего сайта. Вместо этого вы будете возвращать, к примеру, код 403 — доступ запрещен.
Отключить ahrefs бота из примера выше (используя синтаксис varnish v4) можно вот так:
|
|
sub vcl_recv { if (req.http.user-agent ~ "ahrefs\.com") { return(synth(403, "Forbidden Bots")); } } |
Посмотрите логи собственного сервера, чтобы найти кандидатов для фильтрации, но в качестве хорошего старта можно воспользоваться готовым решением — проект bad_bot_detection.
Здесь уже собраны более 120 фильтров, а вы можете всегда дополнить список собственными кандидатами.
varnish
Данная запись опубликована в 02.05.2019 14:36 и размещена в рубрике Настраиваем сервер.
Вы можете перейти в конец страницы и оставить ваш комментарий.
Мало букафф? Читайте есчо !
Май 24, 2018 г.
После std идет название какой либо функции стандартной библиотеки VCL.
Скорее всего проблема в том, что вы не подключили std в вашей конфигурации (часто встречается при миграции конфигов). Для подключения библиотек в Си используется директива import. ...
Читать
Январь 18, 2021 г.
Если текст подобной ошибки вы обнаружите в логах ngnix, то см. как её исправить в данной статье.
Ошибка связана с недостаточным размером буфера для передачи заголовка запроса. Во-первых, надо разобраться что является в данном случае upstream-ом, ...
Читать
Май 6, 2019 г.
При кешировании в varnish возникает вопрос, какие данные использовать для генерации хеш-функции кеша. Типично используют req.url и reg.http.Cookie. Но включение куки приводит к тому, что страницы не попадают в кеш Varnish.
Типовая генерация хеша ...
Читать
Апрель 27, 2019 г.
Довольно удобно и просто удалять лишние параметры на этапе обработки запроса Varnish, если вы используете его на вашем веб сервере. Давайте посмотрим как это делается.
Описанное ниже выполнялось для Varnish версии 4.
Допустим вам нужно избавиться ...
Читать