Добрый пятница, уважаемый %username%, жадный читатель и борец за справедливость в интернетах!
Все мы помним (гугл точно помнит!), что была такая статья CloudFlare + nginx = кешируем всё на бесплатном плане. В которой рассматривались основные принципы экономии на тарифах и серверах, путем всеядного кеширование на стороне CloudFlare файлов до 512Мб.
В данном материале мы поиграем с кодами ответов нашего сервера, чтобы съекономить еще больше золота чтобы построить зиккурат и не переходить на «enterprise plan» которые нам «offer» похожий результат в своих «offers».
На бесплатном тарифе TTL составляет 2 часа. Это то, что у них написано в бесплатном тарифном плане. Если же копнуть глубже, то получаем:
- 200 301 120m;
- 302 303 20m;
- 403 1m;
- 404 5m;
- any 0s;
Более развернуто: редиректы кешируются по 20 минут, ошибки авторизации на минуту и классические 404 по 5 минут. Прочие коды не кешируются.
Это означает, что если у вас классный динамический сайт который, к примеру, предоставляет API для каких-нибудь операций и т.д. и т.п. и сие у вас завернуто через CF, так как генерит и файлы и картинки и много траффика, а динамике больно… то если кто-то понимает как у вас генерируются ответы (голый счетчик или в base64 или свой base или хеши, но последние подобрать труднее), то он (человек с темной стороны комнаты без освещения) может обмануть других пользователей ложным ответом, а именно — 404.
К примеру:
- Простой сервис, который дергает EXIF из фоток, которые были залиты. Пример ссылки
http://example.com/api/image/exif/1.txt— что означает выдать EXIF как TXT из фотки с id=1.
Предположим, что у вас там 1336 фоток. Сие значит, что 1, 2..1336ая выдатут 200й ответ, который будет закеширован на стороне cloudflare.
Решение #2, без костыля с 418 кодом (следствие из этого коммента).
Решение #1, костыль через 418 «i'm teapot» код.
Вот наша эмуляция (nginx):
location ~* "^/api/image/exif/(.*?).txt$" {
default_type text/plain;
set $testimageid $1;
##backend
if ($testimageid ~ 1337){
return 404 "Image $testimageid not found";
}
##backend
return 200 "EXIF for $testimageid image";
}
И так далее…
Пока не дойдем до фото с айди 1337, которого еще на сервере нет. Что сделает наша динамика? Логично, что она выдаст некий текст про ошибку и код 404.
Который следом будет закеширован. И все последующие запросы к этому URL выдадут ответ из кеша CF на следующие 5 минут.
Критично ли это? И да и нет. Зависит того, сколько юзеров вы сделаете несчастными и сколько съекономленных на CDN (благодаря мне) миллионов вы потеряете.
Что же делать? Смотрим оффициальный материал и понимаем, что надо менять код… код ответа сервера в случае 404.
Но не все так просто. Нельзя_просто_так_взять_и_сменить_код_ответа.jpg, так как каждый код несет какую-то смысловую нагрузку, которая будет интерпретирована или на нее просто забьют!
Вот для этого и был придуман код, который никакой смысловой нагрузки не несет, это код 418, который описан в rfc2324.
Меняем код нашей эмуляции (и очищаем кеш для этой ссылки в панели CF):
location ~* "^/api/image/exif/(.*?).txt$" {
default_type text/plain;
set $testimageid $1;
##backend
if ($testimageid ~ 1337){
return 418 "Image $testimageid not found";
}
##backend
return 200 "EXIF for $testimageid image";
}
И получаем следующую картину:
Сие знаменует факт, что до тех пор, пока картинки нет, CF не кеширует ответ от нашего сервера, передавая клиентам каждый раз свежий ответ с ошибкой 418 [от нашего сервера]. Следом, как картинка появляется на сервере, и наша динамика отдает ответ 200, CF кеширует этот ответ на 2 часа.
Код 418 относится к 4хх группе кодов. И даже, если у конечного пользователя нет определения этого кода в браузере (или в самописном софте), то там есть как минимум (должна быть!) проверка на 4хх как на скриншотах этой статью (firefox, красненький квадратик).
Вот так вот просто можно можно сообщить об ошибке (4хх) и попросить cloudflare не кешировать данный ответ при политике, когда мы все кешируем. Сие уберегает от ложных 404 ответов от сервера, когда кто-то запрашивал будущий материал до момента публикации.
upd2: Решение #2, без костыля с 418 кодом. Следствие из этого коммента.
В начале задаем условие для Browser Cache Expiration:
Затем создаем вот такое Page Rule:
Главный момент: отсутствие Browser Cache TTL и наличие Cache Level: Cache Everything!
Затем, если у вас TTL для валидных ответов составляет 315360000, то надо добавить
add_header Cache-Control "public, max-age=315360000";
в location'ы, без добавление оного в server!
например
location / {
add_header Cache-Control "public, max-age=315360000";
}
Location с динамикой имеет вид:
location ~* "^/api/image/jexif/(.*?).txt$" {
##backend
proxy_pass http://localhost:8080/headerstest/headerstest.jsp?imgid=$1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
##backend
}
Следом заставляет нашу динамику отдавать ошибки с кодом 404 вот с таким хедером (на примере JSP)
response.setHeader("Cache-Control", "private, max-age=0");В итоге Cloudflare на указанных выше настройках не кеширует ошибки, но и это еще не всё!
Если вам нужны частые обновления кеша для 200 ответов вашей динамики, то вам надо указать (снова на примере JSP)
response.setHeader("Cache-Control", "public, max-age=20");И тем самым вы получаете 20 секундный кеш ответов вашей динамики! Что меньше чем на тарифе ентерпрайз!
Фактически, пока такое работает, можно полностью убрать сайт на cloudflare и скрыть IP сервера (при условии что записи, отличные от A/AAAA/CNAME/TXT расположены на других ip).
Да прибудет с вами сила!
З.Ы, set $testimageid $1; используется потому, что nginx не может сравнивать $1 в if выражении (но может оперировать $1 в конфиге или в контенте), для этого надо вводить переменную, но YourChief показал более красивое решение.. Для второго решения надо убрать
add_header из server и оставить в location, чтобы первый не «клеился» nginx ко второму (вот такое чудо в ответе «public, max-age=20, public, max-age=315360000»).
Щербатые котлы картинки выравнены между собой и сжаты в png-8, перфекционисты на диалапе могут улыбнуться!
Автор: nikitasius
