Как мы переходили на Node.JS v16, или История о сломанном GC

в 5:38, , рубрики: javascript, node.js, Node.Js V8, Блог компании Тензор, высокая производительность, Программирование
26 октября 2021 года вышел новый релиз Node.JS 16.13.0 который стал Active LTS.
Как мы переводили на него наш сервис мониторинга и анализа логов PostgreSQL и с какими проблемами столкнулись — в статье ниже.

Как мы переходили на Node.JS v16, или История о сломанном GC - 1


Переключаться между версиями Node.Js удобно с помощью утилиты nvm.

nvm install 16.13.0

Запускаем тестовые коллекторы нашей системы под Node.Js v16 и внимательно смотрим за изменениями в работе приложения. Мы отслеживаем довольно много метрик — по серверу в целом, использование приложением системных ресурсов, метрики среды выполнения, а также различные показатели самого приложения. Так что какие-либо изменения не останутся незамеченными. Кстати, подробности о методике мониторинга приложения можно узнать в этой статье.

Итак, приложение работает, но в сравнении с Node.Js v14 при той же нагрузке мы наблюдаем увеличение потребления процессорного времени и времени работы GC.

И при этом сильное ухудшение по метрикам event-loop latency:
Как мы переходили на Node.JS v16, или История о сломанном GC - 2

Как узнать причину увеличения latency? Выполняем профайлинг приложения и обнаруживаем, что наиболее вероятной причиной увеличения latency является GC:
Как мы переходили на Node.JS v16, или История о сломанном GC - 3

Пробуем запуститься на одном из ранних релизов v16 — результат примерно тот же.
После отката обратно на Node.Js v14 значения GC и latency возвращаются в норму:
Как мы переходили на Node.JS v16, или История о сломанном GC - 4

Логично было предположить, что причиной увеличения event-loop latency в v16 являются какие-то изменения в самой Node.JS, а именно в работе GC.

Смотрим еще раз Release Notes, но никаких упоминаний об изменениях в GC не находим.
Проверяем также изменения в релизах V8, т.к. в Node.Js v16 перешли на новую ветку V8 version 9, но и там ничего.

Что еще могло поменяться, чтобы так сильно замедлить работу GC?

На всякий случай проверяем настройки по умолчанию для V8:

node --v8-options

и видим очень странные изменения:

Как мы переходили на Node.JS v16, или История о сломанном GC - 5

т.е. обе оптимизации нового сборщика мусора Orinoco — concurrent_marking и parallel_marking, которые были включены по умолчанию в Node.Js начиная с v10, оказались выключены в v16!

Об этих оптимизациях GC можно почитать в этой статье, но если кратко — в прежних реализациях GC работал по принципу «stop-the-world»:

Как мы переходили на Node.JS v16, или История о сломанном GC - 6

новый GC выносит часть операций по сборке мусора в пул рабочих потоков, снижая время выполнения операций GC в основном потоке и тем самым снижая его задержки:

Как мы переходили на Node.JS v16, или История о сломанном GC - 7

GC в основном потоке разгружается на 65-70%:
Как мы переходили на Node.JS v16, или История о сломанном GC - 8

Т.е. отключение этих оптимизаций приводит к увеличению времени GC в основном потоке и как следствие к увеличению event-loop latency. Как раз наш случай!

Пробуем их включить:

node --concurrent-marking --parallel-marking

И снова проблема — node выдает фатальную ошибку с генерацией core dump:
Как мы переходили на Node.JS v16, или История о сломанном GC - 9

Порывшись в исходниках, нашли что включить эти опции возможно только если они были включены на этапе компиляции:
Как мы переходили на Node.JS v16, или История о сломанном GC - 10

Причину мы установили, но для исправления обращаемся в сообщество и составляем Bug report. Ошибку оперативно исправили и подготовили небольшой patch, которого еще нет в Node.Js 16.13.1, но в следующем релизе вероятно будет.

Мы попробовали собрать Node.Js с этим патчем, на RHEL 7 сразу это сделать не получилось — для новой версии Node.JS на Linux подняты минимальные требования к gcc до 8.3:

Как мы переходили на Node.JS v16, или История о сломанном GC - 11

Поэтому на старых версиях Linux потребуется установить пакеты devtoolset-8 или обновить ОС.
Обновляемся, собираем Node.Js и в результате получаем:

Опции --concurrent-marking и --parallel-marking включены по умолчанию:
Как мы переходили на Node.JS v16, или История о сломанном GC - 12

Garbage collector потребляет 2-3% вместо 13:
Как мы переходили на Node.JS v16, или История о сломанном GC - 13

Event-loop latency значительно снизились:
Как мы переходили на Node.JS v16, или История о сломанном GC - 14

Для сравнения — latency до применения патча:
Как мы переходили на Node.JS v16, или История о сломанном GC - 15

Все пришло в норму.

В заключение хотим отметить, что мониторинг только общих метрик (CPU, памяти и т.п.) не выявил бы эту проблему. Нужно выполнять комплексный анализ, например, так как это делаем мы для сервиса мониторинга и анализа логов PostgreSQL.

Спасибо Kilor и andrydl за помощь в подготовке статьи.

Автор: Максим Горьков

Источник

* - обязательные к заполнению поля


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js