Хочу рассказать о статье "I/O Is Faster Than the CPU – Let’s Partition Resources
and Eliminate (Most) OS Abstractions", опубликованной на личной странице одного из разработчиков ScyllaDB, Pekka Enberg. О ней узнал из видео.
С докладом по этой статье авторы должны были выступать на HOTOS17 (Hot Topics in Operating Systems) воркшопе 12 -15 мая 2019. Насколько понял там обсуждают наработки на ранних этапах их жизни.
Моя статья носит новостной характер с целью возбудить пытливые умы на обдумывание этой темы и размышления в комментариях.
Общая суть
Ввод-ввывод на серверах с быстрыми программируемыми сетевыми картами и энергонезависимой памятью приближается к скорости энергозависимых ОЗУ, а скорость одного ядра процессора, остается на месте. Приложения не могут использовать преимущества современных аппаратных средств, т.к. вынуждены использовать интерфейсы построенные на абстракциях предполагающих медленные системы ввода-вывода.
Авторы предлагают свою структуру ОС, которую называют parakernel, она устраняет большинство абстракций ОС и предоставляет интерфейс для приложений, чтобы они могли использовать весь потенциал оборудования. Parakernel облегчает параллелизм на уровне приложений путем безопасного разделения ресурсов и мультиплексирования неразделяемых ресурсов.
Архитектура современных ОС была придумана, когда скорость ввода-вывода была намного меньше, и приложения ожидали выполнения операций ввода-вывода. В текущее время устройства ввода-вывода с легкостью могут насытить процессор.
По словам авторов, современные сетевые стеки выполняют слишком много работы на пакет. Кроме того ОС обычно реализуют API POSIX сокетов, который имеет большие издержки переключения контекста и загрязнения кэша процессора.
Аппаратные предпосылки
Современная 40Гбит сетевая карта может получать пакет соизмеримый со строкой кэша каждые 5 нс, а задержка доступа к LLC (last level cache) процессоров примерно 15 нс.
Например в Linux вели разработку POSIX AIO интерфейса, который должен бы был предоставлять простой и эффективный асинхронный интерфейс ввода-вывода. Реализация, поддержка и применение подобного интерфейса с сохранением POSIX семантики оказалась очень сложной и от него отказались в пользу нового io_uring.
Какое предлагается решение
Новая структура ОС, которую авторы называют parakernel, предназначена для упрощения распараллеливания задач. Приложениям выделяются ресурсы и они имеют полный контроль над ними, ресурсы которые нельзя разделить мультиплексируются ядром.
Совместное использование ресурсов в многоядерных системах требует синхронизации между ядрами процессора, что препятствует параллелизму на уровне приложения. Это препятствие можно уменьшить разделив ресурсы между ядрами процессора.
Итоги
Некоторые абстракции операционных систем ограничивают производительность ввода-вывода. Авторы представляют структуру ОС, которая разделяет разделяемые ресурсы и мультиплексирует неразделяемые ресурсы. Parakernel упрощает параллелизм уровня приложения, и дополняет дизайн поток на ядро.
Прототип parakernel написан на Rust и сейчас находится в разработке. В статье я не увидел название операционной системы, но нашел другой материал одного из авторов Manticore Operating System и делаю вывод, что вот репозиторий этой разработки.
Что в остальном мире
Как оказывается, производители процессоров не спят и тоже пытаются решать проблему медленной прослойки между их продукцией и потребителями. Значит многих не устраивает бутылочное горлышко производительности в виде ядра операционной системы.
Интересные нововведения от Intel, подробнее о которых можно прочитать в этой статье. Приведу выдержку из нее:
- Intel Volume Management Device (Intel VMD) — позволяет работать с накопителями NVM Express напрямую, «отдавая» девайс сразу системе хранения. Как следствие, стала возможна полноценная горячая замена SSD, индикация статуса и использование технологии Intel VROC.
- Intel Virtual RAID on CPU (Intel VROC). Позволяет создавать RAID из NVMe накопителей средствами процессора, с ним можно отказаться от программных решений или дополнительных адаптеров для создания массивов из скоростных PCIe SSD.
- Internet Wide-Area RDMA Protocol (iWARP). Расширение RDMA теперь поддерживается встроенными сетевыми адаптерами Intel X722, ведь процессор поддерживает четыре 10-гигабитных (или гигабитных) порта Ethernet. Напомню, RDMA получает доступ к данным по сети напрямую из памяти, минуя ядро и операционную систему.
Всегда очень интересно узнавать о новых концепциях в уже укоренившихся системах.
Прошу писать о замеченных ошибках и необходимых дополнениях.
UPD: В данную статью силами сообщества вносятся изменения.
Спасибо за помощь:
- red75prim POSIX AIO
- ArsMak исправил ошибку
- Nikobraz совет про обзор VROC и iWARP
Строка рекламы подкаста "Цинковый прод" в котором на правах темы мы обсудим данную статью.
Автор: Nikita Vasilchenko
