Рубрика «высокая производительность» - 126

Тестируем российскую серверную платформу E-Class от «Т-Платформы» - 1 В предыдущей статье об отечественных производителях серверного оборудования я попытался раскрыть особенности всего цикла производства и сборки серверов. Результаты прошлого голосования показали, что Вы больше доверяете продукции A-брендов. Но, как известно, мало кто производит комплектующие самостоятельно — для этого есть уже проверенные мировые производители. А одним из основных отличий A-брендов, помимо сервиса, является разработка уникального дизайна корпуса, системной платы, дискретных контроллеров, написание собственного BIOS и FW.
В одном из проектов компании STSS по поставке серверного оборудования, я столкнулся с серверной платформой, спроектированной у нас, в России.
Эту статью я хочу посвятить как раз этой отечественной разработке от компании «Т-Платформы».

Серверная платформа E-Class основана на передовой системной плате V210 под процессоры Intel Xeon E5-2600V3.
Она разработана в России с перспективой переноса производства электронных плат на территорию РФ. Системная плата обеспечивает высокий уровень информационной безопасности благодаря возможности установки модулей доверенной загрузки в форм-факторе mPCIe, которые отвечают требованиям ФСТЭК и ФСБ для защиты информации, составляющей коммерческую или государственную тайну.

Читать полностью »

Яндекс.Метрика сегодня это не только система веб-аналитики, но и AppMetrica — система аналитики для приложений. На входе в Метрику мы имеем поток данных — событий, происходящих на сайтах или в приложениях. Наша задача — обработать эти данные и представить их в подходящем для анализа виде.

Эволюция структур данных в Яндекс.Метрике - 1

Но обработка данных — это не проблема. Проблема в том, как и в каком виде сохранять результаты обработки, чтобы с ними можно было удобно работать. В процессе разработки нам приходилось несколько раз полностью менять подход к организации хранения данных. Мы начинали с таблиц MyISAM, использовали LSM-деревья и в конце концов пришли к column-oriented базе данных. В этой статье я хочу рассказать, что нас вынуждало это делать.

Яндекс.Метрика работает с 2008 года — более семи лет. Каждый раз изменение подхода к хранению данных было обусловлено тем, что то или иное решение работало слишком плохо — с недостаточным запасом по производительности, недостаточно надёжно и с большим количеством проблем при эксплуатации, использовало слишком много вычислительных ресурсов, или же просто не позволяло нам реализовать то, что мы хотим.
Читать полностью »

Как известно, для обработки соединений NGINX использует асинхронный событийный подход. Вместо того, чтобы выделять на каждый запрос отдельный поток или процесс (как это делают серверы с традиционной архитектурой), NGINX мультиплексирует обработку множества соединений и запросов в одном рабочем процессе. Для этого применяются сокеты в неблокирующем режиме и такие эффективные методы работы с событиями, как epoll и kqueue.

За счет малого и постоянного количества полновесных потоков обработки (обычно по одному на ядро) достигается экономия памяти, а также ресурсов процессора на переключении контекстов. Все преимущества данного подхода вы можете хорошо наблюдать на примере самого NGINX, который способен обрабатывать миллионы запросов одновременно и хорошо масштабироваться.

Пулы потоков: ускоряем NGINX в 9 и более раз - 1

Каждый процесс расходует память и каждое переключение между ними требует дополнительных циклов процессора, а также приводит к вымыванию L-кэшей

У медали есть и обратная сторона. Главной проблемой асинхронного подхода, а лучше даже сказать «врагом» — являются блокирующие операции. И, к сожалению, многие авторы сторонних модулей, не понимая принципов функционирования NGINX, пытаются выполнять блокирующие операции в своих модулях. Такие операции способны полностью убить производительность NGINX и их следует избегать любой ценой.

Но даже в текущей реализации NGINX не всегда возможно избежать блокировок. И для решения данной проблемы в NGINX версии 1.7.11 был представлен новый механизм «пулов потоков». Что это такое и как его применять разберем далее, а для начала познакомимся с нашим врагом в лицо.Читать полностью »

Здравствуйте, дорогие читатели!

Не так давно мы занялись проработкой книги "Writing High-Performance .NET code", которая до сих пор не переведена на русский язык, хотя ей и скоро год.

Высокопроизводительный код на платформе .NET - 1

Нас, конечно, не удивило, что такую книгу уже растаскивают на цитаты, однако выяснилось, что уважаемый автор Бен Уотсон даже выложил на сайте «Codeproject» целую статью, написанную по мотивам одной из глав. К сожалению, объем этого материала слишком велик для хабропубликации, однако мы решили все-таки перевести первую часть статьи, чтобы вы могли оценить материал книги. Приглашаем к прочтению и к участию в опросе. Кроме того, если все-таки целесообразно перевести и вторую часть — пишите в комментариях, постараемся учесть ваши пожелания.
Читать полностью »

image Илон Маск врывается в автомобильную и космическую индустрию с Tesla и SpaceX. Интересно, что первая полностью отказывается от двигателей внутреннего сгорания, в то время, как вторая наоборот, пытается изобрести новые технологии для сжигания топлива и осуществить пилотируемый полёт на Марс.

На последней конференции GPU Technology Conference, организованной компанией Nvidia, мы узнали, что доставка группы людей на Марс и обратно – задача непростая. Одна из проблем такой миссии – необходимость в большом и эффективном ракетном двигателе, который сможет доставить много материала на орбиту, — так объяснил нам Адам Лихтл, директор исследовательской группы SpaceX. С командой из нескольких десятков программистов он пытается справиться со сложной задачей улучшить симуляцию сгорания внутри ракетного двигателя. Для укорачивания полётов к Марсу также нужен большой двигатель.
Читать полностью »

Несмотря на скепсис многих аналитиков, «проект Odyssey» запущенный компанией Hewlett-Packard осенью 2011 года сегодня реализован в реальных продуктах.
И с марта 2015 года Hewlett-Packard начинает поставки своих серверов Integrity Superdome X и NonStop X с процессорами Intel Xeon E7.
Эти сервера предназначены для выполнения ответственных задач под управлением ОС Linux, а чуть позднее обещают поддержку Microsoft Windows Server 2012 и SQL Server — см. статью: «HP представила серверы Superdome и NonStop на платформе x86».

Integrity Superdome X и NonStop X имеют до 16 процессоров Xeon и до 3 Тб ОЗУ, и объединяя их в кластеры, из них можно построить единую систему включающую до 4080 процессоров (настоящий суперкомпьютер)!

Кроме Hewlett-Packard отказоустойчивые сервера, построенные по лекалам mainframe и включающие ширпотребные процессоры Intel Xeon E7 сегодня также выпускает компания Fujitsu. И менеджеры Fujitsu грозятся своим сервером PRIMEQUEST 2000 уничтожить RISC-сервера как класс:) — см. статью: «FUJITSU против всех или Японский убийца RISC серверов».

Кстати Hewlett-Packard тем у кого исторически используется СУБД Microsoft SQL Server, а бизнес вырос до невероятных пределов и переходить (принципиально меняя своё разработанное ПО) на RISC/UNIX-системы очень не хочется — теперь рекомендует просто купить новый mainframe-подобный сервер HP Integrity Superdome X на Intel Xeon E7 и под управлением Microsoft Windows Server 2012 с СУБД SQL Server!
Для некоторых корпоративных IT-отделов это новость, может показаться невероятной новой возможностью (как открытие Америки Колумбом), снимающая многолетнюю головную боль:)
Microsoft, со своей стороны, обещает бросить все свои сила на поддержку этих чудных серверов HP Integrity Superdome X прокладывающими мост между двух миров: «ширпотребными x86-серверами» и «критически важным корпоративным бизнесом»!
Читать полностью »

Почему PayPal заменил VMware OpenStack-ом? - 1

Почти 100% трафика, идущего через PayPal и API сервиса, включая сервисы-посредники, сейчас обслуживается частным облаком OpenStack, которым владеет сама компания.

OpenStack заменил VMware в принадлежащих eBay дата-центрах, через которые проходят платежи. Преобразования шли поэтапно, а началось все во время шоппинг-сезона 2011 года, когда инфраструктурная команда PayPal решила перевести около 20% трафика компании на облако OpenStack.
Читать полностью »

Что нам стоит открытый дата-центр построить? Некоторые подробности о структуре ДЦ Facebook в Алтуне - 1

За последний год корпорация Facebook привнесла много интересного в стандарты разработки сетевого оборудования. При этом если большинство разработчиков оставляет свои проекты проприетарными, то Facebook открывает инновации для других. Собственно, для компании, цель которой — обеспечить обществу обмен информации, такая модель работы имеет смысл. При этом открытая схема работы позволяет Facebook экономить средства. По оценкам Джеймса Тейлора, вице-президента компании по инфраструктуре, за последние 3 года Facebook сэкономила более $2 млрд, разрешив членам «Open Compute Project» работать по собственным спецификациям.
Читать полностью »

В статье представляются результаты тестирования оптимизированных алгоритмов шифрования ГОСТ, полученные в сентябре и марте 2014 г. компанией “Код Безопасности”, на новых серверных процессорах Intel, а также на графических процессорах различных производителей.

Ускорение шифрования ГОСТ 28147–89

С развитием ИТ-технологий резко возросли объемы данных, передаваемых по глобальной сети Интернет, находящихся в сетевых хранилищах и обрабатываемых в «облаках». Часть этих данных конфиденциальна, поэтому необходимо обеспечить их защиту от несанкционированного доступа. Для защиты конфиденциальных данных традиционно используется шифрование, а при шифровании больших объемов используют алгоритмы симметричного шифрования, такие как широко известный блочный алгоритм – AES. Для соответствия российскому законодательству при шифровании таких сведений, как персональные данные, необходимо использовать отечественный алгоритм симметричного блочного шифрования ГОСТ 28147–89. Читать полностью »

Топливные ячейки как надежный источник энергии для дата-центра? - 1
Топливные ячейки Bloom Energy в новом дата-центре CenturyLink

Топливные ячейки, по мнению некоторых компаний — это один из оптимальных вариантов обеспечения транспортных средств или инфраструктурных объектов энергией. Одной из компаний, руководство которых согласно с этой точкой зрения, является CenturyLink. Эта компания постепенно расширяет свои дата-центры, а для этого нужна энергия. CenturyLink договорилась с Bloom Energy о покупке 500 кВт энергостанции, позволяющей вырабатывать энергию на месте.

Договор был анонсирован еще в 2013 году, и теперь сделка закрыта: дата-центр расширен, а энергостанция на топливных ячейках принадлежит CenturyLink, обеспечивая электричеством новые мощности. Общая мощность нового дата-центра составляет 2 МВт, при этом топливные ячейки поставляют около четверти всей этой энергии.
Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js