Всем привет! Не так давно завершился HighLoad Cup. От многих участников поступала масса вопросов об устройстве чемпа изнутри. Мы, команда разработки чемпионатов и образовательных проектов Mail.Ru Group, в данной статье расскажем об устройстве чемпа, о внутренних механиках и немного об истории проведения первого HighLoad Cup!
Рубрика «высокая производительность» - 79
Первый HighLoad Cup: как мы это пережили
2017-11-23 в 13:13, admin, рубрики: highloadcup, mail.ru, Блог компании Mail.Ru Group, высокая производительность, ненормальное программирование, Спортивное программирование, чемпионатВерсионирование и деплой кода PostgreSQL
2017-11-23 в 10:57, admin, рубрики: deploy, pgbouncer, php, plpgsql, postgresql, Блог компании Avito, высокая производительностьСотни баз данных и тысячи хранимых процедур. Как это всё писать, тестировать и деплоить на множество серверов с возможностью быстрого отката в условиях хайлоад 24х7 и не умереть? Интересно? Добро пожаловать под кат!
10 очевидных шагов для подготовки инфраструктуры интернет-магазина к Чёрной пятнице
2017-11-23 в 8:30, admin, рубрики: ecommerce, highload, Блог компании Флант, высокая производительность, интернет-магазины, Серверное администрирование, системное администрирование, черная пятница
Несмотря на то, что мы предпочитаем писать про микросервисы, Kubernetes и прочее из области cloud native, нам хорошо известен и другой мир — гораздо более реальный, если посмотреть «в массе», например, на интернет-магазины (даже весьма успешные). В нём нет автоматического provisioning и масштабирования, сложной балансировки нагрузки и прочих красивых технических решений. Зато есть «Чёрная пятница», которая уже завтра, а значит — времени на подготовку практически не осталось. Конечно, наш рецепт №1 по качественной подготовке к ней (а заодно и получению целого букета дополнительных плюсов) — миграция на микросервисную архитектуру и Kubernetes, но предположим, что по какой-то причине этот вариант не подходит (до завтра его всё равно не реализовать).
Эта статья — список более-менее быстрых действий для оптимизации типовой инфраструктуры интернет-магазина (рассматриваются примеры с nginx, Apache, PHP, MySQL) с целью её подготовки к высоким нагрузкам. Они могут быть весьма очевидны для опытных системных администраторов, однако наверняка окажутся полезными для тех, кто глубоко ещё не погружался в эти вопросы, а их актуальность стремительно нарастает. Итак, попробуем выжать максимум из того, что есть в инфраструктуре, или хотя бы взять на заметку те основные вопросы, которыми стоит озаботиться перед следующими всплесками нагрузки.Читать полностью »
Когда стоит переходить к автоматизации тестирования
2017-11-20 в 15:07, admin, рубрики: heisenbug2017moscow, автоматизация тестирования, Алан Пейдж, Блог компании JUG.ru Group, высокая производительность, гейзенбаг, Тестирование IT-систем, Тестирование веб-сервисовВ этот раз мы поговорили об автоматическом тестировании с Аланом Пейджем, приложившим руку к созданию Windows 95, Internet Explorer и MS Office. Алан — великолепный специалист и собеседник. В этом интервью он простым и доступным языком рассказывает о нетривиальных аспектах процесса. Мы сконцентрировались на вопросах определения границ между разработкой и тестированием, проблемах с легаси, оценке качества тестов и отличии тестирования крупных проектов от малых.
Как PacketZoom Mobile Expresslane увеличивает производительность приложений
2017-11-20 в 9:39, admin, рубрики: PacketZoom, Блог компании GlobalDots, высокая производительность, разработка мобильных приложений, разработка приложений, Тестирование мобильных приложенийМы в GlobalDots используем разные инструменты для увеличения производительности приложений. В списке популярных проблем мобильных приложений часто всплывает низкая конверсия, большой процент обрывов соединений, медленная работа сторонних API. CDN не спасает от всех бед. Мы хотим рассказать о PacketZoom Mobile Expresslane — программном решении ускоренной передачи контента между облаками и мобильными приложениями через собственный протокол на основе UDP для обработки HTTP-запросов вместо TCP/IP.
PacketZoom Mobile Expresslane SDK — не единственное решение своего рода, но оно распространено достаточно широко и умеет решать разные проблемы. В этой статье мы составили выборку из различных кейсов, чтобы вы могли прикинуть, будет ли вам интересен PacketZoom Mobile Expresslane, стоит ли присматриваться к нему дальше.
Оптимизация скорости визуализации веб-страниц
2017-11-20 в 5:38, admin, рубрики: canvas, holyjs, holyjs2017moscow, javascript, JS, performance, WebGL, Блог компании JUG.ru Group, высокая производительность, Мартин Сплитт, производительность, Разработка веб-сайтовНередко рассказы о том, как веб-разработчики заботятся о своих приложениях, начинаются с процесса визуализации сайта, опускаются на уровень DOM и останавливаются на утверждениях типа: «И это быстро потому, что используется ускорение». Мартин Сплитт рассказывает о производительности снизу вверх: он начинает с пикселя и поднимается уровень за уровнем, заканчивая компоновкой страницы.
В основе статьи – выступление Мартина на JavaScript-конференции HolyJS 2017 в Питере, где он рассказывает о том, как происходит визуализация в браузерах и что нужно делать для того, чтобы ваши сайты «летали».
CubeDB: минималистичное хранилище счётчиков с многомерными ключами
2017-11-17 в 12:38, admin, рубрики: badoo, BI, CubeDB, java, open source, redis, Блог компании Badoo, высокая производительность, Программирование
Привет! Меня зовут Дима Станко, я работаю в BI-команде Badoo в лондонском офисе. Так уж сложилось в нашей компании, что мы стараемся проводить как можно больше измерений активности пользователей. Это необходимо многим специалистам: разработчики тестируют работоспособность кода, коллеги из продуктовых команд убеждаются в гениальности своих идей, админы – в том, что энтропия восторжествует не этой ночью, а коллеги из отдела антиспама – что добро как раз побеждает зло в вечной и эпической схватке.
Обо всём этом мы писали много раз и будем писать ещё, поскольку считаем, что наступать на грабли и не рассказывать о них другим – нехорошо.
Переписать базу сообщений ВКонтакте с нуля и выжить
2017-11-17 в 11:27, admin, рубрики: Алгоритмы, базы данных, Блог компании ВКонтакте, Вконтакте, высокая производительность, структуры данных, хайлоад, хранение данных, хранилища данныхНаши пользователи пишут друг другу сообщения, не зная усталости.
Это довольно много. Если бы Вы задались целью прочитать все сообщения всех пользователей, это бы заняло больше 150 тысяч лет. При условии, что Вы довольно прокачанный чтец и тратите на каждое сообщение не больше секунды.
При таком объёме данных критически важно, чтобы логика хранения и доступа к ним была построена оптимально. Иначе в один не такой уж и прекрасный момент может выясниться, что скоро всё пойдёт не так.
Для нас этот момент наступил полтора года назад. Как мы к этому пришли и что получилось в итоге — рассказываем по порядку.Читать полностью »
Как облачный сервис Кабинет Дримкас справляется со спонтанными нагрузками
2017-11-15 в 9:23, admin, рубрики: 54-ФЗ, RabbitMQ, Анализ и проектирование систем, Блог компании Дримкас, выравнивание ресурсов, высокая производительность, Дримкас, интернет-магазины, онлайн-кассы, очереди, Проектирование и рефакторинг, Развитие стартапа, спонтанные нагрузки, транспорт, трафик
Однажды днем у нас обрушился сайт. Сразу после ребута он падал снова. Мы знали, что это не DDOS, а органический трафик: к нам поступали типичные запросы, но сервера не справлялись. Увеличение мощности железа не помогало. Стало ясно, что пора оптимизировать нашу систему.
Молодым стартапам может быть интересно, как справляться с возросшими нагрузками на еще неокрепшее серверное ПО.
Миграция базы данных с InnoDB на MyRocks
2017-11-15 в 9:21, admin, рубрики: high performance, myrocks, mysql, rocksdb, Администрирование баз данных, Блог компании Badoo, высокая производительность
Зоджи-Ла, Индия
Привет! Меня зовут Олег Ефимов, я работаю в Badoo в команде «Платформа», занимаюсь задачами хранения фотографий, интерфейсами сервисов и много чем ещё.
Мне часто приходится слышать, что в том, что касается серверных технологий, Badoo – довольно консервативная компания. Отчасти это так, но на самом деле мы используем много молодых языков программирования, новых инструментов и технологий. Одна из них – RocksDB, на основе которой Facebook создал MySQL storage engine – MyRocks. Пост о том, как Facebook осуществлял миграцию одной из своих баз данных с InnoDB на MyRocks, мне и захотелось для вас перевести.