Американская компания StackRox опубликовала результаты своего недавнего исследования Kubernetes and Container Security and Adoption Trends, которое показало 50%-ный рост популярности Kubernetes среди инструментов для оркестровки контейнеров.Читать полностью »
Рубрика «Облачные вычисления» - 7
Исследование StackRox: Популярность Kubernetes продолжает стремительный рост
2019-08-05 в 7:03, admin, рубрики: devops, kubernetes, Блог компании Флант, Исследования и прогнозы в IT, Облачные вычисленияАнализ производительности ВМ в VMware vSphere. Часть 3: Storage
2019-07-24 в 6:32, admin, рубрики: esxtop, perfomance counters, performance, vcenter, VMWare ESXi, vmware vsphere, Блог компании DataLine, виртуализация, виртуальная машина, Облачные вычисления, облачные сервисы, производительностьЧасть 1. Про CPU
Часть 2. Про Memory
Сегодня разберем метрики дисковой подсистемы в vSphere. Проблема со стораджем – самая частая причина медленной работы виртуальной машины. Если в случаях с CPU и RAM траблшутинг заканчивается на уровне гипервизора, то при проблемах с диском, возможно, придется разбираться с сетью передачи данных и СХД.
Тему буду разбирать на примере блочного доступа к СХД, хотя при файловом доступе счетчики примерно те же.
Читать полностью »
Как можно использовать прерываемые виртуальные машины Яндекс.Облака и экономить на решении масштабных задач
2019-06-25 в 9:13, admin, рубрики: Блог компании Яндекс, виртуальная машина, Облачные вычисления, облачные сервисы, прерываемая виртуальная машина, Серверная оптимизация, яндекс, яндекс.облакоСегодня мы хотим рассказать о такой полезной функции Яндекс.Облака как прерываемые виртуальные машины. Это специальная опция, которую вы можете выбрать при создании виртуальной машины, чтобы использовать вычислительные ресурсы по сниженной цене. Что же такого особенного в прерываемых виртуальных машинах, почему они стоят дешевле обычных и в каких случаях разумно их применять?
Парсим 25Tb с помощью AWK и R
2019-06-17 в 12:09, admin, рубрики: awk, big data, R, spark, Блог компании Mail.Ru Group, высокая производительность, никто не читает теги, Облачные вычисления, обработка данных
Как читать эту статью: прошу прощения за то, что текст получился таким длинным и хаотичным. Чтобы сэкономить ваше время, я каждую главу начинаю со вступления «Чему я научился», в котором одним-двумя предложениями излагаю суть главы.
«Просто покажи решение!» Если вы хотите всего лишь увидеть, к чему я пришёл, то переходите к главе «Становлюсь изобретательнее», но я считаю, что интереснее и полезнее почитать про неудачи.
Недавно мне поручили настроить процесс обработки большого объёма исходных последовательностей ДНК (технически это SNP-чип). Нужно было быстро получать данные о заданном генетическом местоположении (которое называется SNP) для последующего моделирования и прочих задач. С помощью R и AWK мне удалось очистить и организовать данные естественным образом, сильно ускорив обработку запросов. Далось мне это нелегко и потребовало многочисленных итераций. Эта статья поможет вам избежать некоторых моих ошибок и продемонстрирует, что же у меня в конце концов получилось.
Читать полностью »
@Kubernetes Meetup #3 в Mail.ru Group: 21 июня
2019-06-14 в 7:51, admin, рубрики: devops, kubernetes, Mail.Ru Cloud Solutions, Блог компании Mail.Ru Group, Облачные вычисления, облачные сервисы, облачные технологииС февральского Love Kubernetes прошла, нам кажется, вечность. Немного скрасило разлуку только то, что мы успели войти в Cloud Native Computing Foundation, сертифицировать наш дистрибутив Kubernetes по Certified Kubernetes Conformance Program, а ещё запустить в сервисе Mail.ru Cloud Containers свою реализацию Kubernetes Cluster Autoscaler.
Пришло время для третьего @Kubernetes Meetup! Вкратце:
- Газпромбанк расскажет, как они используют Kubernetes в своём R&D для управления OpenStack;
- Mail.ru Cloud Solutions — как масштабировать приложения в K8S с помощью скейлеров и как готовили свою реализацию Kubernetes Cluster Autoscaler;
- а агентство Wunderman Thompson — как Kubernetes помогает им оптимизировать подход к разработке и почему в DevOps больше Dev, чем Ops.
Встреча пройдет 21 июня (пятница) в 18:30 в московском офисе Mail.ru Group (Ленинградский проспект, д. 39, стр. 79). Регистрация обязательна и закрывается 20 июня в 11:59 утра (или раньше, если закончатся места).
Читать полностью »
Анализ производительности ВМ в VMware vSphere. Часть 2: Memory
2019-06-13 в 7:17, admin, рубрики: esxtop, perfomance counters, performance, ram, swap, vmware esxi vcenter, vmware vsphere, Блог компании DataLine, виртуализация, виртуальная машина, Облачные вычисления, облачные сервисы, оперативная память, производительностьВ этой статье поговорим про счетчики производительности оперативной памяти (RAM) в vSphere.
Вроде бы с памятью все более однозначно, чем с процессором: если на ВМ возникают проблемы с производительностью, их сложно не заметить. Зато если они появляются, справиться с ними гораздо сложнее. Но обо всем по порядку. Читать полностью »
VMware NSX для самых маленьких. Часть 6. Настройка VPN
2019-05-30 в 7:26, admin, рубрики: nsx edge, VMware NSX, Блог компании DataLine, виртуализация, Облачные вычисления, облачные сервисы, Сетевые технологииЧасть первая. Вводная
Часть вторая. Настройка правил Firewall и NAT
Часть третья. Настройка DHCP
Часть четвертая. Настройка маршрутизации
Часть пятая. Настройка балансировщика нагрузки
Сегодня мы посмотрим на возможности настройки VPN, которые предлагает нам NSX Edge.
В целом мы можем разделить VPN-технологии на два ключевых вида:
- Site-to-site VPN. Чаще всего используется IPSec для создания защищенного туннеля, например, между сетью главного офиса и сетью на удаленной площадке или в облаке.
- Remote Access VPN. Используется для подключения отдельных пользователей к частным сетям организаций с помощью ПО VPN-клиента.
NSX Edge позволяет нам использовать оба варианта.
Настройку будем производить с помощью тестового стенда с двумя NSX Edge, Linux-сервера с установленным демоном racoon и ноутбука с Windows для тестирования Remote Access VPN.Читать полностью »
Анализ производительности виртуальной машины в VMware vSphere. Часть 1: CPU
2019-05-23 в 8:10, admin, рубрики: esxtop, perfomance counters, performance, vcenter, VMWare ESXi, vmware vsphere, Блог компании DataLine, виртуализация, виртуальная машина, Облачные вычисления, облачные сервисы, производительностьЕсли вы администрируете виртуальную инфраструктуру на базе VMware vSphere (или любого другого стека технологий), то наверняка часто слышите от пользователей жалобы: «Виртуальная машина работает медленно!». В этом цикле статей разберу метрики производительности и расскажу, что и почему «тормозит» и как сделать так, чтобы не «тормозило».
Буду рассматривать следующие аспекты производительности виртуальных машин:
- CPU,
- RAM,
- DISK,
- Network.
Начну с CPU.
Для анализа производительности нам понадобятся:
- vCenter Performance Counters – счетчики производительности, графики которых можно посмотреть через vSphere Client. Информация по данным счетчикам доступна в любой версии клиента (“толстый” клиент на C#, web-клиент на Flex и web-клиент на HTML5). В данных статьях мы будем использовать скриншоты из С#-клиента, только потому, что они лучше смотрятся в миниатюре:)
- ESXTOP – утилита, которая запускается из командной строки ESXi. С ее помощью можно получить значения счетчиков производительности в реальном времени или выгрузить эти значения за определенный период в .csv файл для дальнейшего анализа. Далее расскажу про этот инструмент подробнее и приведу несколько полезных ссылок на документацию и статьи по теме.
Shit happens. Яндекс удалил часть виртуальных машин в своем облаке
2019-05-16 в 23:43, admin, рубрики: devops, sla, Облачные вычисления, облачные сервисы, потеря данных, Серверное администрирование, яндекс.облако
Кадр из фильма Мстители: Война бесконечности
По сообщению пользователя dobrovolskiy 15 мая 2019 года в результате человеческой ошибки Яндекс удалил часть виртуальных машин в своем облаке.
Пользователь получил письмо от техподдержки Яндекса с таким текстом:
Сегодня мы проводили технические работы в Яндекс.Облаке. К сожалению, из-за человеческого фактора были удалены виртуальные машины пользователей в зоне ru-central1-c, которые хоть раз находились в статусе SUSPENDED. Мы сразу заметили ошибку и остановили удаление. Увы, некоторые ВМ и их boot-диски были удалены.
В результате пользователем были полностью потеряны некоторые продакшн-сервера. Бекапы у пострадавшего были, но часть данных всё равно утрачена безвозвратно. Обычно Яндекс компенсирует даун-тайм своих сервисов, согласно своей политике, но кто компенсирует потерю данных?
Читать полностью »
Netramesh – легковесное service mesh решение
2019-04-30 в 12:18, admin, рубрики: docker, Go, kubernetes, observability, tracing, Облачные вычисления, системное администрированиеВ процессе перехода от монолитного приложения к микросервисной архитектуре мы сталкиваемся с новыми проблемами.
В монолитном приложении обычно достаточно просто определить, в какой части системы произошла ошибка. Скорее всего, проблема в коде самого монолита, либо в базе данных. Но когда мы начинаем искать проблему в микросервисной архитектуре, всё уже не так очевидно. Нужно найти весь путь, который прошел запрос от начала до конца, выделить его из сотен микросервисов. Причём многие из них еще и имеют собственные хранилища, в которых также могут возникать как логические ошибки, так и проблемы с производительностью и отказоустойчивостью.
Я долго искал инструмент, который помог бы справиться с такими проблемами (писал об этом на Хабре: 1, 2), но в итоге сделал собственное опенсорсное решение. В статье я рассказываю о преимуществах подхода service mesh и делюсь новым инструментом для его реализации.