Привет! В этом посте я продолжаю цикл статей о том, как выжать максимум из обычного VPS от RUVDS. В прошлый раз мы экспериментировали с языковыми моделями, а сегодня попробуем запустить систему распознавания речи — FasterWhisper, оптимизированную версию модели Whisper от OpenAI. Как и в прошлый раз, сделаем это в рамках бюджета в 5000 рублей в месяц.Читать полностью »
Рубрика «Серверное администрирование»
Поднимаем в облаке расшифровку речи в текст с помощью нейросетей. VPS на пределе возможностей
2024-12-17 в 9:01, admin, рубрики: OpenAI, ruvds_статьи, vps, Whisper, искуственный интеллект, машинное обучение, нейросети, облака, сервера, Серверное администрированиеМы потратили 320 тысяч рублей ради Nvlink для нейросетей. Но был ли в этом смысл?
2024-11-25 в 10:53, admin, рубрики: A5000, llama, Nvidia, NVLink, ServerFlow, Видеокарты, ИИ, искуственный интеллект, машинное обучение, Серверное администрированиеПривет, с вами снова ServerFlow. И да, мы потратили 320 тысяч рублей, чтобы проверить, есть ли какой-то толк от Nvlink при развертывания нейросетей? Тесты мы провели на двух видеокартах Nvidia A5000 24GB, сначала объединённые NVLink, а после без него. Для наглядности теста нами была выбрана последняя языковая модель LLaMA 3.2 на 90 миллиардов параметров. Что у нас в итоге вышло – сможете узнать ниже в посте.
Почему сервер не просто «большой макбук». Часть 1
2023-08-10 в 9:12, admin, рубрики: cpu, memory, numa, ram, Компьютерное железо, Процессоры, Серверное администрирование, системное администрированиеТопология памяти
Очень часто вижу подход к серверам и вычислительной инфраструктуре на кухонном уровне даже от вроде бы профессиональных людей с высочайшими ЗП в полмиллиона и выше.
Сервер - это просто большой макбук, а СХД просто большой диск.
Итак, давайте разбираться. И начнем со страшной темы - топология памяти.
Объяснять буду реально на желудях и шишках, поэтому сразу просьба к крутым суперпрофи - не надо пытаться меня уличить, это не для вас написано.
Админы, без вас мы только Users
2023-07-28 в 10:18, admin, рубрики: serverspace, vps, Блог компании Serverspace, виртуальная машина, облачные технологии, сервер, Серверное администрирование, системное администрирование, системный администраторДорогие читатели Habr!
Сегодня мы с радостью отмечаем День администратора, посвященный тем, благодаря кому наши сети функционируют безупречно, а серверы работают словно синхронизированные оркестровые инструменты.
Вам нужно увеличить RAM и перейти на SSD…
2023-07-23 в 11:10, admin, рубрики: pagefile, ram, ruvds_статьи_выходного_дня, ssd, swap, Блог компании RUVDS.com, Серверное администрирование, системное администрирование
Задумывались ли вы, хватает ли вашему компьютеру, локальному или удалённому серверу оперативной памяти? Задумывались, но не знаете, как это определить? А накопители какого типа вы предпочитаете? Надеемся, данная статья поможет вам в этом разобраться.
Читать полностью »
Софт для самохостинга: что нового в 2023 году
2023-07-05 в 9:00, admin, рубрики: AdGuard, Caddy, chatgpt, copilot, docker, home assistant, llm, Mako, NAS, nextcloud, on-prem, open source, Pi-Hole, plex, poste.io, roundcube, ruvds_статьи, Sandstorm, Tailscale, transmission, Turbopilot, Wayback, wireguard, Блог компании RUVDS.com, самохостинг, Серверное администрирование, Софт, хостингСреди обычных пользователей (физлиц) в последнее время наметилась тенденция ухода из облака на свою инфраструктуру. Об экономии тут речи обычно не идёт, потому что облачные сервисы Google, Apple и прочие заманивают бесплатными тарифами. Но у людей растёт понимание, что нельзя доверять Google. Надеяться можно только на себя.
В связи с этим стоит внимательнее посмотреть на стандартный софт для самохостинга, а также на последние новинки, которые имеют шанс заменить что-то из стандартного набора.Читать полностью »
11 лет хостинга SaaS: история и мой опыт
2023-06-25 в 10:00, admin, рубрики: AWS, digital ocean, heroku, ruvds_перевод, SaaS, vps, Администрирование баз данных, Блог компании RUVDS.com, облачные сервисы, опыт управления, Серверное администрирование, хостингНашему ресурсу Tanda скоро исполняется 11 лет. По этому поводу один из моих читателей высказал идею, что было бы классно поразмышлять на тему опыта, который я получил за долгие годы управления этим приложением.
В итоге я просидел над этой статьёй целую вечность, потому что процессы развёртывания, хостинга и управления инфраструктурой в целом на протяжении десяти лет являлись, пожалуй, наиболее трудной и беспокойной частью моей работы. В основном причина в том, что я постоянно окунался в омут с головой и зачастую не понимал, что делал. К сожалению, когда у вас есть активное приложение, которое используют многие люди, вы не всегда находите время на подобающее изучение матчасти.
Изложенная в этой статье история разбита на несколько этапов, через которые мы прошли. Я написал её, чтобы те, кто окажется на аналогичном пути, могли миновать некоторые из его острых углов.Читать полностью »
Клонирование ОС под шифрованным LVM на меньший по объему диск
2023-06-25 в 6:00, admin, рубрики: luks, LVM, resize, shrinking, клонирование, Настройка Linux, Серверное администрирование, системное администрирование, уменьшение дискаВ рабочих процессах клонирование Linux-хостов для меня стало обычным делом. Но однажды пришлось клонировать сервер с LVM и шифрованием LUKS на меньший по объему диск. И оказалось не все так просто.
Прошу заметить, у меня работал этот метод исключительно на железных серверах. На KVM с qcow2 дисками это сделать не получилось, система после разблокировки LUKS сваливалась в initframfs с ошибками, что отсутствует
/bin
и/sbin
. Это последствия клонирования с ошибками, возможно надо использовать другие инструменты, напримерdd
.
Ошибки, с которыми я столкнулся на виртуальных машинах
Как протокол RDP (почти) вырвался из проприетарного рабства
2023-06-21 в 9:00, admin, рубрики: FreeRDP, IT-стандарты, KRDC, Microsoft Remote Desktop, Microsoft Terminal Services Client, mstsc.exe, NeutrinoRDP, open source, rdesktop, rdp, Remote Desktop Protocol, Remote Desktop Services, ruvds_статьи, Terminal Services, Windows MSTSC, xrdp, Блог компании RUVDS.com, Серверное администрирование, системное администрированиеRemote Desktop Protocol (протокол удалённого рабочего стола, RDP) — проприетарный протокол, разработанный Microsoft примерно в 1998 году. Начиная с XP каждая версия Windows включает системный компонент
mstsc.exe
.
Благодаря RDP, можно подключиться к другой системе и работать за ней словно за своим компьютером. То же самое делают, например, AnyDesk и TeamViewer, у которых протоколы схожей функциональности.
Читать полностью »
Изменить порт по умолчанию или настроить файрвол правильно?
2023-05-30 в 9:00, admin, рубрики: firewall, linux, rdp, ruvds_статьи, security, ssh, vds, vps, windows, Блог компании RUVDS.com, информационная безопасность, Серверное администрирование, системное администрирование, хостингЛюбой сервер, подключенный напрямую к сети интернет, должен быть надёжно защищён.
Будем разбираться, как этого достичь и что можно использовать.
Читать полностью »