Рубрика «Nvidia» - 3

Чем серверные GPU-ускорители отличаются от потребительских видеокарт - 1

Привет! Сегодня посвятим наш спич разговорам о видеокартах, их различиям и вопросам импортозамещения технологий.

Читать полностью »

Видеокарты играют важную роль в современных компьютерах и используются не только для игр, но и других задач. Видеокарты в современном мире применяются как ускорители вычислений. В них одновременно выполняется множество вычислений, что делает их особенно эффективными для специфических задач, таких как нейронные сети. Поэтому видеокарты сейчас востребованы и активно применяются. В dBrain.cloud мы используем видеокарты Nvidia с платформой CUDA, которая позволяет писать код, исполняемый на графическом адаптере.

Читать полностью »

Привет! На связи команда mClouds. В октябре мы писали об успехах Intel: несмотря на финансовые неудачи, компания вывела на рынок новый процессор — Intel Xeon 6900P. И вот уже на основе этих процессоров IT-компания NEC собирает суперкомпьютер следующего поколения для японского Национального института квантовой науки и технологии (QST). В систему также включат ускорители AMD Instinct, чтобы достичь производительности 40,4 петафлопса.

Рассказываем, из какого железа будет состоять будущий суперкомпьютер и для какой цели его создают.

Что внутри нового суперкомпьютера

Читать полностью »

Привет, с вами снова ServerFlow. И да, мы потратили 320 тысяч рублей, чтобы проверить, есть ли какой-то толк от Nvlink при развертывания нейросетей? Тесты мы провели на двух видеокартах Nvidia A5000 24GB, сначала объединённые NVLink, а после без него. Для наглядности теста нами была выбрана последняя языковая модель LLaMA 3.2 на 90 миллиардов параметров. Что у нас в итоге вышло – сможете узнать ниже в посте.

Читать полностью »
Вычисления с GPU-ускорением на Python - 1

❯ Для чего нужен GPU?

Читать полностью »

Есть у меня такое развлечение - разные платы для AI тестировать.

Зачем? Я занимаюсь Computer Vision более 15 лет. Начинал с классического CV. Сейчас трансформеры и это всё. Но больше сейчас руковожу командами: структурирую как правильно подружить продукт и математику.

Очень много того с чем я работаю - про Computer Vision на Edge. В какой то момент я понял что мне не хватает информации. Хочешь почитать что-то про новую плату. И ничего кроме восторженного пресс-релиза про неё нет. Дай бог ещё есть видео как официальные примеры запускают. Но обычно без этого.

Читать полностью »
Настройка Linux для обучения моделей с GPU - 1

Ну что ж, сборка железа завершена! Мой стенд с GPU стоит и ждет команды к действию. Но, конечно, просто собрать ПК — это лишь начало пути. Теперь надо научить систему работать с этим зверем, установив Linux, драйвера, CUDAЧитать полностью »

Ну, вы уже поняли! RTX 4090D на 48 ГБ лучше подходит для обучения нейросетей, чем классическая версия

Ну, вы уже поняли! RTX 4090D на 48 ГБ лучше подходит для обучения нейросетей, чем классическая версия

Пока западные энтузиасты продолжают гоняться за лишними кадрами в играх, китайский рынок GPUЧитать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js