Рубрика «Nvidia» - 2

Есть у меня такое развлечение - разные платы для AI тестировать.

Зачем? Я занимаюсь Computer Vision более 15 лет. Начинал с классического CV. Сейчас трансформеры и это всё. Но больше сейчас руковожу командами: структурирую как правильно подружить продукт и математику.

Очень много того с чем я работаю - про Computer Vision на Edge. В какой то момент я понял что мне не хватает информации. Хочешь почитать что-то про новую плату. И ничего кроме восторженного пресс-релиза про неё нет. Дай бог ещё есть видео как официальные примеры запускают. Но обычно без этого.

Читать полностью »
Настройка Linux для обучения моделей с GPU - 1

Ну что ж, сборка железа завершена! Мой стенд с GPU стоит и ждет команды к действию. Но, конечно, просто собрать ПК — это лишь начало пути. Теперь надо научить систему работать с этим зверем, установив Linux, драйвера, CUDAЧитать полностью »

Ну, вы уже поняли! RTX 4090D на 48 ГБ лучше подходит для обучения нейросетей, чем классическая версия

Ну, вы уже поняли! RTX 4090D на 48 ГБ лучше подходит для обучения нейросетей, чем классическая версия

Пока западные энтузиасты продолжают гоняться за лишними кадрами в играх, китайский рынок GPUЧитать полностью »

Опыт тюнинга Llama3 405B на AMD MI300x - 1

Введение

Опенсорсные модели становятся всё объёмнее, поэтому потребность в надёжной инфраструктуре для выполнения крупномасштабного обучения ИИ сегодня как никогда высока. Недавно наша компания выполнила fine-tuning модели LLaMA 3.1 405B на GPU AMD, доказав их способность эффективно справляться с крупномасштабными задачами ИИ. Наш опыт был крайне положительным, и мы с радостью выложили всю свою работу на Читать полностью »

Анонс GeForce RTX 5000 может состояться уже до конца 2024 года, но в продажу видеокарты поступят несколько позже

Анонс GeForce RTX 5000 может состояться уже до конца 2024 года, но в продажу видеокарты поступят несколько позже

Читать полностью »

В командах ML-инженеров часто пользуются метрикой «GPU Utilization» (Загруженность процессора), чтобы понять, насколько активно задействуется в работе процессор. Чтобы узнать эту информацию, обычно достаточно выполнить команду nvidia-smi в строке терминала. Во многих интегрированных наблюдательных инструментах загруженность процессора также отслеживается как основная характеристика производительности.Читать полностью »

NVIDIA Grace

NVIDIA Grace

Привет! Мы в ServerFlow не просто поставляем серверное оборудование – мы железо всех видов и сортов горячо любим и им интересуемся, особенно историей его развития. Сегодня мы хотим поделиться с вами историей развития ARM-направления в NVIDIA — от первых попыток в мобильном сегменте до недавних стратегических ходов, включая неудавшуюся попытку приобрести ARM Holdings.

Читать полностью »

В этой статье будут встречаться термины, которые я намеренно не перевожу из-за того, что перевод либо звучит ужасно, либо не отражает сути термина.

Читать полностью »

Рисуем фракталы на Rust и CUDA - 1

Фракталы — это бесконечные самоподобные фигуры. Они определяются простыми математическими формулами, которые создают удивительную красоту!

В этой статье мы рассмотрим алгоритм визуализации одного из самых известных фракталов на языке Rust с аппаратным ускорением NVIDIA, масштабированием, сглаживанием и многопоточностью.

Множество Мандельброта

Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js