Рубрика «Nvidia»

Вычисления с GPU-ускорением на Python - 1

❯ Для чего нужен GPU?

Читать полностью »

Есть у меня такое развлечение - разные платы для AI тестировать.

Зачем? Я занимаюсь Computer Vision более 15 лет. Начинал с классического CV. Сейчас трансформеры и это всё. Но больше сейчас руковожу командами: структурирую как правильно подружить продукт и математику.

Очень много того с чем я работаю - про Computer Vision на Edge. В какой то момент я понял что мне не хватает информации. Хочешь почитать что-то про новую плату. И ничего кроме восторженного пресс-релиза про неё нет. Дай бог ещё есть видео как официальные примеры запускают. Но обычно без этого.

Читать полностью »
Настройка Linux для обучения моделей с GPU - 1

Ну что ж, сборка железа завершена! Мой стенд с GPU стоит и ждет команды к действию. Но, конечно, просто собрать ПК — это лишь начало пути. Теперь надо научить систему работать с этим зверем, установив Linux, драйвера, CUDAЧитать полностью »

Ну, вы уже поняли! RTX 4090D на 48 ГБ лучше подходит для обучения нейросетей, чем классическая версия

Ну, вы уже поняли! RTX 4090D на 48 ГБ лучше подходит для обучения нейросетей, чем классическая версия

Пока западные энтузиасты продолжают гоняться за лишними кадрами в играх, китайский рынок GPUЧитать полностью »

Опыт тюнинга Llama3 405B на AMD MI300x - 1

Введение

Опенсорсные модели становятся всё объёмнее, поэтому потребность в надёжной инфраструктуре для выполнения крупномасштабного обучения ИИ сегодня как никогда высока. Недавно наша компания выполнила fine-tuning модели LLaMA 3.1 405B на GPU AMD, доказав их способность эффективно справляться с крупномасштабными задачами ИИ. Наш опыт был крайне положительным, и мы с радостью выложили всю свою работу на Читать полностью »

Анонс GeForce RTX 5000 может состояться уже до конца 2024 года, но в продажу видеокарты поступят несколько позже

Анонс GeForce RTX 5000 может состояться уже до конца 2024 года, но в продажу видеокарты поступят несколько позже

Читать полностью »

В командах ML-инженеров часто пользуются метрикой «GPU Utilization» (Загруженность процессора), чтобы понять, насколько активно задействуется в работе процессор. Чтобы узнать эту информацию, обычно достаточно выполнить команду nvidia-smi в строке терминала. Во многих интегрированных наблюдательных инструментах загруженность процессора также отслеживается как основная характеристика производительности.Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js