Рубрика «gpu»
Вычисления с GPU-ускорением на Python
2024-10-26 в 8:05, admin, рубрики: c++, cpu, CUDA, gpu, Nvidia, pycuda, python, timeweb_статьи_перевод, Процессоры
Настройка Linux для обучения моделей с GPU
2024-09-27 в 15:10, admin, рубрики: gpu, linux, Nvidia, python, нейросети
Ну что ж, сборка железа завершена! Мой стенд с GPU стоит и ждет команды к действию. Но, конечно, просто собрать ПК — это лишь начало пути. Теперь надо научить систему работать с этим зверем, установив Linux, драйвера, CUDAЧитать полностью »
Что должен знать каждый разработчик о вычислениях на GPU
2024-09-18 в 8:42, admin, рубрики: gpu, графические процессорыБольшинство программистов отлично разбираются в работе процессоров и последовательном программировании, поскольку с самого начала пишут код для CPU. Однако многие из них меньше знают о том, как устроены графические процессоры (GPU) и в чем заключается их уникальность. За последнее десятилетие GPU стали чрезвычайно важны благодаря широкому применению в глубоком обучении, и сегодня каждому разработчику необходимо обладать базовыми знаниями о том, как они работают. Цель этой статьи — дать вам это понимание.
При написании этой статьи я во многом опирался на книгу Читать полностью »
Мощь и заоблачная цена: что известно о видеокартах NVIDIA GeForce RTX 5000-й серии
2024-09-12 в 7:59, admin, рубрики: GeForce, gpu, Nvidia, rtx 4090, xcom-shop, Видеокарты
Загруженность GPU — не самая репрезентативная метрика
2024-09-08 в 17:39, admin, рубрики: cuda toolkit., gpu, Nvidia, производительность, ПроцессорыВ командах ML-инженеров часто пользуются метрикой «GPU Utilization» (Загруженность процессора), чтобы понять, насколько активно задействуется в работе процессор. Чтобы узнать эту информацию, обычно достаточно выполнить команду nvidia-smi в строке терминала. Во многих интегрированных наблюдательных инструментах загруженность процессора также отслеживается как основная характеристика производительности.Читать полностью »
Топ 10 ИИ-фреймворков, или Сказ о том, как AMD проиграла рынок NVIDIA
2024-09-02 в 12:52, admin, рубрики: amd, gpu, Nvidia, Видеокарты, ии-фреймворк
Разгоняем Sonoma: Секреты оптимизации GPU для максимальной производительности macOS 14
2024-08-29 в 8:15, admin, рубрики: Apple Silicon, gpu, MacOS, графический процессор, настройка mac, оптимизация, производительность GPU
Введение: Новая эра графической мощности в macOS 14 Sonoma
Гики и маководы! Готовы прокачать свой Mac до небес? Тогда пристегните ремни — мы отправляемся в увлекательное путешествие по закоулкам macOS 14 Sonoma, чтобы выжать максимум из вашего железного коня!
С выходом Читать полностью »
GPU для дата-центров
2024-08-28 в 9:00, admin, рубрики: AI, AMD Ryzen AI 300, AMD XDNA, Core Ultra, GB200, gpu, Grace Blackwell Superchip, Instinct MI300X, Instinct MI325X, Intel AI Boost, MediaTek, npu, Nvidia B200, Nvidia GH100, Nvidia H100, Nvidia H200, OpenVINO, Qualcomm Hexagon, Qualcomm Snapdragon X, ruvds_статьи, TPU, ИИ
Серверный узел с восемью GPU-ускорителями AMD Instinct MI325X (2,3 ТБ видеопамяти, 8×750 Вт)
Современные дата-центры уже не такие, как прежде. Раньше на типичный сервер поставили бы 144-ядерный CPU, много RAM и десяток HDD/SSD. Но теперь приоритеты меняются, в первую очередь из-за высокого спроса на машинное обучение (ML) и приложения LLM. Хотя аппетит к памяти только вырос, но процессоры нужны другие.
И крупным корпорациям, и маленьким компаниям нужно железо для обсчёта ИИ-приложений. Это GPU-ускорители, NPU (Neural Processing Unit) и TPU (Tensor Processing Unit), AI-чипы нового поколения. Нужны серверы с GPU. Открываются даже специализированные GPU-облака на растущем спросе.
Читать полностью »
Как подружить PyTorch и видеокарты AMD с помощью pytorch_dlprim
2024-08-20 в 9:00, admin, рубрики: amd, gpu, opencl, pytorch, ruvds_статьи
Когда начинаешь изучать или использовать машинное обучение, то думаешь, как приспособить те устройства, которые есть в наличии, чтобы снизить свои траты на вход. И, в частности, обладатели довольно мощных старых карт AMD (типа AMD Fury), на которых легко идут довольно тяжёлые игры типа Cyberpunk 2077 или Atomic Heart, сталкиваются с тем, что эти GPU бесполезны для PyTorch и других фреймворков машинного обучения. Да и самые современные карты AMD 7900-й серии работают с PyTorch только из под Linux. Также есть редкие карты других брендов, типа Intel Arc или китайские, которые хотелось бы использовать для машинного обучения.
Итак, в этой статье я приведу подход, который в некоторых случаях может помочь. Он сыроват, но других работающих вариантов под PyTorch я не нашёл. Итак, речь пойдёт о проекте израильского разработчика Артёма Бейлиса (Тонких) pytorch_dlprim.
Читать полностью »
Как управлять миром шестиугольных призм на GPU
2024-07-08 в 9:01, admin, рубрики: 3d, c++, glsl, gpu, GPU вычисления, minecraft
Недавно я реализовал очень необычную задумку — демонстрацию Minecraft-подобного движка с игровой логикой, выполняющейся полностью на GPU.
Как и зачем я это сделал, и как дошёл до жизни такой, я поведаю в этой статье.
Внимание, в статье есть много скриншотов!