Главная

Рубрика «Видеокарты» - 3

FlexGen на практике: получится ли запустить тяжелую модель без мощной видеокарты

2023-05-04 в 10:12, admin, рубрики: flexgen, gpu, Блог компании Selectel, Видеокарты, инструмент, Компьютерное железо, машинное обучение, оптимизация, текстовые модели

От таких штук нас обещает избавить FlexGen при работе с текстовыми моделями.

Ранее я рассказывал про создание виртуальной подруги на основе текстовой модели GPT-J, которую можно развернуть локально. Ожидаемый недостаток этой идеи — большие «аппетиты» текстовых моделей по отношению к вычислительным ресурсам. Собственно, мой последний эксперимент состоялся только благодаря карточке A100 в сервере.

В конце февраля группа исследователей опубликовала FlexGen — решение для запуска масштабных текстовых моделей в среде с ограниченными ресурсами. В теории оно должно помочь обойтись ресурсами персонального ПК, без добавления мощных видеокарт. Под катом расскажу о FlexGen и его применимости в существующем проекте.Читать полностью »

Название имеет значение: как получить оптимизацию, переименовав браузер

2023-03-16 в 9:01, admin, рубрики: amd, chromium, gpu, Блог компании Яндекс, браузер, браузеры, Видеокарты, Драйвер, Клиентская оптимизация, Компьютерное железо, оптимизация

Читать полностью »

Сколько стоит содержать виртуальную девушку? Создаем подругу, записывающую кружочки в Telegram, с помощью 4 нейросетей

2023-02-21 в 9:37, admin, рубрики: AI, c++, gpu, python, Блог компании Selectel, боты для мессенджеров, Видеокарты, виртуальный друг, искусственный интеллект, нейросети

Не так давно в интернете появилась душещипательная история, как пользователь hackdaddy8000 сперва создал виртуальную девушку, а затем усыпил ее. Моральный и мемный аспект этого события обсуждали в комментариях под новостями.

Поговорим о технической стороне. Как повторить этот шедевр и можно ли обойтись без сервисов OpenAI, которые сложно оплатить в России? И главное — сколько придется инвестировать в виртуальную подругу.
Читать полностью »

Intel всегда мечтала покорить графический рынок. Выпускать передовые ускорители, встать во главе бурно растущего рынка графических технологий, было идеей-фикс полупроводникового гиганта еще с начала 80-х годов. Впервые Intel пыталась заявить о себе с лицензированием графического контроллера NEC 7220, ставшем Intel 82720. В 1983 году этот чип лег в основу графического ускорителя, который первым на рынке поддерживал 256-цветовую гамму. В те годы рынок графических продуктов только формировался, поэтому решение от Intel не снискало популярности.

Читать полностью »

SD – это Linux, а Midjourney – Mac: краткое полное руководство по Stable Diffusion

2023-01-24 в 13:10, admin, рубрики: stable diffusion, Блог компании Selectel, Видеокарты, искусственный интеллект, машинное обучение, обзор, типы моделей, эксперимент

Вот таких тирекс-тянок выдает нейросеть

Текст про Midjourney привлек внимание, и в комментариях наметилась дискуссия про Stable Diffusion. Аргументы убедили меня попробовать SD самостоятельно, но вскоре я понял, что это не самая простая задача. Сообщество любителей Stable Diffusion произвело на свет множество удобных инструментов, которые своим количеством и сложностью могут отпугнуть новичков.

Всю неделю, что я экспериментировал с нейросетью, я боролся с желанием SD добавлять вторичные гендерные признаки по моим запросам и грустил, смотря на результаты генерации котиков. О своих страданиях частично писал в личном Telegram-канале — подписывайтесь! В этом же тексте — собрал основные советы по работе со Stable Diffusion и подвел итог, сравнив эту нейросеть с Midjourney.
Читать полностью »

Ставим эксперименты над «железом»: препарируем ARM-процессор, «Эльбрус» и сервер с 8 видеокартами

2023-01-17 в 15:09, admin, рубрики: selectel lab, Блог компании Selectel, Видеокарты, Компьютерное железо, лаба, разбор, Тестирование IT-систем, эксперименты, Эльбрус

В Selectel есть особенный отдел — Selectel Lab. Это виртуальная лаборатория, где мы ставим эксперименты над технологическими новинками ведущих вендоров. Изучить эти новинки могут и наши клиенты — предлагаем им бесплатно тестировать подобранные конфигурации в своих проектах.

В этом тексте собрали «анамнез» последних экспериментов, проведенных в нашей лаборатории. Под катом — разбор сервера на ARM-процессоре, тестирование отечественных «Эльбрусов» и препарация золотого «суперкомпьютера».
Читать полностью »

Могут ли десктопные видеокарты сравниться с серверными? Исследуем бенчмарки GPU от NVIDIA

2022-12-06 в 14:25, admin, рубрики: amd, GPU вычисления, Nvidia, Блог компании Selectel, Видеокарты, высокая производительность, Работа с видео

В этом материале мы рассмотрим несколько профессиональных видеокарт NVIDIA, а также расскажем, в чем разница с их десктопными «аналогами». Поговорим о производительности, бюджетном тестировании и о том, как подобрать GPU под свой проект, чтобы не переплачивать.
Читать полностью »